保留有效數字的乘除運算之前的修約技巧

時間 2021-06-03 18:49:34

1樓:鍵山怜奈

有乙個估計誤差的方法。

分子很簡單所以可以直接計算出來,之後就轉化成了乙個

f(a,b)=a/b,其中b=g(c,d,e)=c*d*e的計算問題

如果說要保留兩位小數,那麼目標就是|f(a,b±△b)-f(a,b)|<0.005

而|f(a,b±△b)-f(a,b)|≈|△b*f_b(a,b)|,這也就是說|△b|<|0.005|/|f_b(a,b)|

為了確保這個式子成立,需要估計出乙個|0.005|/|f_b(a,b)|的下界,也就是說估計|f_b(a,b)|的上界

|f_b(a,b)|=a/b<10^9/[2*10^16]=5*10^-8

因此|△b|<|0.005|/5*10^8=10^5

這也就是說當你計算6.02*524*103時,只需要將誤差控制在10^5以內就可以確保答案的精確度符合要求。接下來用同樣的方法,可以自由分配各個資料的誤差,來使得總誤差符合要求。

還可以調整誤差的正負號來互相抵消以提高精度。

計算過程可能有誤,沒有仔細計算,總之大體思路如此。不知是否可行。(在設計物理實驗時,也會使用這種方式來限定測量精度的下限)

如果覺得做多次除法更簡便,也可以用同樣的方法,依次估計出每一步除法需要保留多少精度。

「滴定分析中,若多保留有效數字位數,會導致分析結果的準確度看起來很高,但與實際並不相符」這句話怎麼理解?

麥儂 我是化學專業,以工作與學習經驗來看,因為滴定管最多也只能估度到第二位,就算你精確度再好,存在的誤差基本上和實驗實際資料一定存在差距。所以有效數字再高,也無多大意義。 畢導 測量得精確指的是你的測量值能達到多少精度。同樣乙個長度,你拿尺子量只能讀出公釐,拿卡尺就能讀到0.02 mm,拿螺旋測微計...

怎麼批量刪除所有的文字和符號,只保留數字?

批量提取文字 符號或者數字之類的,統一可以正規表示式來解決,題主如果碰到這類情況多的話,可以學習下正規表示式 本問的方法可以用如下方式來解決 Public Function GetNumber str AsString As String Dimreg AsObject Setreg CreateO...

自然數的有效數字怎麼看?

自然數可以算得上是整個數域裡最先被人類發現的數。首先,它可以表示有和無,然後,它可以表示有多少!值得注意的是,這種表示在一定程度上是準確的,但是,如果要求更高精度,就又不是精確的。對了,有效數字總是伴隨精度來描述。如果已知,1的精度為十位數,那麼,這個1,這個個位數的1,就是估計值,也有可能是近似值...