運算時,先修約後運算的規定進行。可能會導致計算結果還要修約一次,如2 91 0 11該怎麼算。?

時間 2021-07-02 10:57:55

1樓:

根據GB/T 8170-2008《數字修約規則與極限數值的表示和判定》,四川省質量技術監督局2023年發表地方標準DB51/T 2157—2016《化學分析實驗室有效數字運用指南》,對 GB/T 8170-2008 進行了必要的補充。

其中5 資料修約規則及近似數計算規則

5.2 近似資料計算規則

5.2.3 乘法和除法

中規定a) 近似值相乘除時,所得積或商的有效數字位數,決定於參與計算的數中相對誤差最大的那個數

的有效位數,即最後結果的有效數字與各近似值中有效數字位數最少者相同。

b) 在實際運算中,先將各近似值修約到比有效數字位數最少者多保留1 位有效數字,再將計算結

果按上述規則處理。

c) 使用計算機計算時,可在運算過程中適當保留較多的位數,對中間結果不進行修約,只將最後結

果修約到所需位數。

d) 對於第 1 位是9 或8 的近似值,在乘除計算中有效數字位數可多計1 位。

因為你問題中沒有說明原始數值的位數,需要修約的位數。所以我第一次被推薦時沒回答。

錯誤答案:

2.91×0.11=0.3201應該保留三位有效數字,修約為0.320.

正確答案:

2.91×0.11=0.3201應該保留兩位有效數字,修約為0.32。

當然,在實際工作中,你注意c)規定,運算過程中不做修約,將最後結果修約到所需位數即可。

保留有效數字的乘除運算之前的修約技巧

鍵山怜奈 有乙個估計誤差的方法。分子很簡單所以可以直接計算出來,之後就轉化成了乙個 f a,b a b,其中b g c,d,e c d e的計算問題 如果說要保留兩位小數,那麼目標就是 f a,b b f a,b 0.005 而 f a,b b f a,b b f b a,b 這也就是說 b 0.0...

如何設計乙個演算法,使得任何數輸入後經過運算都能得出114514

初值任意,用下面的公式迭代 x n 1 154940.2022 cos x n 154940.2022 用例 想知道你的命運嗎?拿乙個支援答案暫存器 Ans 的科學計算器,輸入你的生日 YYYYMMDD 按等號存入 ANS 暫存器,再輸入 154940.2022 cos ANS 154940.202...

運算放大器工作時,由輸出訊號得出輸入訊號的過程嚴謹嗎?

英飛凌 現代運算放大器的電壓增益高,達到幾十到幾百V mV,輸入偏置電壓 Input offset voltage 只有幾個mV,輸入偏置電流 Input bias current 只有幾個nA,因此輸入訊號經過運放和外圍電路得到輸出訊號是非常精確的 當然外圍電路,特別是電阻的精度非常重要 Dong...