科學計算器設定保留四位小數,計算結果有偏差怎麼破?

時間 2021-07-11 21:20:20

1樓:739085

0.4060和0.4061只差了0.0001,如果只是近似計算,這點數字可以忽略不計,或者設定5+位小數使偏差更少。

如果你要一點偏差都沒有,就用最簡分數表示結果,當然除不盡的分數化小數一定有迴圈節,也可以用迴圈小數表示,寫乙個迴圈節然後打點即可。

0.15*0.25*3.

5*2.2=0.288750.

28875/0.71125=231/569結果就是231/569,當然用小數的話估計迴圈節比較長,但一定不超過568位,還在可寫的範圍之內,具體值上網搜wolfram輸入231/569即可。

2樓:電卓院亜紀良

遇到這種問題的時候,首先應該想一想取有效數字到底應該怎麼取,自己的這個取法到底對不對,還有計算器是怎麼取有效數字(或者保留幾位小數)。

從題主的問題以及描述來看,題主對於有效數字的取法認知與掌握是有問題的。

如果我們在計算器上取消位數保留設定,那麼這個算式計算的結果應當是:

對上面這個結果我們是不會有任何異議的,你不管用什麼計算器,只要是這樣一步完成,都是這個結果。

但是如果有「計算結果保留4位有效數字」的要求,這時候各種毛病就出來了。

第一,如果要使用計算器一步計算完成,那麼應該直接根據計算器未經取捨連續計算後的最終結果進行有效數字的取捨。

根據這個原則,計算結果應當是0.4060。

第二,如果要模仿手算的步驟來計算,那麼為了避免因為分步計算每次都要四捨五入放大誤差,中間結果的有效數字應當比結果的有效數字多一位。

根據這個原則,第乙個中間結果是 ,這個結果的有效數字是五位,恰好比最終結果的要求多一位。

然後再計算 ,

取四位有效數字,得最終結果0.4060。

計算器上使用Ans,本質上仍然是採用計算器最大有效數字位數來計算,和第一種情況一樣。

在題主的計算中,中間結果就取四位有效數字0.2888,最終結果實際上只有三位數字能算真正有效的,即0.406,後面的1是題主自身原因造成的錯誤。

如果在計算器上設定保留四位小數,至少應當在每次計算時使用一次Rnd函式來進行四捨五入。(雖然這種方法本身已經錯了,應當先按保留五位有效數字計算中間結果,再按保留四位有效數字計算最終結果。)

總而言之,使用計算器計算的時候,直接以計算器的最終結果為準進行四捨五入,才是對的。

計算器如何表示無限迴圈小數?

二三得八 根據您的敘述,我給出一種可能的解釋。您的計算器至少有兩個儲存器,記為a b。當輸入乙個只含有四則運算的式子時,系統會識別出,會將兩個儲存器分別儲存中間過程的分子和分母。這是因為四則運算只會產生有理數,會得到精確的結果。比如,輸入1 3 3,系統先算1 3,a 1,b 3,顯示器中顯示的是a...

為什麼計算機不能取代科學計算器?

白菜白 很簡單專物專用,比如你看現在那些多功能鉗子,多功能錘子,神馬瑞士軍刀。真要幹起活來。工人們還是選擇錘子就是錘子 鉗子就是鉗子,方便好用。每樣工具的適用環境是不同的。計算器也分很多類的。樓上的特指了圖形機,圖形機算是功能比較強悍的了 個人也比較喜歡這類,不過是純玩 其實計算器根據適用範圍,大概...

有沒有能讓卡西歐科學計算器計算時間最長的式子?

Tris n 建議題主算一算有關副反應級數和分配係數的分析化學題。那種敲了一分鐘計算器,解了兩三分鐘然後出來無解的絕望感 所以我現在算分化一般都用近似或者迭代 orwell1984 高中用同桌大個子的計算器可以算積分,我覺得比我的老版卡西歐強多了,於是下課經常研究怎麼調教這個新奇的玩具。直到有一天我...