[ 掲示板に戻る ]

記事No.37075に関するスレッドです

有効数字 / じゅうじょう
(3)の問題です。
8.5も4.5も有効数字2桁なので13ではないのですか?

No.37075 - 2016/05/19(Thu) 22:46:03

Re: 有効数字 / 関数電卓
同じ位で与えられた(この場合は小数第1位) 2 数の加法・減法では,有効数字の桁数よりも その位までの値 が有効になります。
乗法・除法の場合には,例えば
 8.5×4.5=38.25≒38
のように,桁数 を優先します。
有効数字の考え方には,誤差論の 絶対誤差相対誤差 の考え方が背景にあります。
 

No.37076 - 2016/05/20(Fri) 00:11:56