next up previous
Next: 誤差の伝播 Up: 測定誤差とその取り扱い Previous: 誤差とは

有効数字

有効数字というのは誤差論の立場からすると多少あいまいではあるが、誤差の程度を表わすように10進数に丸めた表現方法である。 測定の誤差は通常は有効数字1桁で表わし、先頭の数字が1のときに2桁で表わす。測定値そのものも誤差に合わせて丸める。

表 現     相対誤差
20 $\longrightarrow$ 20.0 $\pm$ 0.5 $\frac {0.5}{20} = 0.025$
20.0 $\longrightarrow$ 20.00 $\pm$ 0.05 $\frac {0.05}{20} = 0.0025$
0.2 $\longrightarrow$ 0.2 $\pm$ 0.05 $\frac {0.05}{0.2} = 0.25$
0.20 $\longrightarrow$ 0.20 $\pm$ 0.005 $\frac {0.005}{0.2} = 0.025$
測定値   誤 差
1.23456 $\pm$ 7.89 $\times 10^{-3}$
 
1.235   0.008
たし算

\begin{displaymath}
\begin{array}{ll}
&12.3 \\
+) &\ \ 4.56 \\ \hline
&16...
...d} \line(1,2){5}}
\put(-18,-29){\color{red} 9}
\end{picture}
\end{displaymath}

かけ算

\begin{displaymath}
\begin{array}{ll}
&\ \ \ \ 12.3 \\
\times) &\ \ \ \ 4.5...
...d} \line(1,2){5}}
\put(-26,-54){\color{red} 1}
\end{picture}
\end{displaymath}

演算の結果、有効数字(桁数)を保てばいい理由は次のような理論的根拠による。



Keiichi Takasugi
平成24年2月9日