有効数字のお話

誤差と有効数字は切っても切り離すことのできません。

content
・有効数字の考え方が分かる
・有効数字を含む計算ができる

point
・有効数字とは初めて誤差が入ってくる値
・誤差が最も大きい測定値の末位より1桁下まで計算

目次

有効数字

測定したデータは何らかの数値で表されます。

その数値に「誤差が含まれていても,測定値としての信頼性が高い桁の数字」を有効数字としています。

手元の物差しは最小目盛り単位が1mmとなっていることが多いと思います。

例えばある物体を測定したところ,100mm~101mmの真ん中位を示しました。

測定結果として,100mmや101mmと報告するでしょうか。おそらくしないと思います。

100.5mmくいと報告するでしょう。

しかし,0.5mmは不確かな数値です。これが「有効数字」です。

工学系では有効数字は3桁が一般的

一般的に有効数字は3桁で表すことが多いです。

  • 有効数字3桁の例

101
10.1
1.01

  • 位取りの0の場合の有効数字

位取り(くらいどり)の0は有効数字として含めず,0以外の数字が表れたところから数えて有効数字とします。

以下のものも有効数字3桁となります。

0.0101
0.00101

  • 末尾の0に注意が必要な有効数字

10.3と10.3000では意味が異なります。

10.3の場合
10.25 <= 10.3 < 10.35(0.1が誤差範囲)

10.3000の場合
10.29995 <= 10.300 < 10.30005(0.0001が誤差範囲)

となり,精度の桁が大きく異なってきます。どこに誤差を含めるかが重要なポイントです。

有効数字を含む計算

加減の有計算では「誤差が最も大きい末位より1桁下まで計算し,最後の桁を四捨五入」します。

1.23 + 0.456 = 1.686 = 1.69
7.45 – 2.235 = 5.215 = 5.22

乗算の計算では「有効数字が最も小さい末位より1桁下まで計算し,その桁の数値を四捨五入」します。

2.3 × 21.3 = 48.99 = 49
25.4 ÷ 4.3 = 5.907… = 5.9

というように有効数字を含む計算は以上のようなルールがあり,それを正しく理解し,計算を行う必要があります。

さいごに

有効数字に関してはそれほど難しいことではありません。なんとなくでも読み方,計算ができてしまします。

重要なことは有効数字が持つ意味をよく理解して,使用していくことが大切です。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

生産技術系のエンジニアです。日々,計装関係の仕事に従事しています。 生産技術系ブログ【計装便覧.com】を運営中。主に計装設計についてまとめています。また仕事の時短ワザなども紹介しています。計装技術については初心者でもわかりやすくをモットーに執筆中!

コメント

コメントする

目次