유효 숫자에 대하여 알아보자.

살아가면서 하는 모든 측정에는 약간의 불확실성이 포함되어 있다. 즉 어떠한 양을 결코 정확하게 측정할 수 없다는 뜻이다. 왜냐하면 측정을 하는 기기는 제한된 규격을 가지고 있고, 측정자인 우리의 감각과 솜씨도 불완전한 것이기 때문이다. 모든 측정에서 생각해야 할 점은 우리가 얼마까지의 불확실성을 기꺼이 받아들일 것인가라는 점, 다시 말하면 어디까지를 신뢰를 할 수 있느냐다. 이를 위하여 사람들은 '유효 숫자'라는 개념을 사용한다.

 

유효 숫자란 무엇인가?

유효 숫자는 측정값이나 계산값에서 오차를 고려해도 신뢰할 수 있는 숫자를 말한다. 즉, 수의 정확도에 영향을 줄 수 있는 뜻있는 숫자를 유효 숫자라고 한다.

 

어렵고 복잡한 소리 집어치우고 예를 들자. 2.3이라는 숫자는 유효숫자가 2개, 23.35라는 숫자는 유효 숫자가 4개다.
측정에서는 유효 숫자가 많을수록, 확실성이 커진다. 무슨 말이냐면 나무막대의 길이를 측정한다고 생각해보자.

0.1cm까지 측정가능한 자가 더 정확할까? 아니면 최소 0.01cm까지도 측정이 가능한 버니어 캘리퍼스가 더 정확할까? 당연히 버니어 캘리퍼스다. 왜냐하면 0.01 단위까지 측정이 가능하니깐 말이다. 자로 측정한 막대는 10.xcm를 나타낸다면 버니어 캘리퍼스로 측정한 길이는 10.xxcm를 나타낼 것이다. 더 많은 유효숫자로 표현이 가능하다는 것이다. 확실성이 크다고 말할 수 있는 것이다.

 

일반적으로 측정을 하거나 그 측정값을 계산에 사용할 때, 몇 개의 숫자가 유효지를 알야 한다. 보통 소수점의 위치를 알려주기 위해 사용한 0을 제외한 모든 숫자들이 유효하다. 여기에 유효 숫자를 결정하기 위한 간단한 규칙이 있다.

 

1. 측정값에 소수점이 있는지 확인한다.

2. 왼쪽 숫자에서 시작하여 첫 번째 0이 아닌 숫자까지 오른쪽으로 움직인다.

3. 그 숫자와 오른쪽에 있는 모든 숫자가 유효하다.

4. 소수점 전후에 있으며 숫자 끝에 나오는 0은 유효 숫자이다.

 

4400이라는 숫자를 분석해보자.

일단 소수점이 없다. 왼쪽 숫자 4부터 첫번째 0이 아닌 숫자까지 오른쪽으로 움직여보자.

44까지 움직여진다. 그렇다. 유효숫자가 2개다.

 

자 그러면 4400. 을 분석해보자.

저 4가지의 규칙을 잘 이해했다면 유효숫자가 4개라는 것을 알 수 있다.

즉 소수점은 유효 숫자의 개수를 분명하게 하는 역할을 한다. 소수점이 없다면 0은 유효하지 않는다고 가정한다.

쉽게 정리하면 유효하다고 센 숫자 0은 영이 아닌 숫자 다음에 온 것들이다.

 

하지만 얼핏보기에는 4400에서 마지막의 0이 유효 숫자인가, 자릿수만의 0인가 하는 것이 명확하지 않다. 이러한 경우를 해결하기 위해서 지수 표기법을 사용한다.

4.400x10 ³은 유효 숫자가 4개, 4.40x10 ³은 3개이다. 어디까지가 유효숫자인지를 알아내기 위해 사용한다.

이해하기 쉽게 몇가지 예를 나열해보자. 

 

138.0 → 1.380 x 10² 유효숫자 4개

0.0280 → 2.80 x 10^(-2) 유효숫자 3개

2630. → 2.630 x 10 ³ 유효숫자 4개

 

사실 나는 실무에 있어서 유효 숫자를 쓴 기억이 없다.