유효 숫자와 단위

일상에서 우리는 물건을 사고 팔 때, 쇠고기 몇 g, 시금치 몇 단, 쌀 몇 되 등 단위를 끊임없이 사용하고 있다.

이렇게 일상 속에서 자주 사용하는 단위는 어떻게 유래했을까? 어떤 물체의 길이를 측정하고 싶었던 사람들은 측정할 도구가 필요했을 것이다. 우리나라는 예로부터 길이의 단위로 폭, 발, 길 등을, 부피의 단위로는 홉, 면적으로는 평 등을 사용해왔으니 사람에서 유래했다고 볼 수 있다.

‘열 길 물속은 알아도 한 길 사람 속은 모른다.’라는 속담에 나오는 한 길은 어른의 키 높이를 말한다. 그런데 어른의 키는 모두 똑같지가 않다. 이렇게 되면 의사소통에 있어 오해가 발생할 수 있다. 이를 해결하기 위해 사람들은 합의된 단위(객관적인 단위)들이 필요했을 것이며, 인류는 이 단위들의 역사 속에서 한두 개씩 통일되어져 도량형의 기준을 마련했을 것이다. 도량형의 체계는 ‘미터(meter: 그리스어로 ‘재다‘는 의미)’를 기준으로 1960년부터 국제도량형위원회(International Committee of Weights and Measures)에서 마련하고 있다. 길이의 단위인 1m는 18세기 말 프랑스에서 지구 자오선 길이의 4000만분의 1로, 1m의 100분의 1을 1cm, 가로･세로 높이가 모두 1cm인 1cm³부피 물의 무게가 1g이다. 미터와 그램(gram: 그리스어로 ‘작은 무게’의 의미)은 결국 우리의 터전인 지구와 물에서 유래한 것이다.

각 측정 도구의 단위 눈금에 따라 측정의 범위가 달라지고, 단위 눈금의 크기에 따라 참값과 측정값 사이에 오차(error)가 생긴다. 사람들은 이러한 오차에 의한 의사소통의 장애가 발생하는 것을 막을 필요가 있었다. 즉, 오차를 줄여 정확도를 높여야 했다. 또한, 한길의 단위로는 측정할 수 없는 작은 물체의 길이를 측정해야 하는 경우는 더 세부적인 눈금단위가 필요해 정밀도를 높여야 했다. 과학의 발전으로 20세기에는 정확도와 정밀도가 큰 도량형을 만들기 위해 m를 비롯한 모든 측도를 새로이 제정하였다. 1m는 크립톤(Kr)의 주황색 스펙트럼선 파장의 165763.73배로 하였으며, 매우 작은 물체의 길이를 측정하고 기록할 때는 1m의 10억분의 1인 나노미터(nm)를 사용하였다. 대단히 크거나 작은 양은 ‘메가 mega’(10⁶ , 기호는 M), ‘마이크로’(10^－6, 기호는 μ) 와 같이 거듭제곱을 사용하기로 하였다.

과학은 끊임없이 관찰하고 실험한다. 모든 측정에는 측정된 결과의 소통 가능한 기준 기록이 필요하며, 이러한 실험에서 측정된 값들은 몇 자리의 숫자로 표시되는데, 이렇게 측정을 통해 기록되어 지는 숫자를 ‘유효숫자’라 한다.

만약 어떤 측정값이 57.4라고 할 때, 이는 3자리의 수이고 이것을 표시하는데 3개의 숫자가 사용되었으며 이때의 유효숫자는 3자리, 즉 3개이다. 이것을 57.40으로 쓰면 57.4와 같은 값을 가지지만 서로 다른 의미를 가진다. 57.4는 유효숫자가 3자리이고 소수점 첫째 자리는 어림한 값을 가진다는 뜻인 반면, 57.40의 유효숫자는 4자리이며, 소수점 첫째 자리는 정확한 값이고 둘째 자리는 어림한 값을 가진다는 의미이다. 유효숫자가 많은 측정값의 정밀도가 높고, 측정값의 크기는 유효숫자가 많고 적음에 아무런 관계가 없다. 170000인 측정값을 유효숫자에 따라 다음과 같이 표기한다. 유효숫자가 2자리인 경우 1.7×10⁵, 유효숫자가 3자리인 경우 1.70×10⁵ , 유효숫자가 4자리인 경우 1,700×10⁵ 이다.

유효숫자는 근삿값과 측정값을 십진법으로 표시할 때 오차를 포함한 자리보다 윗자리에 있는 의미 있는 숫자이며, 소수의 경우 자리를 나타내는 0은 제외한다. 예를 들면 눈금 단위가 1g인 저울에서 320g이 된 경우는 3, 2, 0이 유효숫자이지만, 눈금단위가 10g인 저울에서 가장 가까운 눈금을 읽어 320g이 된 경우는 오차가 최대 5g까지 이므로 3, 2가 유효숫자이며 마지막의 0은 유효숫자가 아니다. 즉, 유효숫자는 특정의 단위를 알려주며, 유효숫자가 커진다는 것은 정밀도가 커진다는 것을 알려준다.

또 ㎜까지 눈금이 매겨진 자로 길이를 측정하여 0.024m가 된 경우는 처음 2개의 0은 유효숫자가 아니며 2, 4가 유효숫자이다. 유효숫자의 자리 수는 측정값과 근삿값의 정밀도를 나타내는 표준이 된다.

이렇듯 유효숫자는 불확실성의 존재를 쉽게 알려주며, 곱셈과 나눗셈을 통해 생기는 불확실성을 있는 그대로 평가하기 쉬운 기초로 마련해준다. 하지만 불확실성은 어림셈만을 주며, 데이터가 결합될 때 불확실성의 축적에 관한 관계는 생략한다. 곱하기에 쓰일 유효숫자와 관련하고 있는 규칙을 다른 셈들, 특히 더하기나 빼기에는 적용되지 않는다. 곱셈에서조차도 유효숫자의 보통 규칙들은 불확실성을 잘못 지시할 수 있는 한계를 가진다.

이와 같은 물체의 길이를 정확히 측정하고 싶어 했던 인류의 끊임없는 노력으로 그 오차의 범위를 꾸준히 줄여왔다. 하지만 1m를 10억분 나눈 1nm로 나누어도 오차는 존재하며, 100억분의 1m 단위의 눈금자를 이용해도, 1,000억분의 1m 눈금자를 이용해도 눈금과 눈금 사이의 오차는 존재한다. 결국 우리의 끊임없는 노력 속에서도 정확한 측정은 유효숫자를 무한개 가지게 됨을 알 수 있으며, 이는 과학의 발전과 상관없이 측정되지 못하는 불확실성이 존재함을 의미한다.

과학을 통해 어떤 것의 참, 생명의 시작 등의 진정한 참 등 진실을 알 수 없는 것일까? 인류의 역사를 보면 분명 과거보다 더 정확도가 높은 측정이 이루어졌고 이는 시공을 초월하여 동일 조건에서는 동일한 결과를 유도하는 재현가능성을 이루게 해 주었다.

문제)

과학자들에 의해 생명의 어머니라고 불리는 바다는 살아가는데 필요한 많은 유용한 자원을 가지고 있다. 모든 게임의 규칙이 그러하듯이 1차 세계대전 후 패전국 독일이 진 빚을 갚는 방법으로 독일의 과학자인 하버는 바다에서 금을 추출하려는 시도를 했다는 일화가 전해진다. 그렇다면 전 세계 바닷물 속에 녹아 있는 금을 모두 추출하면 어느 정도일지 한번 추정해 보자. 전 세계 바닷물에 녹아있는 금을 다 추출한다면 몇 ton의 금을 얻을 수 있으며, 이를 인류 전체에 골고루 나누어준다면 한사람이 약 몇 g 정도의 금을 받을 수 있을지 생각해 보자. (단, 지구는 완전 구형, 반지름은 약 6,400km, 전 세계 바다의 평균 수심은 약 3,800m이다. 최근의 연구를 통하여 과학자들은 바닷물에 포함된 금의 평균 농도가 약 2×10^-11g/L임을 알아내었으며, 전 세계인은 현재 약 60억 명이다. 모든 계산은 유효숫자 1자리의 대략적인 근삿값으로 구하면 된다.)

해설)

우선적으로 바다의 부피를 계산하기 위해 ‘부피= 밑면적×높이’의 공식을 이용해 보자.

바다의 밑면적: 바다가 지구의 겉 부분에 약 70% 존재하므로, 구의 겉넓이 공식 4πR² (R:반지름)로부터 구할 수 있다. 바다의 밑면적= 지구 겉넓이× 0.7= 4πR²×0.7≒3 ×10⁸ km²(R : 지구 반지름, 유효숫자 1자리로 표현하면 지구 반지름≒6 ×10³ km라고 볼 수 있다.)

바다의 부피: 바다의 평균 수심이 약 3,800m라고 했으므로 유효숫자 한자리로 표현된 높이는 4km라고 볼 수 있다. 바다의 부피= 밑넓이 × 높이 = 3 ×10⁸km² × 4km ≒1 ×10⁹ km³ 이므로, 전 세계 바다에서 얻을 수 있는 금의 총량(ton 단위): 바닷물에 포함된 금의 평균 농도가 약 2×10^-11g/L라고 했으므로 위에서 구한 바다의 부피 단위 km³를 L로 전환시켜 통일하면 1cm³=1cc=1mL, 1L=10³mL=10³cm³이고, 1km=10³m=10⁵cm, km³=10¹⁵cm³=10¹²L이다.

따라서 1L: 2×10^-11g = 1 ×10⁹ km³: 바다에서 얻을 수 있는 금(=☆이라 하자)이라면, 1L: 2×10^-11g = 1 ×10⁹×10¹²L : ☆이므로 내항 외항 곱으로 계산하면 ☆= 2×10¹⁰g = 2×10⁴ton이다.

문제에서 몇 ton단위로 구하라고 했으므로 1ton=10³kg=10⁶g를 이용하여 구한다.

전 세계 사람에서 골고루 나누어 준다면 한 사람이 받을 수 있는 금의 양: 2×10¹⁰g / 60억 명으로 계산하면 10g/3명이 되므로 1명이 받는 금의 양은 약 3g이다.

-허진영, ㈜엘림에듀 대표 집필위원