[정보] 유효숫자 계산 및 예시(덧셈, 곱셈, 반올림 정의 포함)

 

반갑습니다 :)

 

 이공계 대학생들의 물리 및 화학 실험보고서 작성, 연구결과 분석에 필수로 알아두어야 할 측정 규칙인

'유효숫자'에 대해 정리하는 시간을 가져보겠습니다.

 

+ 추가로 '참고문헌 표기법', '실험보고서 작성법'에 관심있는 분들은 다음 포스팅도 추천드립니다.

[정보] 참고문헌 표기법(논문, 인터넷 자료 URL 포함 작성법)

 

 

[정보] 공대생을 위한 실험보고서 잘 쓰는 법(목차, 양식, 고찰, 결론)

0. 유효숫자 정의 및 필요성

'유효숫자(Significant Figures)'란 측정값이나 계산값에서 표기된 숫자들 중 유의미한 숫자들로서 정확도 영향을 줍니다. 여기서 유의미한 숫자들은 측정이 정확한 값들과 맨 끝자리 불확실한 값으로 구성됩니다.

 

 

 

즉, 유효숫자를 고려하지 않고 계산을 이어가면 오차가 크게 발생하거나 부정확한 결론을 내릴 확률이 커집니다. 공학실험, 과학연구뿐만 아니라 사회적 통계를 비롯한 모든 측정은 해석에 영향을 미치는 정확도가 중요하기에 유효숫자에 관한 필요성을 염두에 두고 헷갈리는 부분을 정리하시는게 좋습니다.

 

1. 유효숫자 구분 및 규칙

 

1) '모든 숫자가 0이 아닌 수'는 모두 유효숫자

 '5246.23'은 5, 2, 4, 6, 2, 3으로 6개의 유효숫자를 가집니다.

 

2) '0이 아닌 숫자들 사이의 0'은 유효숫자

 '102.3004'는 1, 0, 2, 3, 0, 0, 4로 7개의 유효숫자를 가집니다.

 

3) '소숫점 아래 숫자 중 0이 아닌 숫자 뒤에 나타나는 0'은 유효숫자

'60.3200'는 6, 0, 3, 2, 0, 0으로 6개의 유효숫자를 가집니다.

'289.0'은 2, 8, 9, 0 으로 4개의 유효숫자를 가집니다.

'365.'은 소숫점까지 표시되어 있으나 소수첫째자리 0은 표시하지 않았기에 3, 6, 5로 3개의 유효숫자를 가집니다. 

 

4) '소숫점이 없는 숫자 중 유효숫자 뒤의 0'은 알 수 없다.

 '81060'은 관점에 따라 해석이 달라질 수 있습니다.

- 일의 자릿수까지 모든 수가 정확하다고 보는 경우 8, 1, 0, 6, 0으로 5개의 유효숫자를 가집니다.

- 일의 자릿수를 반올림한 결과인 경우 8, 1, 0, 6으로 4개의 유효숫자를 가집니다.

 

* 0으로 마무리 되는 해당숫자가 반올림으로 도출되었는지 여부로 파악합니다.

* 정해진 표준은 없으나 '81060'의 방식처럼 마지막 '0'에 밑줄 또는 윗줄로 표현하면 유효숫자라는 의미를 부여할 수 있습니다.

 

5) 과학적 표기법 '10의 지수와 함께 표현되는 앞의 숫자'는 유효숫자

 '26000'이라는 수가 어떤 측정에 대한 정확도가 정해져서 유효숫자 개수가 다음과 같을 때 예시입니다.

 유효숫자 2개: 2.6 X 10⁴

 유효숫자 3개: 2.60 X 10⁴

 유효숫자 4개: 2.600 X 10⁴

 

 * 공학 계산에서 상수값을 단순화 시키는 조건에 주로 등장합니다.

 * 유효숫자 부분은 주로 '정수부분 일의 자릿수와 이하 소수 자릿수들'로 표현됩니다.

2. 유효숫자 계산법(예시 포함)

 

1) 기구측정

- 1[g]단위까지 표현가능한 저울의 무게측정

  1. 물건을 저울 위에 올렸더니 눈금이 2530[g]과 2531[g] 사이에 있어서 2530.5[g]이라고 측정

  2. 실제 저울의 1[g]단위인 2530[g]까지는 정확한 측정값

  3. 유효숫자는 끝자리 불확실한 값 0.5[g]을 포함시킵니다.

  4. 해당 측정값의 유효숫자는 2, 5, 3, 0, 5의 5개입니다.

 

- 1[mm]단위를 가진 '자'로 길이 측정

  1. 어떤 물체의 길이를 사람의 눈으로 측정하여 246.8[mm]를 얻었다고 가정

  2. 실제 자의 1[mm]단위까지인 246[mm]까지는 정확한 측정값

  3. 유효숫자는 마지막 끝자리 불확실한 값 0.8[mm]도 포함시킵니다.

  4. 해당 측정값의 유효숫자는 2, 4, 6, 8의 4개입니다.

 

2) 반올림

- 계산에 의해 유효숫자 개수가 변하는 경우 마지막 유효숫자 밑자리에서 반올림을 합니다.

 '24.82 + 0.509' 계산은 소수 둘째 자리까지 정확하다고 받아들이기 위해

그 아래 자리인 소수 셋째 자리에서 반올림 합니다.

  따라서 25.329에서 반올림하여 25.33이 되고, 유효숫자는 2, 5, 3, 3이 됩니다.

*주의: 반올림으로 새롭게 얻어진 소수 둘째 자리의 3도 유효숫자에 포함됩니다.

 

 - 반올림은 5 미만의 숫자는 버리고, 5 이상의 숫자는 올립니다.

특별히 5를 반올림할 때, 영향을 받는 수가 짝수이면 버리고, 홀수이면 올립니다.

  '509.5' 계산값을 소수 첫째자리에서 반올림하면 '510.'이고, 유효숫자는 5, 1, 0의 3개입니다. (일의 자리 홀수)

  '508.5' 계산값을 소수 첫째자리에서 반올림하면 '509'가 아닌 '508'이고, 유효숫자는 5, 0, 8의 3개입니다. (일의 자리 짝수)

  

3) 덧셈 및 뺄셈

자릿수 단위가 가장 높은 수를 기준으로 유효숫자를 맞춥니다.

 1243[m]와 0.0004[m]의 합산은 당연히 1243[m]이 소숫점부터 정확도를 갖추지 못한 측정이므로 소숫점을 표현한다고 해도 부정확한 결과가 나오므로, 기준은 1243[m]가 됩니다.

 

'15.6 + 1.5008 + 0.002'는 '15.6'(유효숫자 3개)에 맞추어 '17.1028'을 소수 둘째 자리에서 반올림하여 '17.1'이 됩니다.

'6230. + 0.204 + 0.9'는 '6230.'(유효숫자 4개)에 맞추어 '6231.104'를 소수 첫째 자리에서 반올림하여 '6231'이 됩니다.

'528 - 3.4 - 0.05'는  '528'(유효숫자 3개)에 맞추어 '524.55'를 소수 첫째 자리에서 반올림하여 '525'가 됩니다.

 

4) 곱셈 및 나눗셈

유효숫자 개수가 가장 적은 수를 기준으로 계산합니다.

 

'54[m] x 6.42[m]'는 '54[m]' 유효숫자 2개를 기준으로 '346.68'에서 '350[m²]'으로 표현합니다.

'863[kg] / 2[상수]'는 '863[kg]' 유효숫자 3개를 기준으로 '431.5'에서 '432[kg]'으로 표현합니다.

'10.620[kg] / 3.400[kg]'은 '3.400[kg]' 유효숫자 4개를 기준으로 '3.1235...'에서 '3.123'으로 표현합니다.

 

3. 완전수

 

 '완전수'는 유효숫자를 무한대로 간주하는 정확한 값으로 유효숫자 개수 결정에 영향을 주지 않습니다.

 

1)  수학, 물리 및 화학 상수

 유효숫자가 무한대지만 일반적으로 계산의 편의를 위해 유효숫자를 간소화하여 사용합니다.

 

 원주율 π = 3.141592...

 쿨롱 상수 k = 8.98755... x 10^-9 [N·m²·C^-2] 

 플랑크 상수 h = 6.626... x 10^-34 [m² · kg/s]

 기체 상수 R = 8.3144...  [J / (K · mol)]

 

+ 원자량, 분자량

 

2) 단위 환산(변환)에 사용된 값

 

1[km] = 1000[m] = 1000000[mm]에서 나타난 '1000', '1000000' 모두 완전수입니다.

1[m] = 1.09361[yd] = 3.28084[ft] = 39.3701[in]에서 단위 변환을 위해 사용하는 수는 모두 완전수입니다.

 

쉽게 생각하여 계산 시에 유효숫자 개수 결정에 고려하지 않으시면 됩니다.

 

3) 평균을 구하기 위해 나누는 값, 직접 개수를 센 값

 

- 5개 자료의 평균을 구하기 위해 5로 나눌 때 사용하는 값 '5'는 완전수

 예를 들어 N번의 측정값의 평균을 구할 때, 각 측정값을 나눌 때 사용하는 N은 완전수입니다.

- 사과 12개, 달걀 10개와 같이 직접 센 값은 완전수입니다.

 

4) 논문, 정식 교재 등의 문헌에 인용된 수

 

 

---

도움이 되셨다면 공감버튼 눌러주시기 바랍니다.