유효숫자 덧셈 계산 104 + 7.8 + 40
sig fig 104 + 7.8 + 40
---------------------------------------------------
▶ 참고: 유효숫자 [ https://ywpop.tistory.com/3212 ]
▶ 참고: 유효숫자 계산 [ https://ywpop.tistory.com/3211 ]
---------------------------------------------------
측정값의 마지막(= 끝자리) 숫자는 불확실하고,
불확실한 마지막 숫자까지 포함한
측정값의 모든 숫자를 ‘유효 숫자’라 한다.
> 104의 마지막 숫자는 4이며, 4는 1의 자릿수.
> 7.8의 마지막 숫자는 8이며, 8은 0.1의 자릿수.
> 40의 마지막 숫자는 0이며, 0은 1의 자릿수.
여기서,
문제되는 것은
40 이라는 측정값.
덧셈/뺄셈 계산에서,
측정값이 자연수이고,
그 측정값의 마지막 숫자가 ‘0’일 때,
이 ‘0’을 유효숫자라고 생각하는 학자(대학교재)도 있고,
유효숫자가 아니라고 생각하는 학자(대학교재)도 있다는 것이다.
( 참고 https://ywpop.tistory.com/10839 )
지금까지 필자가 조사한 바로는,
유효숫자라고 생각하는 학자(대학교재)가 조금 더 많다는 것.
이 때문에 필자는
다음과 같이 계산한다.
104 + 7.8 + 40 = 151.8
---> 가장 높은 1의 자릿수에 맞추면,
= 152
끝자리 ‘0’이 유효숫자가 아니라고 생각하는 학자의 의견을 따르면,
40의 마지막 숫자는 4이며, 4는 10의 자릿수이므로,
104 + 7.8 + 40 = 151.8
---> 가장 높은 10의 자릿수에 맞추면,
= 150
= 1.5×10^2
학생이 현재 갖고있는 교재에 나오는 대로 계산하면 될 것이다.
( 또는 강의하시는 교수님께 직접 질문해서 확인. )
[키워드] 유효숫자 덧셈 사전, 유효숫자 자연수 사전, 유효숫자 덧셈 경전, 유효숫자 자연수 경전
'화학 > 유효숫자' 카테고리의 다른 글
유효숫자. 12.345 mi/h를 m/s로 환산 (28) | 2023.09.20 |
---|---|
유효숫자 곱셈과 상대 정밀도. 4.56 × 1.4 (2) | 2023.04.17 |
유효숫자 덧셈 계산 105.3 – 0.68 (3) | 2023.04.16 |
유효숫자 곱셈 계산 1.5 / 15 (1) | 2023.04.02 |
유효숫자 덧셈 계산. –6.46 –4.98 –6.28 측정값의 평균 (1) | 2023.03.29 |
유효숫자 혼합 계산. 5.556×2.3/(4.223–0.08) (0) | 2023.03.19 |
유효숫자 혼합 계산. (3.41–0.23)/5.233×0.205 (1) | 2023.03.19 |
유효숫자 제곱 계산. (0.06)^2 + (0.59)^2 (2) | 2023.03.13 |
댓글