화학/유효숫자
유효숫자 혼합계산. (3 + 3.1) / (0.043 – 0.021)
영원파란
2023. 3. 10. 13:24
728x170
유효숫자 혼합계산. (3 + 3.1) / (0.043 – 0.021)
유효숫자 계산. (3 + 3.1) / (0.043 – 0.021)
---------------------------------------------------
▶ 참고: 유효숫자 [ https://ywpop.tistory.com/3212 ]
▶ 참고: 유효숫자 계산 [ https://ywpop.tistory.com/3211 ]
---------------------------------------------------
(3 + 3.1) = 6.1
---> 이 계산 결과는 1의 자리수이므로,
다음 계산에서 유효숫자 1개임을 기억한다.
[참고] 측정 도구가 저울, 줄자, 메스실린더 등과 같을 때,
과연 어떤 측정값이 자연수의 값을 가질까?
과연 어떻게 측정하면 자연수의 값을 가질까?
---> 필자는 자연수 3을 측정값으로 보지 않는다,
---> 왜냐하면, 측정 도구로 측정한 측정값은
절대로 자연수가 나올 수 없기 때문이다.
---> 근데 자연수 3을 측정값으로 계산하라고 하니...
(0.043 – 0.021) = 0.022
---> 이 계산 결과는 0.001의 자리수이므로,
다음 계산에서 유효숫자 2개임을 기억한다.
(3 + 3.1) / (0.043 – 0.021) = 277.27272....
---> 유효숫자 1개에 맞추면,
= 300
= 3×10^2
---> 이런 황당한 결과가 나올 수 밖에 없다.
반응형
그리드형(광고전용)