화학/유효숫자
유효숫자 혼합 계산. (3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)
영원파란
2024. 4. 6. 12:09
728x170
유효숫자 혼합 계산. (3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)
sig fig. (3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)
[참고] 지수(10의 거듭제곱)가 포함된 유효숫자 계산
[ https://ywpop.tistory.com/4935 ]
(3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)
= (3.8×10^(-12) + 0.40×10^(-12)) / (0.4×10^13 + 6.3×10^13)
= (3.8×10^(-12) + 0.40×10^(-12)) / (0.4×10^13 + 6.3×10^13)
= (4.20×10^(-12)) / (6.7×10^13)
(4.20×10^(-12))
---> 이 계산 결과는 0.1의 자릿수이므로,
다음 계산에서 유효숫자 2개임을 기억한다.
(6.7×10^13)
---> 이 계산 결과는 0.1의 자릿수이므로,
다음 계산에서 유효숫자 2개임을 기억한다.
= 6.2686567...×10^(-26)
---> 유효숫자 2개에 맞추면,
답: 6.3×10^(-26)
[ 관련 글 https://ywpop.tistory.com/24719 ]
sig fig. 6.071×10^(-5) – 8.2×10^(-6) – 0.521×10^(-4)
[키워드] 유효숫자 혼합 계산 기준, 지수형 유효숫자 계산 기준
반응형
그리드형(광고전용)