728x170
유효숫자 계산 예제
---------------------------------------------------
▶ (57.6 × 3) / (34 × 3.00 × 87.507) = 0.0193598... = 0.02
▶ 78.00 + 45.6 + 0.00467 + 39.45 + 276.999
= 440.05367 = 440.1
( 참고 자료에서 확인함. 440.1이 맞음. )
▶ 567.000 – 12 = 555
▶ 8597 – 0.1 = 8596.9 = 8597
▶ (3.50×10^5) × [2.8 / (5.4 - 4.09)]
= 748091.603053... = 750000 or 7.5×10^5
▶ (3.50×10^5) × [2.8 / (5.4 – 4.09)]
5.4 – 4.09 = 1.31
→ 1.3 ... 0.1의 자리
(3.50×10^5) × [2.8 / 1.3] = 753846.153846...
→ 750000 or 7.5×10^5 ... 유효숫자 2개
▶ (6.10×10^7) + (3×10^7)
= 91000000.0000000001 = 9×10^7
▶ (6.10×10^7) + (3×10^7)
(6.10 + 3)×10^7 = 9.1×10^7
→ 9×10^7 ... 1의 자리
▶ 787 × 3.0 = 2361 = 2400
반응형
그리드형(광고전용)
'화학 > 유효숫자' 카테고리의 다른 글
| 유효숫자 계산 예제 (6) | 2016.03.11 |
|---|---|
| 단위 환산 문제. 유효숫자와 완전수 (2) | 2016.03.09 |
| 유효숫자 계산. [(285.3×10^5) – (1.200×10^3)] × 2.8954 ★ (2) | 2016.03.07 |
| 유효숫자 계산. [(195.6×10^5) - (7.400×10^3)] × 1.5976 (0) | 2016.03.07 |
| 1/0.024에서 1이 완전수라고 했을 때, 계산하면 42인가요? (0) | 2015.11.15 |
| 음수(negative numbers)의 유효숫자(significant digits) (0) | 2015.10.13 |
| 저울의 눈금과 유효숫자 (0) | 2015.09.25 |
| 유효숫자 계산 (0) | 2015.09.07 |
댓글