728x170
유효숫자 계산
1) 0.085 * 0.0547
2) 350.0 / 200.
3) 5.370 / 3.0
-----------------------------------------
▶ 유효숫자를 고려한 계산 ( 설명 http://ywpop.tistory.com/3211 )
1) 0.085 * 0.0547 = 0.0046495 ... 유효숫자 2개에 맞추면,
= 0.0046 또는 4.6*10^(-3)
2) 350.0 / 200. = 1.750000 ... 유효숫자 3개에 맞추면,
= 1.75
3) 5.370 / 3.0 = 1.790000 ... 유효숫자 2개에 맞추면,
= 1.8
반응형
그리드형(광고전용)
'화학 > 유효숫자' 카테고리의 다른 글
| 유효숫자 혼합계산. (3.75 * (4.76-4.68)) / 0.0812 (0) | 2016.10.14 |
|---|---|
| 유효숫자 계산. 덧셈 (0) | 2016.09.30 |
| 유효숫자 계산. (1 / 0.01 – 0.082) / 0.477 (0) | 2016.09.23 |
| 유효숫자 계산. (57.6 * 3) / (34 * 3.00 * 87.507) (0) | 2016.08.30 |
| 유효숫자 혼합계산. 16*(-394) + 18*(-286) - 2*(-269) (0) | 2016.08.11 |
| 유효숫자 계산. 5.6792 m + 0.6 m + 4.33 m (1) | 2016.07.19 |
| 유효숫자 계산. 지수형태 덧셈, 뺄셈 (2) | 2016.07.12 |
| 유효숫자 계산 (0) | 2016.06.30 |
댓글