유효숫자계산: 1/2 [ 0.0002 × 3^2 + 0.0006 × (-1)^2 ]
1/2 [ 0.0002 × 3^2 + 0.0006 × (-1)^2 ]
-------------------------------------------
전자계산기의 계산결과는 0.0012 이지만,
유효숫자에 맞춰 계산하면 다음과 같습니다.
0.0002 × 3^2 = 0.0002 × 9 = 0.0018 → 0.002
0.0006 × (-1)^2 = 0.0006 × 1 = 0.0006
0.002 + 0.0006 = 0.0026 → 0.003
1/2 = 0.5
0.5 × 0.003 = 0.0015 → 0.002
답: 0.002
반응형
그리드형(광고전용)
'화학 > 유효숫자' 카테고리의 다른 글
| 음수(negative numbers)의 유효숫자(significant digits) (0) | 2015.10.13 |
|---|---|
| 저울의 눈금과 유효숫자 (0) | 2015.09.25 |
| 유효숫자 계산 (0) | 2015.09.07 |
| 유효숫자 계산: 섭씨를 화씨로 (0) | 2015.07.01 |
| 유효 숫자 계산: 10의 거듭제곱(the power of ten) 형태의 숫자 (1) | 2015.04.23 |
| 유효 숫자 계산: convert 172.9 F to C (0) | 2015.04.15 |
| 유효 숫자 계산: (20.0 g + 1250. mg)은 몇 그램인가 (1) | 2015.04.15 |
| 유효 숫자: (1.5-1.0)/0.50=1.0 이 아닌 이유 (2) | 2015.04.09 |
댓글