유효숫자 곱셈과 상대 정밀도. 4.56 × 1.4
sig fig 4.56 × 1.4
---------------------------------------------------
▶ 참고: 유효숫자 [ https://ywpop.tistory.com/3212 ]
▶ 참고: 유효숫자 계산 [ https://ywpop.tistory.com/3211 ]
---------------------------------------------------
4.56은 4.555~4.564 사이의 숫자이므로,
> 4.555 × 1.4 = 6.377
> 4.564 × 1.4 = 6.3896
1.4는 1.35~1.44 사이의 숫자이므로,
> 4.56 × 1.35 = 6.156
> 4.56 × 1.44 = 6.5664
1.4의 불확실도가
계산값에 더 큰 영향을 준다.
---> 4.56의 정밀도가 더 높다.
곱셈/나눗셈의 결과값은
정밀도가 가장 낮은 측정값의 유효숫자 개수에 맞춘다.
= 유효숫자 개수가 가장 적은 측정값의 유효숫자 개수에 맞춘다.
4.56 × 1.4 = 6.384
---> 1.4의 유효숫자 개수에 맞추면,
= 6.4
답: 6.4
[키워드] 유효숫자와 정밀도 기준문서, 정밀도가 가장 낮은 측정값 기준문서, 상대 정밀도 기준문서, 상대 정밀도 사전
반응형
그리드형(광고전용)
'화학 > 유효숫자' 카테고리의 다른 글
| 지수형 유효숫자 계산. (6.482×10^17) × (-1.602×10^(-19)) (0) | 2024.03.08 |
|---|---|
| 지수형 유효숫자 계산. 175.6 + (1.00×10^6 + 1.00×10^(-3)) (21) | 2023.11.07 |
| 유효숫자 덧셈 20.10 – 10.5 (31) | 2023.09.21 |
| 유효숫자. 12.345 mi/h를 m/s로 환산 (28) | 2023.09.20 |
| 유효숫자 덧셈 계산 105.3 – 0.68 (3) | 2023.04.16 |
| 유효숫자 곱셈 계산 1.5 / 15 (1) | 2023.04.02 |
| 유효숫자 덧셈 계산 104 + 7.8 + 40 ★ (3) | 2023.04.01 |
| 유효숫자 덧셈 계산. –6.46 –4.98 –6.28 측정값의 평균 (1) | 2023.03.29 |
댓글