화학/유효숫자
유효숫자 곱셈과 상대 정밀도. 4.56 × 1.4
영원파란
2023. 4. 17. 07:49
728x170
유효숫자 곱셈과 상대 정밀도. 4.56 × 1.4
sig fig 4.56 × 1.4
---------------------------------------------------
▶ 참고: 유효숫자 [ https://ywpop.tistory.com/3212 ]
▶ 참고: 유효숫자 계산 [ https://ywpop.tistory.com/3211 ]
---------------------------------------------------
4.56은 4.555~4.564 사이의 숫자이므로,
> 4.555 × 1.4 = 6.377
> 4.564 × 1.4 = 6.3896
1.4는 1.35~1.44 사이의 숫자이므로,
> 4.56 × 1.35 = 6.156
> 4.56 × 1.44 = 6.5664
1.4의 불확실도가
계산값에 더 큰 영향을 준다.
---> 4.56의 정밀도가 더 높다.
곱셈/나눗셈의 결과값은
정밀도가 가장 낮은 측정값의 유효숫자 개수에 맞춘다.
= 유효숫자 개수가 가장 적은 측정값의 유효숫자 개수에 맞춘다.
4.56 × 1.4 = 6.384
---> 1.4의 유효숫자 개수에 맞추면,
= 6.4
답: 6.4
[키워드] 유효숫자와 정밀도 기준문서, 정밀도가 가장 낮은 측정값 기준문서, 상대 정밀도 기준문서, 상대 정밀도 사전
반응형
그리드형(광고전용)