본문 바로가기
화학/유효숫자

유효숫자 곱셈과 상대 정밀도. 4.56 × 1.4

by 영원파란 2023. 4. 17.

AdSense@ywpop

728x170

유효숫자 곱셈과 상대 정밀도. 4.56 × 1.4

sig fig 4.56 × 1.4

 

---------------------------------------------------

▶ 참고: 유효숫자 [ https://ywpop.tistory.com/3212 ]

▶ 참고: 유효숫자 계산 [ https://ywpop.tistory.com/3211 ]

---------------------------------------------------

 

4.56은 4.555~4.564 사이의 숫자이므로,

> 4.555 × 1.4 = 6.377

> 4.564 × 1.4 = 6.3896

 

 

 

1.4는 1.35~1.44 사이의 숫자이므로,

> 4.56 × 1.35 = 6.156

> 4.56 × 1.44 = 6.5664

 

 

 

1.4의 불확실도가

계산값에 더 큰 영향을 준다.

---> 4.56의 정밀도가 더 높다.

 

 

 

곱셈/나눗셈의 결과값은

정밀도가 가장 낮은 측정값의 유효숫자 개수에 맞춘다.

= 유효숫자 개수가 가장 적은 측정값의 유효숫자 개수에 맞춘다.

 

 

 

4.56 × 1.4 = 6.384

---> 1.4의 유효숫자 개수에 맞추면,

= 6.4

 

 

 

답: 6.4

 

 

 

 

[키워드] 유효숫자와 정밀도 기준문서, 정밀도가 가장 낮은 측정값 기준문서, 상대 정밀도 기준문서, 상대 정밀도 사전

 

 

반응형
그리드형(광고전용)

댓글