유효숫자 계산: 섭씨를 화씨로

유효숫자 계산: 섭씨를 화씨로

 

---------------------------------------------------

 

(A) 320.5 – 6104.5 / 2.3

 

나눗셈부터 계산하면,

6104.5 / 2.3 = 2654.1304

숫자 중 최소 유효숫자 개수인 2개로 맞추면,

결과는 2700

 

이제 뺄셈을 하면,

320.5 – 2700 = –2379.5

숫자 중 가장 높은 최소 유효숫자 자리인 100의 자리에 맞추면,

최종 결과는 -2400

 

[참고] 위 계산은 틀린 예시이며, 올바른 방법은 다음 글을 참고하세요.

( 동일 예제 https://ywpop.tistory.com/10727 )

 

 

 

(B) 섭씨 216.7도를 화씨로

공식: (섭씨 × 9/5) + 32 = 화씨

 

괄호 안부터 계산하면,

216.7 × 9/5 = 390.06

공식에 나온 숫자는 완전수이므로, 측정값의 유효숫자 개수에 맞추면,

결과는 390.1

 

이제 덧셈을 하면,

390.1 + 32 = 422.1

공식에 나온 숫자는 완전수이므로, 측정값의 유효숫자 자리에 맞추면,

최종 결과는 422.1

 

(216.7 × 9/5) + 32 = 422.06

---> 유효숫자 4개에 맞추면,
= 422.1℉