유효숫자 혼합 계산 (50.506) (1–(0.0012/2.109)) / (1–(0.0012/8.0))

유효숫자 혼합 계산 (50.506) (1–(0.0012/2.109)) / (1–(0.0012/8.0))

유효숫자 계산 (50.506) (1–(0.0012/2.109)) / (1–(0.0012/8.0))

 

---------------------------------------------------

▶ 참고: 유효숫자 [ https://ywpop.tistory.com/3212 ]

▶ 참고: 유효숫자 계산 [ https://ywpop.tistory.com/3211 ]

---------------------------------------------------

 

1은 공식에 나오는 숫자(= 완전수)라 제외하고,

나머지 모든 숫자는 측정값이라 가정.

 

 

 

0.0012 / 2.109 = 0.00056899...

---> 이 계산 결과는 유효숫자 2개이므로,

다음 계산에서 0.00001의 자리수임을 기억.

 

 

 

1 – (0.0012 / 2.109) = 0.999431...

---> 이 계산 결과는 0.00001의 자리수이므로,

다음 계산에서 유효숫자 5개임을 기억.

 

 

 

0.0012 / 8.0 = 0.00015

---> 이 계산 결과는 유효숫자 2개이므로,

다음 계산에서 0.00001의 자리수임을 기억.

 

 

 

1 – (0.0012 / 8.0) = 0.99985

---> 이 계산 결과는 0.00001의 자리수이므로,

다음 계산에서 유효숫자 5개임을 기억.

 

 

 

(50.506) (1 – (0.0012 / 2.109)) / (1 – (0.0012 / 8.0)) = 50.4848353

---> 유효숫자 5개에 맞추면,

= 50.485

 

 

 

답: 50.485

 

 

 

 

(50.506) (1.00000000–(0.0012/2.109)) / (1.00000000–(0.0012/8.0))