유효숫자 혼합 계산. (0.31 – 0.306) / 0.306

유효숫자 혼합 계산. (0.31 – 0.306) / 0.306

유효숫자 계산. (0.31 – 0.306) / 0.306

 

---------------------------------------------------

▶ 참고: 유효숫자 [ https://ywpop.tistory.com/3212 ]

▶ 참고: 유효숫자 계산 [ https://ywpop.tistory.com/3211 ]

---------------------------------------------------

 

0.31 – 0.306 = 0.004

---> 이 계산 결과는 0.01의 자리수이므로,

다음 계산에서 유효숫자 1개임을 기억한다.

---> 중간 과정 계산은

단지 유효숫자를 결정하기 위한 것이기 때문에,

계산 결과인 0.00에 신경쓰지 말자.

 

 

 

(0.31 – 0.306) / 0.306 = 0.0130718954...

---> 유효숫자 1개에 맞추면,

= 0.01

 

 

 

답: 0.01