유효숫자 계산. 2 – 1.9250

유효숫자 계산. 2 – 1.9250

 

---------------------------------------------------

▶ 유효숫자 설명 https://ywpop.tistory.com/3212

▶ 유효숫자 계산 설명 https://ywpop.tistory.com/3211

---------------------------------------------------

 

2 – 1.9250 = 0.075

---> 1의 자리수에 맞추면,

= 0

 

 

오로지 유효숫자 계산 연습을 하는 것이면,

답은 0입니다.

 

 

그러나 실제 계산에서는 이렇게 하지 않습니다.

2의 값을 좀 더 정확하게 측정해서 유효숫자 개수를 증가시키거나,

또는 2를 완전수 취급해버리고,

계산 결과는 1.9250의 유효숫자에 맞춥니다.