유효숫자 계산

유효숫자 계산

 

 

a. 12.6 * 0.53

b. (12.6 * 0.53) - 4.59

c. (25.36 – 4.15 ) / 2.317

 

---------------------------------------------------

 

유효숫자 계산 설명 https://ywpop.tistory.com/3211

 

 

a. 12.6 * 0.53 = 6.678

→ 6.7 ... 유효숫자 2개

 

 

b. (12.6 * 0.53) - 4.59

6.7 – 4.59 = 2.11

→ 2.1 ... 0.1의 자리

( 동일 예제 https://ywpop.tistory.com/13272 )

 

 

c. (25.36 – 4.15) / 2.317

25.36 – 4.15 = 21.21

→ 21.21 ... 0.01의 자리

 

21.21 / 2.317 = 9.15407855...

→ 9.154 ... 유효숫자 4개