유효숫자 계산

유효숫자 계산

 

 

a) 320.5 - (6104.5 / 2.3)

b) [(285.3*10^5) - (1.200*10^3)] * 2.8954

c) (0.0045 * 20000.0) + (2813 * 12)

d) 863 * [1255 - (3.45 * 108)]

 

---------------------------------------------------

 

덧셈/곱셈 혼합 계산은

덧셈/곱셈 유효숫자 계산법이 다르기 때문에,

사칙연산 순서에 따라 각각 따로 계산해야 됩니다.

( 계산 설명 https://ywpop.tistory.com/3211 )

 

 

 

▶ 아래에 나온 계산 방법은 잘못된 방법입니다.

올바른 계산 방법은 각 문항의 동일 예제를 참고하세요.

 

 

 

a) 320.5 - (6104.5 / 2.3)

(6104.5 / 2.3) = 2654.1304348...

→ 2700 ... 유효숫자 2개

320.5 - 2700 = -2379.5

→ -2400 ... 100의 자리

( 동일 예제 https://ywpop.tistory.com/10727 )

 

 

 

b) [(285.3*10^5) - (1.200*10^3)] * 2.8954

(285.3*10^5) - (1.200*10^3)

= (285.3*10^5) - (0.01200*10^5) ... 지수 통일

= (285.3 – 0.01200)*10^5

= 285.288*10^5

→ 285.3*10^5 ... 0.1의 자리

(285.3*10^5) * 2.8954 = 82605762

→ 8.261*10^7 ... 유효숫자 4개

( 동일 예제 https://ywpop.tistory.com/10912 )

 

 

 

c) (0.0045 * 20000.0) + (2813 * 12)

0.0045 * 20000.0 = 90

→ 90. ... 유효숫자 2개

2813 * 12 = 33756

→ 34000 ... 유효숫자 2개

90. + 34000 = 34090

→ 34000 ... 1000의 자리

( 동일 예제 https://ywpop.tistory.com/11173 )

 

 

 

d) 863 * [1255 - (3.45 * 108)]

3.45 * 108 = 372.6

→ 373 ... 유효숫자 3개

1255 – 373 = 882

→ 882 ... 1의 자리

863 * 882 = 761166

→ 761000 또는 7.61*10^5 ... 유효숫자 3개

( 동일 예제 https://ywpop.tistory.com/11174 )