유효숫자 계산 예제

유효숫자 계산 예제

 

 

ⓐ 7846 × 92437 × 235.649 × 3300 = 563992965246473.4

→ 560000000000000 or 5.6×10^14

 

 

ⓑ 583.00 / 83 = 7.0240964...

→ 7.0

 

 

ⓒ (57.6 × 3) / (34 × 3.00 × 87.507) = 0.0193598...

→ 0.02

 

 

ⓓ 78.00 + 45.6 + 0.00467 + 39.45 + 276.999 = 440.05367

→ 440.1

 

 

ⓔ 567.000 - 12 = 555

→ 555

 

 

ⓕ 8597 - 0.1 = 8596.9

→ 8597

 

 

ⓖ (3.50×10^5) × [2.8 / (5.4 – 4.09)] = 748091.60305...

5.4 – 4.09 = 1.31

→ 1.3

(3.50×10^5) × [2.8 / 1.3] = 753846.153846...

→ 750000 or 7.5×10^5

 

아래와 같이 계산방법을 수정하겠습니다.
5.4 – 4.09 = 1.31
---> 0.1의 자리수, 즉 유효숫자 2개임을 기억

 

(3.50×10^5) × [2.8 / 1.31]
= 748091.60305...
---> 유효숫자 2개에 맞추면
= 750000 or 7.5×10^5

 

 

ⓗ (6.10×10^7) + (3×10^7)

= (6.10 + 3)×10^7 = 9.1×10^7

→ 9×10^7

 

 

ⓘ 787 × 3.0 = 2361

→ 2400