본문 바로가기
화학/유효숫자

유효숫자 계산

by 영원파란 2015. 9. 7.

AdSense@ywpop

유효숫자 계산

 

 

Express your answer to the appropriate number of significant digits.

 

1. 320.34-(6109.2/2.5)

2. (0.0050×24000.0)+(2814×15)

3. 861×[1256-(3.27×103)]

 

-------------------------------------------

 

덧셈/뺄셈: 가장 높은 유효 숫자 자리에 맞춰 반올림합니다.

또는 반올림하여 유효 숫자의 끝자리가 가장 높은 측정값의 자리로 맞춥니다.

 

곱셈/나눗셈가장 작은 유효 숫자 개수에 맞춰 반올림합니다.

또는 반올림하여 유효 숫자 개수가 가장 작은 측정값의 유효 숫자 개수로 맞춥니다.

 

[보충설명] http://ywpop.tistory.com/3211

 

 

1. 320.34-(6109.2/2.5)

6109.2/2.5 = 2443.68 = 2400

320.34-2400 = 2079.66 = -2100

 

 

2. (0.0050×24000.0)+(2814×15)

0.0050×24000.0 = 120

2814×15 = 42210 = 42000

120+42000 = 42120 = 42000

 

 

3. 861×[1256-(3.27×103)]

3.27×103 = 336.81 = 337

1256-337 = 919

861×919 = 791259 = 791000 또는 7.91×10^5

  

반응형
그리드형(광고전용)

댓글