본문 바로가기
화학/유효숫자

유효 숫자 계산

by 영원파란 2015. 4. 2.

AdSense@ywpop

유효 숫자 계산

 

 

 

 

곱셈/나눗셈과 덧셈/뺄셈이 섞여있으면, 연산순서에 따라,

곱셈/나눗셈부터 계산한 후, 그 값들을 가지고 덧셈/뺄셈을 해야 합니다.

(왜냐하면, 곱셈/나눗셈에서 유효 숫자 결정하는 방법과

덧셈/뺄셈에서 유효 숫자 결정하는 방법이 다르기 때문입니다.)

 

(1) 2.526 / 3.1 = 0.81483871

3.1의 유효 숫자 2개에 맞추면, 0.81

 

(2) 0.470 / 0.623 = 0.754414125

유효 숫자 3개에 맞추면, 0.754

 

(3) 80.705 / 0.4326 = 186.5580213

0.4326의 유효 숫자 4개에 맞추면, 186.6

 

(4) 0.81 + 0.754 + 186.6 = 188.164

186.6의 소수 첫째자리에 맟추면, 188.2

 

 

답은 188.2입니다.

 

 

*유효숫자 설명 http://ywpop.tistory.com/3212

*유효숫자 계산 설명 http://ywpop.tistory.com/3211

 

반응형
그리드형(광고전용)

댓글