유효숫자 계산

유효숫자 계산

 

----------------------------------------

 

▶ 유효숫자 계산 설명 http://ywpop.tistory.com/3211

 

 

[1] 89.75416^2/6*(–6.491) =

 

만약 89.75416과 –6.491이 측정값이고,

2와 6이 공식에 나와 있는 값이라면,

공식에 있는 숫자는 완전수 ( 설명 http://ywpop.tistory.com/3212 ) 이므로,

완전수는 유효숫자를 고려하여 계산할 때 무시하면 됩니다.

 

89.75416^2/6*(–6.491) = –8715.04296...

 

곱셈/나눗셈에서는 가장 작은 유효숫자 개수에 맞추어야 하므로,

가장 작은 유효숫자 개수인 4개(–6.491)로 답을 쓰면,

답은 –8715. 입니다.

 

 

[2] 8922. + 3.2133 =

 

덧셈/뺄셈에서는 가장 높은 유효숫자 자리수에 맞추어야 하므로,

 

8922. + 3.2133 = 8925.2133

 

가장 높은 자리수인 1의 자리(8922.)에 맞추면,

답은 8925. 입니다.