유효 숫자 계산: 10의 거듭제곱(the power of ten) 형태의 숫자

유효 숫자 계산: 10의 거듭제곱(the power of ten) 형태의 숫자

 

 

만약 계산식에 덧셈/뺄셈과 곱셈/나눗셈이 함께 있으면,

연산순서에 따라 분리하여 계산합니다.

(왜냐하면, 덧셈/뺄셈과 곱셈/나눗셈의 유효 숫자 결정 방법이 다르기 때문입니다.)

(그리고 공학용 계산기는 유효 숫자 결정 방법을 모르기 때문입니다.)

일단 공학용 계산기로 식에 나와 있는 그대로 계산한 다음,

계산 결과로부터 다음과 같이 유효 숫자를 결정합니다.

 

 

------------------------------------------------------

 

 

곱셈/나눗셈에서는

10의 거듭제곱 값은 그대로 사용합니다.

그러고 나서 10의 거듭제곱 앞에 있는 숫자는
계산에 사용된 10의 거듭제곱 앞에 있는 숫자들 중에서
가장 작은 유효 숫자 개수에 맞춥니다.

즉 일반적인 곱셈/나눗셈의 유효 숫자 결정 방법과 동일합니다.

 

 

 

 

------------------------------------------------------

 

 

덧셈/뺄셈에서는

가장 높은 10의 거듭제곱을 가진 숫자와 같은 형태로 나타냅니다.

(같은 소수점 자리 수와 같은 10의 거듭제곱)

 

 

  

  

  

  

[키워드] 유효숫자