유효숫자 계산. [(285.3×10^5) – (1.200×10^3)] × 2.8954 ★

유효숫자 계산. [(285.3×10^5) – (1.200×10^3)] × 2.8954

지수가 포함된 유효숫자 혼합 계산

지수가 포함된 유효숫자 덧셈 계산

 

 

 

[참고] 지수(10의 거듭제곱)가 포함된 유효숫자의 덧셈/뺄셈 계산

[ https://ywpop.tistory.com/4935 ]

 

 

 

> 사칙연산 순서에 따라, 괄호 안부터 계산.

> 지수를 10^5 (또는 10^3) 으로 통일시켜 계산.

 

 

 

 

① 지수를 10^5 으로 통일시켜 계산

(285.3×10^5) – (0.01200×10^5)

= (285.3 – 0.01200)×10^5

= (285.288)×10^5

---> 괄호 안 계산 결과는 0.1의 자릿수이므로,

다음 계산에서 유효숫자 4개임을 기억한다.

 

 

 

(285.288×10^5) × 2.8954

= 826.0228752×10^5

---> 유효숫자 4개에 맞추면,

= 826.0×10^5

---> 과학적 표기법에 맞추면,

= 8.260×10^7

 

 

 

 

② 지수를 10^3 으로 통일시켜 계산

(28530×10^3) – (1.200×10^3)

= (28530 – 1.200)×10^3

= (28528.8)×10^3

---> 괄호 안 계산 결과는 1의 자릿수이므로,

다음 계산에서 유효숫자 5개임을 기억한다.

 

 

 

(28528.8×10^3) × 2.8954

= 82602.28752×10^3

---> 유효숫자 5개에 맞추면,

= 82602×10^3

---> 과학적 표기법에 맞추면,

= 8.2602×10^7

---> ① 계산 결과와 다르다.

 

 

 

답: 8.260×10^7

[ 동일 예제 https://ywpop.tistory.com/10912 ]

 

 

---------------------------------------------------

 

반응형

 

 

똑같은 한 문제를 가지고 계산 방법을 달리했다고,

다른 결과가 나온다면, 그것은 계산을 잘못한 것입니다.

( 또는 연산 논리에 오류가 포함되었기 때문입니다. )

 

 

지수가 포함된 계산에서,

지수를 어느 쪽으로 맞추던 결과는 같아야 합니다.

 

 

이 문제의 경우, 10^3으로 맞춘 28530×10^3 에서

오류가 발생했습니다.

 

 

원래 유효숫자는 4개인데,

지수를 맞추는 과정에서 5개로 늘어나 버렸습니다.

 

 

곱셈에서 0은 유효숫자 개수에 포함시키지 않지만,

덧셈에서는 0을 유효숫자 자릿수에 포함시키기 때문입니다.

 

 

따라서, 이 때문에,

지수가 포함된 (덧셈/뺄셈) 계산에서는,

지수를 어느 한쪽으로 통일시켜 계산하되,

단, 이때 유효숫자 개수는 변하지 않아야 합니다.

 

 

만약 ②번처럼, 지수를 어느 한쪽으로 맞출 때,

맞추는 과정에서 유효숫자가 달라지면,

그 방법으로 계산하면 안 됩니다.

 

 

---------------------------------------------------

 

 

실제 계산 시에는

지수를 가장 큰 값에 맞추는 것이 좋겠습니다.

 

 

대부분 계산에서

과학적 표기법에 따른(맞는) 결과가 바로 나오므로

( 참고: 과학적 표기법 https://ywpop.tistory.com/6868 )

 

과학적 표기법으로 바꾸는데 걸리는 시간도 절약하고,

이 과정에서 발생 가능한 실수도 방지하고, 또한 무엇보다,

위 예제와 같은 오류를 미연에 방지하기 위해서도...

 

 

 

 

[키워드] 지수가 포함된 유효숫자 혼합 계산 기준, 지수가 포함된 유효숫자 혼합 계산 사전, 지수가 포함된 유효숫자 덧셈 계산 기준, 지수가 포함된 유효숫자 덧셈 계산 사전