유효숫자 혼합 계산. (2.0028 – 2.00) / 2.00

유효숫자 혼합 계산. (2.0028 – 2.00) / 2.00

sig fig. (2.0028 – 2.00) / 2.00

 

------------------------

 

[참고] 과학 계산에서의 유효 숫자

[ https://ywpop.tistory.com/3211 ]

 

 

 

[1단계]

2.0028 – 2.00 = 0.0028

---> 이 계산 결과는 0.01의 자릿수이므로,

다음 계산에서 유효숫자 1개임을 기억한다.

 

 

 

[2단계]

(2.0028 – 2.00) / 2.00 = 0.0014

---> 유효숫자 1개에 맞추면,

= 0.001

 

 

 

만약 문제에서

0.0014인가? 0.001인가?

라면 질문했다면,

0.001이라고 답하면 된다.

 

 

 

 

근데,

1단계에서 0.01의 자릿수에 맞춘 숫자가

0.00이라서 계산이 애매하다.

( 필자는 제법 많은 유효숫자 혼합 문제를 풀어봤지만,

1단계에서 0이 나오는 문제는 처음 접해 본다. 그래서

문제 오류 또는 오타일 수도 있다는 생각을 해본다. )

 

0.00은 유효숫자가 없으므로 (0개이므로),

( 참고 https://ywpop.tistory.com/24675 )

 

(2.0028 – 2.00) / 2.00 = 0

이라고 계산할 수도 있다.

 

 

 

 

[키워드] 유효숫자 혼합 계산 기준