유효숫자와 완전수

유효숫자와 완전수

 

-----------------------------------------

 

1. 완전수는 측정값의 계산에서 유효숫자의 개수를 결정하지 않는다는데

그러면 '1 마일은 53000 ft이다.'라는 문장에서 유효숫자는 0개라는 소린가요?

 

▶ 유효숫자와 완전수 설명 http://ywpop.tistory.com/3212

 

위 문장에 나와 있는 것처럼, ‘계산’할 때 그렇다는 겁니다.

가령, 측정값이 4.732 마일일 때, 이 측정값을 ft로 나타내면,

4.732 마일 * (53000 ft / 1 마일) = 250796 ft가 나오는데,

유효숫자를 고려하면, 답은 250800 ft 또는 2.508*10^5 ft가 된다는 것이죠.

즉 환산인자에 나와 있는 53000(유효숫자 2개)과 1(유효숫자 1개)은

유효숫자를 결정할 때 고려하지 않습니다.

측정값인 4.732(유효숫자 4개)에 맞추면 됩니다.

 

 

▶ 유효숫자를 고려한 계산 설명 http://ywpop.tistory.com/3211

 

2. 1.0028 + 0.221 + 0.100337 = 1.324137 ... 전자계산기 계산 결과

→ 1.324 ... 0.001의 자리에 맞춤

 

 

3. 52.331 + 26.01 – 0.9981 = 77.3429 ... 전자계산기 계산 결과

→ 77.34 ... 0.01의 자리에 맞춤

 

 

4. 0.320의 유효숫자는 3개입니다.