본문 바로가기
화학/유효숫자

유효숫자 혼합계산. (30000 + 6.872) / (0.043 - 0.021)

by 영원파란 2018. 3. 25.

AdSense@ywpop

728x170

유효숫자 혼합계산. (30000 + 6.872) / (0.043 - 0.021)

 

---------------------------------------------------

 

유효숫자 계산 설명 https://ywpop.tistory.com/3211

 

 

1) (30000 + 6.872) = 30006.872

---> 1의 자리수임을 기억한다. , 다음 계산에서 유효숫자 5.

 

 

2) (0.043 0.021) = 0.022

---> 0.001의 자리수임을 기억한다. , 다음 계산에서 유효숫자 2.

 

 

3) (30000 + 6.872) / (0.043 0.021) = 1363948.727272...

---> 유효숫자 2개에 맞추면,

= 1.4×10^6

 

 

: 1.4×10^6

 

---------------------------------------------------

 

30000의 경우,

유효숫자 개수에 다소 논란이 있다.

( 설명 https://ywpop.tistory.com/4954 )

 

 

덧셈/뺄셈 계산에서 3 뒤에 나오는 0을 유효숫자에 포함시키지 않으면,

 

 

1) (30000 + 6.872) = 30006.872

---> 10000의 자리수임을 기억한다. , 다음 계산에서 유효숫자 1.

 

 

2) (0.043 0.021) = 0.022

---> 0.001의 자리수임을 기억한다. , 다음 계산에서 유효숫자 2.

 

 

3) (30000 + 6.872) / (0.043 0.021) = 1363948.727272...

---> 유효숫자 1개에 맞추면,

= 1×10^6

 

 

[덧붙이는 말] 1.4×10^6 과 1×10^6 중에서,
어느 것이 1363948.727272... 값을 더 정확히 나타내는 값일까를 생각해보자.
세계적인 교수들도 서로 다투고 있으니, 선택은 각자가 알아서...

 

 

 

[ 관련 예제 https://ywpop.tistory.com/13277 ] 유효숫자 혼합 계산. (3×10^4 + 6.827) / (0.043 – 0.021)

 

 

반응형
그리드형(광고전용)

댓글