본문 바로가기
화학/유효숫자

지수형 유효숫자 혼합계산. (3.8×10^-12 + 4.0×10^-13)/(4×10^12 + 6.3×10^13)

by 영원파란 2019. 4. 1.

AdSense@ywpop

지수형 유효숫자 혼합계산. (3.8×10^-12 + 4.0×10^-13)/(4×10^12 + 6.3×10^13)

유효숫자 계산. (3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)

 

---------------------------------------------------

유효숫자 설명 https://ywpop.tistory.com/3212

유효숫자 계산 설명 https://ywpop.tistory.com/3211

지수가 포함된 유효숫자 계산 설명 https://ywpop.tistory.com/4935

---------------------------------------------------

 

3.8×10^(-12) + 4.0×10^(-13)

---> 10^(-12) 으로 통일시키면,

= 3.8×10^(-12) + 0.40×10^(-12)

= (3.8 + 0.40)×10^(-12)

= 4.2×10^(-12)

---> 0.1의 자리수이므로, 유효숫자 2개임을 기억한다.

( 다음 단계 계산이 곱셈/나눗셈이므로, 유효숫자 개수를 기억한다. )

 

 

4×10^12 + 6.3×10^13

---> 10^13 으로 통일시키면,

= 0.4×10^13 + 6.3×10^13

= (0.4 + 6.3)×10^13

= 6.7×10^13

---> 0.1의 자리수이므로, 유효숫자 2개임을 기억한다.

 

 

(3.8×10^(-12) + 4.0×10^(-13)) / (4×10^12 + 6.3×10^13)

= 6.2686567...×10^(-26)

---> 유효숫자 2개에 맞추면,

= 6.3×10^(-26)

 

 

: 6.3×10^(-26)

 

 

 

[ 관련 예제 https://ywpop.tistory.com/10755 ]

 

 

 

[키워드] 지수형 유효숫자 계산 기준문서, 지수형 유효숫자 기준문서

 

 

반응형
그리드형(광고전용)

댓글