본문 바로가기
화학

지수형 숫자의 유효숫자 계산. 10^(-3.2)

by 영원파란 2019. 4. 25.

AdSense@ywpop

728x170

지수형 숫자의 유효숫자 계산. 10^(-3.2)

 

---------------------------------------------------

유효숫자 설명 https://ywpop.tistory.com/3212

유효숫자 계산 설명 https://ywpop.tistory.com/3211

유효숫자 로그 계산 설명 https://ywpop.tistory.com/6047

지수형 숫자의 유효숫자 처리는 로그 숫자의 유효숫자 처리의 역과정이다.

---------------------------------------------------

 

10^(-3.2) = 0.00063095734448...

---> -3.2에서 소수점 이하 유효숫자가 1개이므로,

유효숫자 1개에 맞추면,

= 0.0006

 

 

반응형
그리드형(광고전용)

댓글