본문 바로가기
화학/유효숫자

유효숫자 루트 계산 sqrt[(0.041^2 + 0.012^2 + 0.052^2)/2]

by 영원파란 2021. 3. 13.

AdSense@ywpop

유효숫자 루트 계산 sqrt[(0.041^2 + 0.012^2 + 0.052^2)/2]

단, 나누는 수 2는 완전수.

 

---------------------------------------------------

 

▶ 참고: 유효숫자 루트 계산 [ https://ywpop.tistory.com/10864 ]

 

 

 

0.041^2 = 0.001681

---> 이 계산 결과는 유효숫자 2개이므로,

다음 계산에서 0.0001의 자리수임을 기억한다.

 

 

0.012^2 = 0.000144

---> 이 계산 결과는 유효숫자 2개이므로,

다음 계산에서 0.00001의 자리수임을 기억한다.

 

 

0.052^2 = 0.002704

---> 이 계산 결과는 유효숫자 2개이므로,

다음 계산에서 0.0001의 자리수임을 기억한다.

 

 

0.041^2 + 0.012^2 + 0.052^2 = 0.004529

---> 이 계산 결과는 0.0001의 자리수이므로,

다음 계산에서 유효숫자 2개임을 기억한다.

 

 

0.004529 / 2 = 0.0022645

---> 유효숫자 2개임을 기억한다.

 

 

sqrt(0.0022645) = 0.04758676...

---> 유효숫자 3개에 맞추면,

= 0.0476

 

 

 

답: 0.0476

 

 

반응형
그리드형(광고전용)

댓글