유효숫자 루트 계산 (0.024 + sqrt[(0.024)^2 + 4(6.3×10^(-3))])/2

유효숫자 루트 계산 (0.024 + sqrt[(0.024)^2 + 4(6.3×10^(-3))])/2

유효숫자 계산 (0.024 + sqrt[(0.024)^2 + 4(6.3×10^(-3))])/2

단, 4와 2는 완전수.

 

---------------------------------------------------

 

▶ 참고: 유효숫자 루트 계산 [ https://ywpop.tistory.com/10864 ]

 

 

 

sqrt[(0.024)^2 + 4(6.3×10^(-3))] = 0.160549...

---> 이 계산 결과는 유효숫자 3개이므로,

다음 계산에서 0.001의 자리수임을 기억한다.

 

 

 

0.024 + sqrt[(0.024)^2 + 4(6.3×10^(-3))] = 0.184549...

---> 이 계산 결과는 0.001의 자리수이므로,

다음 계산에서 유효숫자 3개임을 기억한다.

 

 

 

(0.024 + sqrt[(0.024)^2 + 4(6.3×10^(-3))])/2 = 0.0922745...

---> 유효숫자 3개에 맞추면,

= 0.0923

 

 

 

답: 0.0923