본문 바로가기
화학/유효숫자

유효숫자 루트 계산. sqrt[((1.026–1.025)^2 + (1.020–1.025)^2 + (1.028–1.025)^2) / 2]

by 영원파란 2020. 5. 1.

AdSense@ywpop

728x170

유효숫자 루트 계산. sqrt[((1.0261.025)^2 + (1.0201.025)^2 + (1.0281.025)^2) / 2]

유효숫자 계산. sqrt[((1.0261.025)^2 + (1.0201.025)^2 + (1.0281.025)^2) / 2]

, 2는 완전수.

 

---------------------------------------------------

참고: 유효숫자 제곱근 계산 [ https://ywpop.tistory.com/10864 ]

---------------------------------------------------

 

1.026 1.025 = 0.001

---> 이 계산 결과는 0.001의 자리수이므로,

다음 계산에서 유효숫자 1개임을 기억한다.

 

 

(1.026 1.025)^2 = 0.000001

---> 이 계산 결과는 유효숫자 1개이므로,

다음 계산에서 0.000001의 자리수임을 기억한다.

 

 

 

1.020 1.025 = -0.005

---> 이 계산 결과는 0.001의 자리수이므로,

다음 계산에서 유효숫자 1개임을 기억한다.

 

 

(1.020 1.025)^2 = 0.000025

---> 이 계산 결과는 유효숫자 1개이므로,

다음 계산에서 0.00001의 자리수임을 기억한다.

 

 

 

1.028 1.025 = 0.003

---> 이 계산 결과는 0.001의 자리수이므로,

다음 계산에서 유효숫자 1개임을 기억한다.

 

 

(1.028 1.025)^2 = 0.000009

---> 이 계산 결과는 유효숫자 1개이므로,

다음 계산에서 0.000001의 자리수임을 기억한다.

 

 

 

(1.026 1.025)^2 + (1.020 1.025)^2 + (1.028 1.025)^2 = 0.000035

---> 이 계산 결과는 0.00001의 자리수이므로,

다음 계산에서 유효숫자 1개임을 기억한다.

 

 

 

((1.026 1.025)^2 + (1.020 1.025)^2 + (1.028 1.025)^2) / 2 = 0.0000175

---> 2는 완전수이므로,

다음 계산에서 유효숫자 1개임을 기억한다.

 

 

 

[((1.026 1.025)^2 + (1.020 1.025)^2 + (1.028 1.025)^2) / 2]^(1/2) = 0.0041833...

---> 유효숫자 2개에 맞추면,

= 0.0042

 

 

: 0.0042

 

 

반응형
그리드형(광고전용)

댓글