과학 계산에서의 유효 숫자 ★

과학 계산에서의 유효 숫자

 

 

 

[참고] 유효숫자

[ https://ywpop.tistory.com/3212 ]

 

 

 

과학 계산에서의 유효 숫자는

불확실성이 가장 큰 측정값이 최종 계산 값의 유효 숫자를 결정한다.

 

단, 덧셈/뺄셈과 곱셈/나눗셈의 유효숫자 결정방법은 “다르다.”

 

덧셈/뺄셈은 가장 “큰” 유효숫자 “자릿수”에 맞추고,

곱셈/나눗셈은 가장 “적은” 유효숫자 “개수”에 맞춘다.

 

 

 

 

A. 덧셈/뺄셈에서 불확실성이 가장 큰 측정값

= 유효 숫자의 끝자리 수가 가장 큰(높은) 값

⇨ 반올림하여 유효 숫자의 끝자리 수가 가장 큰 측정값의 자릿수로 맞춘다.

 

예1) 20.42 + 1.322 + 83.1 = 104.842

⇨ 104.8   (0.1의 자리)

 

예2) 140 + 28.3 = 168.3

⇨ 170   (10의 자리)

⇨ 168   (1의 자리) ... 이 값으로 수정함.

 

( 예제 https://ywpop.tistory.com/search/유효숫자덧셈 )

 

 

 

[수정된 계산 방법]

숫자 자체로만 판단하면, 자연수의 끝자리 0은 유효숫자가 아니지만,

덧셈/뺄셈 계산에서는 유효숫자에 포함시킨다.

 

즉, 자연수의 끝자리 0은

곱셈/나눗셈 계산에서는 유효숫자 개수가 아니나,

덧셈/뺄셈 계산에서는 유효숫자 자릿수로 취급한다.

 

유효숫자 계산에서 자연수의 끝자리 영(0)은

유효숫자 자릿수에는 포함되고, (즉, 덧셈/뺄셈에서는 포함.)

유효숫자 개수에는 포함되지 않는다. (즉, 곱셈/나눗셈에서는 제외.)

( 참고: 수정된 계산 방법 설명 및 예제 https://ywpop.tistory.com/4954 )

 

[ 관련 예제 https://ywpop.tistory.com/23419 ] sig fig 104 + 7.8 + 40

---> [필수] 이 글은 반드시 읽어보세요.

 

 

반응형

 

 

B. 곱셈/나눗셈에서 불확실성이 가장 큰 측정값

= 유효 숫자 개수가 가장 작은 값

⇨ 반올림하여 유효 숫자 개수가 가장 적은 측정값의 유효 숫자 개수로 맞춘다.

( 참고: 반올림 https://ywpop.tistory.com/6707 )

 

예1) 6.221 × 5.2 = 32.3492

⇨ 32

 

예2) 15.5 × 27.3 × 5.4 = 2285.01

⇨ 2300 또는

⇨ 2.3×10^3

 

( 예제 https://ywpop.tistory.com/search/유효숫자곱셈 )

 

 

 

※ 정밀도가 가장 낮은 측정값의 유효숫자 개수에 맞춘다.

= 유효숫자 개수가 가장 적은 측정값의 유효숫자 개수에 맞춘다.

( 참고 https://ywpop.tistory.com/23576 )

 

 

 

 

C. 덧셈/뺄셈과 곱셈/나눗셈이 혼합되어 있는 계산

> 덧셈/뺄셈과 곱셈/나눗셈이 혼합되어 있는 계산은

덧셈/뺄셈의 유효숫자 결정방법과

곱셈/나눗셈의 유효숫자 결정방법이 서로 다르므로,

사칙연산 순서에 따라 단계별로 계산한다.

 

> 만약 괄호가 있으면, 당연히, 괄호 안부터 계산한다.

 

> 최종(가장 마지막) 계산이

덧셈/뺄셈이면, 덧셈/뺄셈처럼 유효숫자 자릿수로 맞추고,

곱셈/나눗셈이면, 곱셈/나눗셈처럼 유효숫자 개수로 맞춘다.

( 예제로 다시 설명 https://ywpop.tistory.com/13399 )

 

( 예제 https://ywpop.tistory.com/search/유효숫자혼합 )

 

 

 

 

[참고] 유튜브 동영상 [ https://youtu.be/69vIPcXTRjs ]

 

[참고] 지수( 즉, ×10^n )가 포함된 계산 [ https://ywpop.tistory.com/4935 ]

 

[참고] 로그(log) 함수 계산 [ https://ywpop.tistory.com/6047 ]

 

[참고] 루트 계산 (제곱근 계산) [ https://ywpop.tistory.com/10864 ]

 

 

 

 

[키워드] 유효숫자 기준, 유효숫자 계산 기준, 유효숫자 사전, 유효숫자 계산 사전

 

[Google 검색 실적] 2024년 3월 인기 상승 + 상위 실적 페이지