유효 숫자: (1.5-1.0)/0.50=1.0 이 아닌 이유
유효 숫자: (1.5-1.0)/0.50=1.0 이 아닌 이유 유효 숫자를 고려하여 계산할 때, 곱셈/나눗셈과 덧셈/뺄셈이 섞여있으면, 연산순서에 따라, 곱셈/나눗셈부터 계산한 후, 그 값들을 가지고 덧셈/뺄셈을 해야 합니다. (왜냐하면, 곱셈/나눗셈에서 유효 숫자 결정하는 방법과 덧셈/뺄셈에서 유효 숫자 결정하는 방법이 다르기 때문입니다.) 계산에서 유효 숫자 결정 방법 http://ywpop.tistory.com/3211 괄호 안이 연산순서가 우선이므로, 1.5 – 1.0 = 0.5 1.5, 1.0 둘 다 가장 불확실한 자리수가 소수 첫째자리이므로, 계산 결과는 0.5입니다. 0.5 / 0.50 = 1 0.5의 유효 숫자가 1개이므로, 답은 1.0(유효숫자 2개)이 아닌, 1(유효숫자 1개)이 됩니다...
2015. 4. 9.
