화학/유효숫자
유효숫자 평균 계산. 18.600×3+18.550+18.500×3+18.400×2+18.450
영원파란
2024. 3. 16. 22:50
728x170
유효숫자 평균 계산. 18.600×3+18.550+18.500×3+18.400×2+18.450
[참고] 유효숫자와 평균값. 평균값과 유효숫자
[ https://ywpop.tistory.com/6777 ]
18.600×3 + 18.550 + 18.500×3 + 18.400×2 + 18.450
= 18.600
+ 18.600
+ 18.600
+ 18.550
+ 18.500
+ 18.500
+ 18.500
+ 18.400
+ 18.400
+ 18.450
= 185.1
---> 덧셈이므로,
0.001의 자릿수에 맞춘다.
= 185.100
이제 10회 측정값의 평균을 계산하면,
185.100 / 10
= 18.51
---> 10은 완전수이므로,
185.100의 자릿수에 맞춘다.
= 18.510
답: 18.510
[참고] 상식적으로 생각해보자.
어떤 실험을 10회 실시했고,
정밀도가 0.001 g까지 측정가능한 전자저울로
매회 측정한 질량 값이
위 결과라면,
질량의 평균값은, 당연히,
0.001의 자릿수가 되어야 할 것이다.
측정값들을 평균했다고해서,
정밀도가 높아진다거나 낮아지지는 않는다.
[키워드] 유효숫자 평균 기준
반응형
그리드형(광고전용)