최소 눈금이 0.10 g인 저울로 측정할 수 있는 질량의 유효 숫자

최소 눈금이 0.10 g인 저울로 측정할 수 있는 질량의 유효 숫자

 

 

최소 눈금이 0.10 g인 저울로 측정할 수 있는 질량의 유효 숫자는?

 

---------------------------------------------------

 

난센스 문제이다.

 

 

 

첫째. 전자저울의 스펙을 보면,

Readability, 최소 표시 등으로 나올 텐데,

0.01 g, 0.001 g, 0.0001 g 또는 0.1 mg과 같이

마지막 자리의 숫자는 1이다.

 

 

 

둘째. 유효 숫자는 전자저울의 스펙이 아닌,

전자저울로 측정한 어떤 물질의 질량(측정값)으로

판단(고려)하는 것이다.

 

예를 들어, 실제 질량이 1.234567 g인 물질의 질량을

1) 0.01 g까지 측정할 수 있는 전자저울로 측정하면, 1.23 g.

( 기기 오차에 의해, 1.22, 1.24 등의 값이 나올 수도 있음. )

---> 마지막 자리수인 0.03은 불확실한 측정값이며,

유효 숫자는 불확실한 측정값까지 포함하므로,

( 참고 https://ywpop.tistory.com/3212 )

1.23 g의 유효 숫자는 3개이다.

 

2) 0.001 g까지 측정할 수 있는 전자저울로 측정하면, 1.235 g.

---> 1.235 g의 유효 숫자는 4개이다.

 

3) 0.0001 g까지 측정할 수 있는 전자저울로 측정하면, 1.2346 g.

---> 1.2346 g의 유효 숫자는 5개이다.

 

 

 

만약 0.10 g을

0.01 g까지 측정할 수 있는 전자저울로 측정한 측정값이라 생각하면,

0.10 g의 유효 숫자는 2개이다.