반응형 화학/유효숫자449 유효숫자 계산 유효숫자 계산 ---------------------------------------- ▶ 유효숫자 계산 설명 http://ywpop.tistory.com/3211 [1] 89.75416^2/6*(–6.491) = 만약 89.75416과 –6.491이 측정값이고, 2와 6이 공식에 나와 있는 값이라면, 공식에 있는 숫자는 완전수 ( 설명 http://ywpop.tistory.com/3212 ) 이므로, 완전수는 유효숫자를 고려하여 계산할 때 무시하면 됩니다. 89.75416^2/6*(–6.491) = –8715.04296... 곱셈/나눗셈에서는 가장 작은 유효숫자 개수에 맞추어야 하므로, 가장 작은 유효숫자 개수인 4개(–6.491)로 답을 쓰면, 답은 –8715. 입니다. [2] 8922. + 3.21.. 2016. 3. 13. 자연수에서 끝자리 0의 유효숫자 처리 ★ 자연수에서 끝자리 0의 유효숫자 처리 34200 m에서, 유효숫자가 왜 3개 일수도 있고, 4개 일수도 있고, 5개 일수도 있는지 궁금합니다. --------------------------------------------------- ▶ 참고: 자연수에서 유효 숫자 오른쪽에 있는 0 https://ywpop.tistory.com/10839 --------------------------------------------------- 만약 줄자의 눈금이 다음과 같다면, 34000까지는 확실한 숫자이고, 마지막 100의 자리는 눈대중으로 짐작한 불확실한 숫자이므로,(2라고 짐작함) 유효숫자는 3개입니다. 만약 줄자의 눈금이 다음과 같다면, 34200까지는 확실한 숫자이고, 마지막 10의 자리는 눈대중으로 짐.. 2016. 3. 13. 유효숫자 계산. 1587 – 120 유효숫자 계산. 1587 – 120 ---------------------------------------- ▶ 유효숫자 설명 http://ywpop.tistory.com/3212 ▶ 유효숫자 계산 설명 http://ywpop.tistory.com/3211 1587 유효숫자의 끝자리 수 = 1의 자리 120 유효숫자의 끝자리 수 = 1의 자리 1587 – 120 = 1467 답: 1467 2016. 3. 12. 유효숫자 계산 예제 유효숫자 계산 예제 ⓐ 7846 × 92437 × 235.649 × 3300 = 563992965246473.4 → 560000000000000 or 5.6×10^14 ⓑ 583.00 / 83 = 7.0240964... → 7.0 ⓒ (57.6 × 3) / (34 × 3.00 × 87.507) = 0.0193598... → 0.02 ⓓ 78.00 + 45.6 + 0.00467 + 39.45 + 276.999 = 440.05367 → 440.1 ⓔ 567.000 - 12 = 555 → 555 ⓕ 8597 - 0.1 = 8596.9 → 8597 ⓖ (3.50×10^5) × [2.8 / (5.4 – 4.09)] = 748091.60305... 5.4 – 4.09 = 1.31 → 1.3 (3.50×10^5) ×.. 2016. 3. 11. 단위 환산 문제. 유효숫자와 완전수 단위 환산 문제. 유효숫자와 완전수 [참고] 환산 인자 [ https://ywpop.tistory.com/3121 ] [참고] 유효숫자와 완전수 [ https://ywpop.tistory.com/3212 ] [완전수. Exact Numbers] 단위 환산 공식에 나오는 숫자는 완전수이므로, 측정값을 단위 환산 공식에 대입하여 계산할 때, 단위 환산 공식에 나오는 숫자는 유효숫자 처리에 포함시키지(고려하지) 않습니다. 즉, 단위 환산 결과는 측정값의 유효숫자에 맞추면 됩니다. ( 완전수의 유효숫자 개수는 무한대로 간주하므로... ) ( 참고 https://ywpop.blogspot.com/2024/03/blog-post_6.html ) [Q1] 1다스(12개)에 3.25달러인 도넛이 있다. 123달러로 도.. 2016. 3. 9. 유효숫자 계산. [(285.3×10^5) – (1.200×10^3)] × 2.8954 ★ 유효숫자 계산. [(285.3×10^5) – (1.200×10^3)] × 2.8954 지수가 포함된 유효숫자 혼합 계산 지수가 포함된 유효숫자 덧셈 계산 [참고] 지수(10의 거듭제곱)가 포함된 유효숫자의 덧셈/뺄셈 계산 [ https://ywpop.tistory.com/4935 ] > 사칙연산 순서에 따라, 괄호 안부터 계산. > 지수를 10^5 (또는 10^3) 으로 통일시켜 계산. ① 지수를 10^5 으로 통일시켜 계산 (285.3×10^5) – (0.01200×10^5) = (285.3 – 0.01200)×10^5 = (285.288)×10^5 ---> 괄호 안 계산 결과는 0.1의 자릿수이므로, 다음 계산에서 유효숫자 4개임을 기억한다. (285.288×10^5) × 2.8954 = 826.02.. 2016. 3. 7. 유효숫자 계산. [(195.6×10^5) - (7.400×10^3)] × 1.5976 유효숫자 계산. [(195.6×10^5) - (7.400×10^3)] × 1.5976 ---------------------------------------- 사칙연산 순서에 따라, 괄호 안부터 계산. 지수를 10^5 (또는 10^3) 으로 통일시켜 계산. (195.6×10^5) - (0.07400×10^5) = (195.6 – 0.07400)×10^5 = 195.53×10^5 ... 덧셈 설명 → 195.5×10^5 곱셈 계산. (195.5×10^5) × 1.5976 = (195.5 × 1.5976)×10^5 = 312.33×10^5 ... 곱셈 설명 → 312.3×10^5 또는 3.123×10^7 유효숫자 계산. [(285.3×10^5) – (1.200×10^3)] × 2.8954 2016. 3. 7. 유효숫자 계산 예제 유효숫자 계산 예제 --------------------------------------------------- ▶ (57.6 × 3) / (34 × 3.00 × 87.507) = 0.0193598... = 0.02 ▶ 78.00 + 45.6 + 0.00467 + 39.45 + 276.999 = 440.05367 = 440.1 ( 참고 자료에서 확인함. 440.1이 맞음. ) ▶ 567.000 – 12 = 555 ▶ 8597 – 0.1 = 8596.9 = 8597 ▶ (3.50×10^5) × [2.8 / (5.4 - 4.09)] = 748091.603053... = 750000 or 7.5×10^5 ▶ (3.50×10^5) × [2.8 / (5.4 – 4.09)] 5.4 – 4.09 = 1.31 → 1... 2015. 12. 31. 1/0.024에서 1이 완전수라고 했을 때, 계산하면 42인가요? 1/0.024에서 1이 완전수라고 했을 때, 계산하면 42인가요? ------------------------------------ 예. 맞습니다. 1 / 0.024 = 41.667 이므로, 0.024의 유효숫자 개수인 2개로 맞추면, 42가 됩니다. 2015. 11. 15. 음수(negative numbers)의 유효숫자(significant digits) 음수(negative numbers)의 유효숫자(significant digits) 1.00의 유효숫자는 3개이고, -1.00의 유효숫자도 3개입니다. 음수의 유효숫자 개수/결정방법은 양수와 동일합니다. --------------------------------------------------------------- You round negative numbers the same way you round positive numbers! (The process for rounding negative numbers is the same as for positive numbers.) 8.46 to two significant digits is 8.5 because the "6" makes it closer t.. 2015. 10. 13. 이전 1 ··· 40 41 42 43 44 45 다음 반응형
