영통구 고3수학과외: 표본비율 추정을 조건으로 읽는 연습
망포동·매탄동·영통동·원천동·이의동·수원하동에서 학교 수업과 방과후 일정을 마친 뒤 이동하면 자습 시간이 짧아지기 쉽다. 효원고등학교, 태장고등학교, 이의고등학교, 망포고등학교, 광교고등학교 등 영통구의 여러 학교 학생에게는 긴 계산보다 문제의 조건을 혼자 분리해 읽는 훈련이 중요하다.
직전 문제의 숫자를 복사한 오답
한 학생은 다음 문제를 힌트 없이 풀었다.
어떤 지역의 유권자 중 후보를 지지하는 비율을 조사하려고 한다. 표본비율을 이용해 모비율을 추정할 때, 신뢰수준 95%, 허용오차 4%를 만족하려면 필요한 최소 표본크기를 구하여라. 사전조사 정보가 없다고 하자.
사전조사 정보가 없으므로 표본비율의 변동을 가장 크게 만드는 p(1-p)=0.25를 사용한다. 95% 신뢰수준의 표준정규 임계값은 1.96이고, 허용오차는 0.04이다.
그런데 학생은 직전 문제의 숫자를 그대로 옮겨 다음과 같이 적었다.
오답: n = (1.645)2 × 0.5 × 0.5 ÷ (0.03)2 = 752.45이므로 n=753
이 식은 틀렸다. 1.645는 신뢰수준 90%에 해당하고 0.03은 허용오차 3%일 때 사용하는 값이다. 현재 문제의 조건인 95%와 4%를 반영하지 않았기 때문이다. 표본크기는 신뢰수준이 높거나 허용오차가 작아질수록 커진다는 관계도 어긋난다.
표본비율의 정의부터 다시 연결하기
학생은 오답이 시작된 줄에 표시를 한 뒤, 문제의 조건을 다음처럼 변수와 대응시켰다.
- 모비율: p
- 표본비율: p̂ = X/n
- 신뢰수준 95%: z=1.96
- 허용오차: E=0.04
- 사전조사 없음: p(1-p)의 최댓값 0.25
표본비율의 근사적인 오차 조건은
E = z√{p(1-p)/n}
이므로 n에 대해 정리하면
n ≥ z2p(1-p)/E2
이다. 따라서
n ≥ (1.96)2×0.25/(0.04)2
= 0.9604/0.0016
= 600.25
표본크기는 정수이고 오차 조건을 만족해야 하므로 버림이 아니라 올림한다. 따라서 최소 표본크기는 601명이다.
학생은 계산 뒤 다시 대입했다.
1.96√{0.25/601} ≈ 0.03997 < 0.04
600명을 대입하면 약 0.040008로 허용오차를 넘으므로 600이 아니라 601이어야 한다. 표본비율을 단순히 조사 결과의 비율로만 보지 않고, 표본크기와 허용오차가 연결된 양으로 확인한 것이다.
조건을 바꾼 독립 검증
같은 문제를 반복하지 않고 새로운 조건을 제시했다.
사전조사에서 지지율이 약 40%로 나타났다. 신뢰수준 90%, 허용오차 3%로 모비율을 추정하려면 필요한 최소 표본크기를 구하여라.
이번에는 p=0.4, 1-p=0.6, z=1.645, E=0.03이므로
n ≥ (1.645)2×0.4×0.6/(0.03)2
= 2.706025×0.24/0.0009
≈ 721.61
따라서 필요한 최소 표본크기는 722명이다. 검산하면
1.645√{0.24/722} ≈ 0.02999 < 0.03
학생은 이번에는 평균이나 표본크기를 잘못 옮기지 않고, 비율 조건을 먼저 확인한 뒤 식을 세웠다. 신뢰수준과 허용오차가 바뀌면 임계값과 분모가 함께 달라진다는 근거까지 설명해야 독립적으로 해결한 것으로 판단했다.