권선구 고3 수학과외에서 표본크기와 오차한계 구분하기
권선고등학교, 수원칠보고등학교, 영신여자고등학교, 호매실고등학교 등이 있는 권선구에서는 방과후 이동 시간에 맞춰 자습 계획을 세우는 학생이 많다. 곡반정동·구운동·권선동·서둔동·세류동·오목천동 등 생활권과 학교가 모두 같다고 단정하기보다, 실제 통학 동선 뒤 확보한 짧은 시간에 개념과 오답을 정확히 점검하는 방식이 필요하다.
표본이 커졌는데 왜 오차가 줄어드는가
학생은 신뢰구간 문제의 여백에 다음과 같이 적었다.
“표본크기가 커질수록 오차한계가 커진다.”
이 판단은 틀렸다. 모집단의 비율을 추정할 때 표본비율을 p̂, 표본크기를 n, 신뢰수준에 대응하는 임계값을 z라고 하면 오차한계는
E = z√[p̂(1-p̂)/n]
이다. 신뢰수준과 표본비율이 같다면 n이 분모에 있으므로 표본크기가 커질수록 E는 작아진다. 모집단 전체를 조사하는 것이 아니라 일부를 뽑아 추정하는 상황에서, 표본이 많아질수록 표본비율의 변동이 줄어드는 구조다.
실제 풀이에서 틀린 줄을 고치기
어떤 지역 학생 400명을 표본으로 조사했더니 40%가 특정 의견에 동의했다. 95% 신뢰수준에서 오차한계를 구하는 문제를 풀며 학생은 다음과 같이 계산했다.
오답: E = 1.96√[0.4×0.6×400] ≈ 19.2
이 식은 표본크기 400을 분모가 아니라 분자에 넣었기 때문에 틀렸다. 먼저 모집단, 표본, 신뢰수준을 구분해야 한다. 모집단은 조사 대상 전체, 표본은 실제 조사한 400명, 신뢰수준은 95%이며 이에 대응하는 임계값은 1.96이다.
학생은 틀린 줄에 표시한 뒤 변수의 관계를 다시 확인하고 식을 다음처럼 고쳤다.
E = 1.96√[(0.4×0.6)/400]
= 1.96√0.0006 ≈ 1.96×0.024495 ≈ 0.048
따라서 오차한계는 약 0.048, 즉 4.8%포인트이다. 95% 신뢰구간은
0.4-0.048 ≤ p ≤ 0.4+0.048
0.352 ≤ p ≤ 0.448
이다. 답을 고친 뒤에는 n=400을 다시 대입하고, 표본크기를 1600으로 바꾸어 오차가 어떻게 변하는지도 역검산했다.
E = 1.96√[(0.4×0.6)/1600] = 1.96×0.012247 ≈ 0.024
표본크기가 4배가 되자 오차한계는 약 4.8%에서 2.4%로 절반이 되었다. 이 결과는 E가 1/√n에 비례한다는 사실과도 일치한다.
조건을 바꾼 독립 검증
다음에는 표본비율과 신뢰수준을 모두 바꾸었다. 625명을 조사해 표본비율이 0.25이고, 90% 신뢰수준을 적용한다고 하자. 이때 임계값은 약 1.645이다.
E = 1.645√[(0.25×0.75)/625]
= 1.645√0.0003 ≈ 1.645×0.01732 ≈ 0.0285
따라서 새로운 오차한계는 약 2.85%포인트이고 신뢰구간은
0.25-0.0285 ≤ p ≤ 0.25+0.0285
0.2215 ≤ p ≤ 0.2785
이다. 이번에는 신뢰수준이 95%에서 90%로 낮아져 임계값이 작아졌고, 표본크기도 충분히 커서 오차한계가 2.85%로 계산된다. 학생은 마지막에 표본크기와 오차한계는 반비례가 아니라 제곱근 관계이며, 신뢰수준이 바뀌면 임계값도 함께 바뀐다고 답안에 정리했다.