호매실동 고3 수학과외에서 확인한 표본비율 오답의 첫 줄
호매실고등학교 학생의 시험 준비 답안을 점검하던 중, 마지막 신뢰구간 계산보다 앞선 표본비율의 변동성 해석에서 이미 오류가 시작된 사례가 있었다. 호매실동 지역 내 고등학교는 2025년 주소 기준 호매실고등학교로 확인되며, 권선고등학교·수원칠보고등학교·영신여자고등학교·고색고등학교 등은 같은 권선구의 참고 학교이지 호매실동 소재 학교로 단정하지 않았다. 학교 선택보다 귀가 후 과제량과 시험 준비 순서를 함께 점검하면서, 학생이 답을 고치는 순서를 관찰했다.
표본비율을 모집단 비율처럼 다룬 오답
어떤 상품을 선호하는 학생을 무작위로 400명 조사했더니 232명이 선호한다고 하자. 표본비율은
\(\hat p=\frac{232}{400}=0.58\)
이다. 모집단 선호 비율 \(p\)에 대한 95% 신뢰구간을 근사하면
\(\hat p\pm1.96\sqrt{\frac{\hat p(1-\hat p)}{n}}\)
을 사용한다. 그런데 학생은 다음과 같이 풀이했다.
\(\hat p=0.58\)이므로 표준오차는 \(\sqrt{\frac{0.58(1-0.58)}{400}}\)이다.
\(0.58\pm1.96\sqrt{\frac{0.58(1-0.58)}{400}}\)
\(=0.58\pm0.047\), 따라서 신뢰구간은 \(0.533\le p\le0.627\)이다.
이 답은 오답이다. 실제 표준오차는
\[ \sqrt{\frac{0.58\cdot0.42}{400}} =\sqrt{0.000609} \approx0.02468 \]
이고, 오차한계는 \(1.96\times0.02468\approx0.04837\)이다. 따라서 신뢰구간은
\[ 0.58-0.04837\le p\le0.58+0.04837 \]
즉 \(0.5316\le p\le0.6284\)이다. 학생은 답의 형태는 맞게 썼지만 표준오차를 \(0.047\)로 잘못 계산했다. 더 중요한 문제는 계산 실수 자체보다, 해설과 달라진 첫 줄을 확인하지 않고 마지막 구간만 수정하려 했다는 점이다.
네모칸으로 조건과 허용 범위를 먼저 고친 과정
재풀이 때는 틀린 줄에 표시한 뒤 다음 네모칸을 풀이 옆에 적었다.
- 표본크기: \(n=400\)
- 성공한 표본 수: \(x=232\)
- 표본비율: \(\hat p=x/n=0.58\)
- 95% 신뢰구간의 임계값: \(1.96\)
- 허용 범위: \(0\le p\le1\)
그다음 \(0.58(1-0.58)=0.2436\)인지 먼저 확인하고, \(0.2436/400=0.000609\), \(\sqrt{0.000609}\approx0.02468\)로 한 줄씩 계산했다. 끝점도 역계산했다.
\[ \frac{0.5316+0.6284}{2}=0.58 \]
구간의 중심이 표본비율로 돌아오므로 출발식과 일치한다. 또한 \(0.5316\)과 \(0.6284\)가 모두 \(0\)과 \(1\) 사이인지 확인해 허용 범위도 만족시켰다. 이처럼 답만 고치는 대신 처음 달라진 항을 찾고, 변수 관계를 복원한 뒤, 대입과 역계산으로 검산하도록 풀이 습관을 바꾸었다.
표본크기를 바꾼 독립 검증
같은 계산을 반복하지 않기 위해 조건을 바꾸었다. 이번에는 625명을 조사해 350명이 찬성했고, 90% 신뢰구간을 구한다. 표본비율은
\[ \hat p=\frac{350}{625}=0.56 \]
90% 신뢰구간의 임계값을 \(1.645\)로 두면 표준오차는
\[ \sqrt{\frac{0.56(1-0.56)}{625}} =\sqrt{\frac{0.2464}{625}} \approx0.01985 \]
따라서 오차한계는 \(1.645\times0.01985\approx0.03265\)이고, 신뢰구간은
\[ 0.52735\le p\le0.59265 \]
이다. 학생은 이번에는 표본크기 \(625\)를 분모에 넣었는지, \(1-\hat p=0.44\)를 사용했는지, 구간 중심이 \(0.56\)으로 돌아오는지를 먼저 확인했다. 허용오차를 \(0.033\)으로 바꾸어도 실제 오차한계 \(0.03265\)가 그 안에 들어가므로, 답의 숫자보다 표본비율·표본크기·신뢰수준이 표준오차와 어떻게 연결되는지를 검증한 것이다.