금광동 고3 수학과외, 신뢰수준이 달라지면 임계값도 달라진다
금광동에서 숭신여자고등학교로 통학하며 과제와 시험을 함께 준비하는 고3 학생은 표본평균의 추정 문제에서 계산보다 조건의 역할을 구분하는 연습이 필요했다. 금광시장과 래미안금광아파트 생활권에서 이동 시간이 길어진 날에는 문제의 조건을 끝까지 읽지 않고 익숙한 중간식을 먼저 적는 일이 반복되었다. 같은 중원구의 성일고등학교, 동광고등학교 등은 참고 학교이며 금광동 소재 학교와는 구분해 보아야 한다.
조건을 읽지 않고 직전 공식을 옮긴 오답
모표준편차가 8이고, 크기 64인 표본에서 표본평균이 72로 관측되었다. 모집단이 정규분포를 따르고 신뢰수준이 95%일 때 모평균의 신뢰구간을 구하는 문제였다. 모집단의 평균을 μ라 하면 표본평균의 표준오차는
σ/√n = 8/√64 = 1
이다. 그런데 학생은 직전 99% 신뢰구간 예제의 값을 그대로 떠올려 다음과 같이 적었다.
72 ± 2.576 × 8/√64 = 72 ± 2.576
이 식은 오답이다. 2.576은 표준정규분포에서 신뢰수준 99%에 해당하는 임계값이고, 현재 조건인 95%에는 1.96을 사용해야 한다. 모집단이 정규분포라는 조건은 신뢰구간의 적용을 뒷받침하지만 임계값을 2.576으로 바꾸는 조건이 아니다.
조건과 식을 화살표로 연결한 수정
- 신뢰수준 95% → 양쪽 꼬리 확률 0.025 → z0.025 = 1.96
- 표본크기 n = 64 → √n = 8
- 모표준편차 σ = 8 → 표준오차 σ/√n = 1
틀린 줄에 표시한 뒤 학생은 신뢰수준과 임계값의 관계를 먼저 확인하고 식을 다시 세웠다.
72 ± 1.96 × 8/√64 = 72 ± 1.96
따라서 모평균의 95% 신뢰구간은
70.04 ≤ μ ≤ 73.96
이다. 역계산으로 오차한계가 1.96 × 1 = 1.96인지 확인했고, 구간의 중앙값이 (70.04 + 73.96)/2 = 72인지 대입하여 검산했다. 신뢰수준이 높아지면 같은 표본조건에서 구간이 넓어진다는 점도 99% 구간의 오차한계 2.576과 비교해 확인했다.
새 조건에서 임계값을 다시 선택하는 독립 검증
이번에는 모표준편차가 12, 표본크기가 100, 표본평균이 48이고 신뢰수준이 99%인 문제를 풀었다. 99%이므로 임계값은 2.576이며, 표준오차는
12/√100 = 1.2
이다. 따라서 신뢰구간은
48 ± 2.576 × 1.2 = 48 ± 3.0912
즉, 44.9088 ≤ μ ≤ 51.0912이다. 학생은 앞 문제의 1.96을 반복하지 않고 신뢰수준에서 임계값을 새로 결정했다. 참고로 비율을 추정하는 문항이라면 표준오차가 √[p̂(1-p̂)/n]으로 바뀌므로 평균 추정식의 σ/√n을 그대로 사용할 수 없다. 추정 대상과 표준오차의 식을 먼저 확인하는 기준이 자동으로 재현되었는지 함께 점검했다.