이 편에서 하는 일

17편에서는 가설검정이라는 틀 자체 — 귀무가설(null hypothesis, 지금까지 사실로 인정되어 온 주장) $H_0$ 과 대립가설(alternative hypothesis, 새로 주장하고 싶은 내용) $H_1$ 을 세우고, 유의수준(significance level) $\alpha$ (알파, 귀무가설을 잘못 기각할 위험을 얼마나 허용할지)와 p값을 비교해 결론을 내리는 원리 — 를 배웠다. 이번 편은 그 틀을 모평균 하나와 모비율 하나라는 가장 기본적인 두 상황에 실제로 적용하는 계산 절차를 다룬다. 15편·16편의 신뢰구간 공식과 짝을 이루는 내용이므로, 공식이 낯설면 그쪽을 먼저 훑고 오면 좋다.

쉽게 말하면: “표본에서 관찰한 값이, 원래 주장하던 모집단의 값과 비교해 우연이라 보기엔 너무 차이가 크다”를 숫자로 판정하는 절차다.

다섯 단계 고정 틀: 모든 검정에 똑같이 적용

이 편과 다음 두 편(19편·20편)에서 다루는 모든 검정은 아래 다섯 단계를 그대로 반복한다. 유형마다 3단계 검정통계량 공식만 달라질 뿐, 틀 자체는 바뀌지 않는다. 이 틀을 손에 익히는 것이 이 편의 진짜 목표다.

단일 모평균 검정: z검정과 t검정, 언제 나뉘는가

왜 두 가지로 나뉘는가

모평균 $\mu$ (뮤, 모집단의 평균) 하나를 검정할 때 쓰는 검정통계량의 형태는 똑같이 “표본평균이 주장하는 값에서 얼마나 떨어져 있는지를 표준오차 단위로 잰다”이다. 문제는 그 표준오차를 계산할 때 모표준편차 $\sigma$ (시그마, 모집단의 표준편차)를 알고 있느냐다. 13편에서 다뤘듯, $\sigma$ 를 모르고 표본표준편차 $S$ 로 대신 추정하면 그 추정 자체에 오차가 생기고, 표본크기가 작을수록 이 오차의 영향이 커진다. t분포는 바로 이 “표준편차를 추정해서 쓸 때 생기는 여분의 불확실성”을 반영하기 위해 정규분포보다 양쪽 꼬리가 두꺼운 분포다.

자주 틀리는 점: “표본크기가 크면 무조건 z, 작으면 무조건 t”로 외우면 절반만 맞다. 정확한 기준은 모표준편차를 아느냐 모르느냐이고, 표본크기는 모를 때 z로 근사해도 되는지를 결정하는 보조 기준일 뿐이다. 독학사 시험에서는 $\sigma$ 를 문제에 직접 알려주는 경우가 많으므로, 문제 지문에서 “모표준편차는 ○○이다”라는 문장이 있는지부터 확인하는 습관을 들여야 한다.

z검정 통계량

• $\bar X$ (엑스 바, 표본평균): 실제로 뽑은 표본 자료의 평균
• $\mu_0$ (뮤 제로, 귀무가설이 주장하는 모평균의 값): $H_0$ 에서 “모평균은 ○○이다”라고 못박은 숫자
• $\sigma$: 모표준편차(알고 있다고 가정)
• $n$: 표본크기
• $\sigma / \sqrt{n}$: 표본평균의 표준오차(standard error, 표본평균이 표본마다 얼마나 흔들리는지를 나타내는 척도)

t검정 통계량

• $S$ (표본표준편차): 모표준편차 대신 표본에서 추정한 값. 자유도 $n-1$ 로 계산한 표본분산의 제곱근(06편 참고)
• 나머지 기호는 z검정과 동일
• 이 통계량은 자유도(degree of freedom, 자유롭게 값을 정할 수 있는 정보의 개수) $n-1$ 인 t분포를 따른다

예제로 다섯 단계 밟기 — z검정

한 제과 공장이 “우리 회사 과자 한 봉지의 무게는 평균 200그램이다”라고 주장한다. 과거 대량 생산 데이터로 모표준편차가 $\sigma = 10$그램임이 알려져 있다. 소비자단체가 무작위로 $n = 36$봉지를 뽑아 평균 $\bar x = 196$그램을 얻었다. 유의수준 $\alpha = 0.05$ 에서 “실제 평균이 200그램보다 적다”고 볼 수 있는지 검정한다.

단측검정과 양측검정: 시험에서 가장 많이 틀리는 지점

언제 단측, 언제 양측인가

가설을 세울 때 $H_1$ 에 부등호를 어떻게 쓰느냐가 단측(one-tailed, 한쪽 방향만 검정)과 양측(two-tailed, 양쪽 방향 모두 검정)을 가른다. 판단 기준은 오직 하나, 문제 지문이 방향을 명시했는가다.

• “더 많다”, “더 적다”, “증가했다”, “감소했다”, “초과한다”, “미달한다” 같은 방향 표현이 있으면 → 단측검정. $H_1$ 에 > 또는 < 를 쓴다.
• “차이가 있다”, “같지 않다”, “달라졌다” 처럼 방향을 명시하지 않고 다르다는 것만 주장하면 → 양측검정. $H_1$ 에 ≠(같지 않다)를 쓴다.

기각역이 실제로 어떻게 달라지는가

같은 $\alpha = 0.05$ 라도 단측이냐 양측이냐에 따라 임계값(critical value, 기각역의 경계가 되는 값)의 크기 자체가 달라진다. 이것이 계산 실수를 가장 많이 유발하는 지점이다.

양측검정은 $\alpha$ 를 양쪽 꼬리에 절반씩(각 $\alpha/2$) 나눠 배정하기 때문에 임계값이 단측보다 더 바깥쪽(절댓값이 더 큼)에 있다. 즉 같은 $Z$ 값이라도 단측에서는 기각되는데 양측에서는 기각되지 않는 경우가 생긴다. 예를 들어 $Z = 1.8$ 은 오른쪽 단측 기각역($Z > 1.645$)에는 들어가지만, 양측 기각역($|Z| > 1.96$)에는 들어가지 않는다.

자주 틀리는 점: 문제에서 “차이가 있는지 검정하라”고 했는데 습관적으로 한쪽 방향 기각역(예: $Z > 1.645$)만 쓰면 오답이다. 반대로 “증가했는지 검정하라”고 명시했는데 양쪽 기각역($|Z| > 1.96$)을 쓰면 임계값이 필요 이상으로 커져 실제로는 유의한 결과를 “유의하지 않다”고 잘못 판정하게 된다. 가설을 세우는 1단계에서 방향 표현을 놓치면 4단계 전체가 틀어진다.

단일 모비율 검정

왜 정규분포로 근사하는가

모비율(population proportion) $p$ 는 모집단에서 어떤 특성을 가진 개체의 비율이다. 표본비율 $\hat p$ (피 햇, 표본에서 계산한 비율)은 이항분포(10편)를 따르는 확률변수의 평균이지만, 표본크기 $n$ 이 충분히 크면(대략 $np_0 \geq 5$ 이고 $n(1-p_0) \geq 5$) 중심극한정리(12편)에 의해 정규분포로 근사할 수 있다. 이 근사가 성립해야 아래 z검정 공식을 쓸 수 있다.

검정통계량

• $\hat p$: 표본비율 (표본에서 특성을 가진 개체 수 ÷ 표본크기)
• $p_0$: 귀무가설이 주장하는 모비율의 값
• $\sqrt{p_0(1-p_0)/n}$: 표본비율의 표준오차. 분모에 $p_0$ 를 쓴다 (표본비율 $\hat p$ 가 아니라 귀무가설의 값을 쓰는 것이 신뢰구간 공식과의 차이점)

예제로 다섯 단계 밟기

어느 정당은 “우리 당 지지율은 40퍼센트다”라고 주장한다. 무작위로 $n = 400$명을 조사했더니 152명이 지지한다고 답했다. 유의수준 $\alpha = 0.05$ 에서 지지율이 40퍼센트와 다른지(방향을 정하지 않고) 검정한다.

자주 틀리는 점 모음

• 표준오차의 분모를 헷갈린다. 모비율 검정에서는 표준오차에 $p_0$(귀무가설의 값)를 쓰지만, 16편의 모비율 신뢰구간에서는 $p_0$ 를 모르므로 $\hat p$ 를 대신 쓴다. 검정과 신뢰구간의 공식이 겉보기엔 비슷해도 이 지점에서 갈린다.
• $H_0$ 에 부등호를 쓴다. $H_0$ 은 항상 등호(=)로 쓴다. 부등호는 오직 $H_1$ 에만 들어간다.
• 표본표준편차를 쓸 자유도를 빠뜨린다. t검정의 자유도는 $n-1$ 이다. $n$ 을 그대로 자유도로 쓰면 t분포표에서 엉뚱한 행을 읽게 된다.
• 기각역과 p값 판정이 어긋나면 계산을 다시 본다. 두 방법은 항상 같은 결론을 내야 한다. 서로 다른 결론이 나왔다면 임계값이나 검정통계량 계산 중 하나가 틀린 것이다.
• 단측 방향을 반대로 잡는다. “더 적다”고 주장하려면 $H_1$ 은 < 방향이고 기각역도 왼쪽(음수 쪽)에 있어야 한다. 방향과 기각역의 부호를 반드시 짝지어 확인한다.

핵심 정리

• 단일 모평균 검정은 모표준편차를 아는지에 따라 z검정과 t검정으로 나뉘고, 모르고 표본이 작으면 자유도 $n-1$ 인 t분포를 쓴다.
• 검정 절차는 가설 설정 → 유의수준 → 검정통계량 → 기각역/p값 → 결론의 다섯 단계로 고정되어 있다.
• 단측·양측은 문제 지문의 방향 표현 유무로 결정되며, 같은 $\alpha$ 라도 단측과 양측의 임계값 크기가 다르다.
• 단일 모비율 검정은 표준오차의 분모에 표본비율이 아닌 귀무가설의 비율 $p_0$ 를 쓴다.
• 기각역 판정과 p값 판정은 항상 같은 결론을 내야 하며, 검산의 기준으로 삼는다.

마무리 복습

참고 자료

• Statistics for Applications / Introduction to Statistical Inference 슬라이드 — 단·양측 검정, p값 해석 
• NIST/SEMATECH e-Handbook of Statistical Methods 
• 국가평생교육진흥원 독학학위제