왜 확률을 거꾸로 뒤집어야 하는가

07편의 상자 예제를 다시 떠올려 보자. 상자 A(빨간 공 3개, 파란 공 2개)와 상자 B(빨간 공 1개, 파란 공 4개) 중 하나를 반반의 확률로 고른 뒤 공을 하나 꺼냈더니 빨간 공이 나왔다. 이때 이런 질문이 자연스럽게 떠오른다. “이 빨간 공은 상자 A에서 나왔을 확률이 얼마일까?”

07편에서 구한 것은 “상자를 알 때 공 색깔의 확률”($P(\text{빨강}\mid\text{A})$)이었다. 그런데 지금 궁금한 것은 그 반대, “공 색깔(결과)을 알 때 상자(원인)의 확률”이다. 이렇게 조건부확률의 방향을 뒤집는 도구가 베이즈 정리(Bayes’ theorem)다.

베이즈 정리: 조건부확률의 방향을 뒤집는 공식

쉽게 말하면: 베이즈 정리는 “원인이 주어졌을 때 결과가 나올 확률”을 알고 있을 때, 거꾸로 “결과를 보고 원인을 추측할 확률”을 계산하는 공식이다.

07편에서 배운 조건부확률의 정의를 두 방향에서 각각 써 보면 다음과 같다.

두 식 모두 분자가 $P(A\cap B)$로 같다는 점에 주목하자. 두 번째 식을 $P(A\cap B) = P(B\mid A)\times P(A)$로 바꿔서 첫 번째 식에 대입하면 베이즈 정리가 나온다.

• $P(A\mid B)$: 결과 $B$를 관찰한 뒤 원인이 $A$였을 확률 (사후확률, posterior probability)
• $P(B\mid A)$: 원인이 $A$일 때 결과 $B$가 나올 확률 (가능도, likelihood)
• $P(A)$: $B$를 관찰하기 전, 원인 $A$ 자체의 확률 (사전확률, prior probability)
• $P(B)$: 결과 $B$가 나올 전체 확률 (07편의 전확률의 법칙으로 구한다)

분모 $P(B)$는 보통 그 자체로 주어지지 않고, 07편에서 배운 전확률의 법칙으로 계산해야 한다. 원인이 $A_1, A_2, \ldots, A_k$로 나뉘어 있다면 다음과 같이 쓸 수 있다.

나무도로 풀기: 상자와 공 예제

07편의 상자 예제를 나무도(tree diagram)로 그려서 베이즈 정리를 적용해 보자. 상자 A와 B를 고를 확률은 각각 0.5, 상자 A에서 빨간 공이 나올 확률은 0.6, 상자 B에서 빨간 공이 나올 확률은 0.2였다.

나무도에서 각 가지 끝의 확률은 그 경로를 따라가며 확률을 곱한 값이다(가지를 따라가는 것은 “동시에 일어나는 사건”이므로 곱셈 정리를 적용한 것이다). 이제 “빨간 공이 나왔다”는 결과에서 출발해, 그 결과로 이어지는 두 가지(상자 A 경로, 상자 B 경로)의 확률만 모아서 베이즈 정리를 적용한다.

전확률(분모)부터 구한다.

베이즈 정리로 “빨간 공이 나왔을 때 상자 A였을 확률”을 구한다.

결과 해석: 빨간 공을 뽑았다는 것을 알고 나면, 애초 반반이었던 상자 A일 확률이 75퍼센트까지 올라간다. 상자 A가 상자 B보다 빨간 공 비율이 훨씬 높았기 때문에(0.6 대 0.2), 빨간 공이라는 결과를 관찰한 것 자체가 “상자 A였을 가능성이 크다”는 강한 증거가 되는 것이다.

표로 풀기: 같은 문제를 2×2 표로

나무도 대신 2×2 표(결합확률표)로도 똑같이 풀 수 있다. 표의 각 칸에는 “상자 선택”과 “공 색깔”이 동시에 일어날 결합확률을 채운다.

표를 채우는 방법은 나무도와 동일하다. 상자 A 행의 “빨강” 칸은 $P(\text{A})\times P(\text{빨강}\mid\text{A})=0.5\times0.6=0.30$이고, 나머지 칸도 같은 방식으로 채운다. 표가 완성되면 다음 두 가지를 반드시 검산한다.

• 행 합계: 각 상자를 선택할 확률은 원래 조건인 0.5, 0.5와 일치해야 한다. $0.30+0.20=0.50$, $0.10+0.40=0.50$으로 일치한다.
• 열 합계: 열 합계를 모두 더하면 전체 확률인 1이 되어야 한다. $0.40+0.60=1.00$으로 일치하며, “빨강” 열 합계 0.40은 앞서 전확률의 법칙으로 구한 $P(\text{빨강})=0.4$와 정확히 같다.

이제 베이즈 정리는 표에서 “빨강” 열만 떼어내 그 안에서 비율을 다시 계산하는 것과 같다.

검산: 나무도로 구한 값(0.75)과 표로 구한 값(0.75)이 정확히 일치한다. 또한 $P(\text{A}\mid\text{빨강})+P(\text{B}\mid\text{빨강}) = 0.75+0.25 = 1$로, 빨간 공이 나왔다는 조건 아래에서 상자는 반드시 A 또는 B 둘 중 하나이므로 두 사후확률의 합이 1이 되는 것도 모순 없이 확인된다.

시험 수준 베이즈 추론 예제: 진단 검사

베이즈 정리가 실전에서 가장 자주 등장하는 자리는 진단 검사(diagnostic test) 문제다. 어떤 질병의 유병률(prevalence, 인구 중 실제로 그 병을 가진 비율)이 1퍼센트라고 하자. 이 병을 검사하는 도구는 실제 병이 있는 사람을 95퍼센트 확률로 양성 판정하고(민감도, sensitivity), 실제 병이 없는 사람을 90퍼센트 확률로 음성 판정한다(특이도, specificity). 어떤 사람이 검사에서 양성 판정을 받았을 때, 이 사람이 실제로 병에 걸렸을 확률은 얼마일까?

기호를 정리하면 다음과 같다.

• $D$: 실제로 병이 있는 사건, $D^c$: 병이 없는 사건(여사건)

• $P(+\mid D)$: 병이 있을 때 양성 판정이 나올 확률 (민감도)

• $P(+\mid D^c)$: 병이 없을 때도 양성 판정이 나올 확률 (특이도 90퍼센트의 여사건, 즉 위양성률)

전확률의 법칙으로 “양성 판정이 나올 전체 확률”부터 구한다.

베이즈 정리를 적용한다.

결과 해석: 검사의 민감도(95퍼센트)와 특이도(90퍼센트)가 모두 상당히 높은 편인데도, 양성 판정을 받은 사람이 실제로 병에 걸렸을 확률은 겨우 약 8.76퍼센트에 불과하다. 언뜻 직관에 어긋나 보이지만 이유는 명확하다. 애초에 병에 걸린 사람 자체가 인구의 1퍼센트로 매우 드물기 때문에($P(D)=0.01$), 병이 없는 사람(99퍼센트)에게서 나오는 위양성(false positive, 10퍼센트) 건수가 실제 환자에게서 나오는 진짜 양성 건수보다 절대적인 인원 수로는 더 많아지는 것이다.

검산: $P(D\mid+) + P(D^c\mid+) \approx 0.0876+0.9124 = 1.00$으로, 양성 판정이라는 조건 아래에서 병이 있거나 없거나 둘 중 하나이므로 두 확률의 합이 1이 되는 것이 모순 없이 확인된다.

독립과 배반(서로 배타) 비교: 시험에서 가장 자주 걸리는 함정

쉽게 말하면: 배반은 “동시에 일어날 수 없다”는 뜻이고, 독립은 “서로 영향을 주지 않는다”는 뜻이다. 이 둘은 전혀 다른 개념이며, 확률이 모두 0보다 크다면 배반사건은 오히려 독립일 수 없다.

07편 끝에서 예고한 대로, 독립(independent)과 배반(mutually exclusive, 서로 배타적)은 수험생이 가장 자주 헷갈리는 두 개념이다. 둘 다 “두 사건의 관계”를 설명하는 말이지만 뜻이 정반대에 가깝다.

• 배반사건: $A\cap B = \emptyset$, 즉 두 사건이 동시에 일어나는 경우가 전혀 없다. 한 사건이 일어나면 다른 사건은 절대 일어날 수 없다.
• 독립사건: $P(A\cap B) = P(A)\times P(B)$, 즉 한 사건이 일어나는지 여부가 다른 사건이 일어날 확률에 아무 영향을 주지 않는다.

이 둘이 왜 상극에 가까운 개념인지 수식으로 확인해 보자. 두 사건이 배반이면 $P(A\cap B)=0$이다. 그런데 두 사건의 확률이 모두 0보다 크다면($P(A)>0$, $P(B)>0$), 독립의 조건식 우변인 $P(A)\times P(B)$는 반드시 0보다 크다. $0$과 $0$보다 큰 값은 같을 수 없으므로, 확률이 모두 양수인 배반사건은 절대로 독립일 수 없다. 한 사건이 일어나면 다른 사건이 일어날 확률이 곧바로 0으로 뚝 떨어지기 때문에, 이는 “서로 영향을 주지 않는다”는 독립의 정의와 정반대다.

두 개념을 실제 예시로 정면 대조한다.

결과 해석: 배반사건 예시에서 $P(B\mid A)=0$인데 원래 $P(B)=1/6$이었으므로, $A$가 일어나는 순간 $B$의 확률이 완전히 바뀌어 버린다. 즉 배반은 “매우 강하게 서로 영향을 주는” 관계이지, 독립과는 정반대다. 반대로 독립사건 예시에서는 $A$가 일어나든 말든 $B$의 확률이 $1/2$로 전혀 변하지 않는다. “동시에 안 일어나니까 독립이겠지”라는 생각은 틀렸다는 것을 이 표로 확실히 기억해야 한다.

자주 틀리는 점

• 베이즈 정리의 분모(전확률)를 빠뜨리고 분자만 답으로 낸다. $P(B\mid A)\times P(A)$는 결합확률일 뿐이며, 반드시 $P(B)$로 나누어야 조건부확률이 된다.
• 사전확률과 가능도를 뒤바꿔 대입한다. $P(A)$(사전확률)와 $P(B\mid A)$(가능도)의 역할을 헷갈리면 완전히 다른 답이 나온다. 나무도나 표를 그려 각 가지의 확률이 무엇의 조건부인지 눈으로 확인하는 습관이 중요하다.
• 배반이면 당연히 독립이라고 생각한다. 위 표에서 확인했듯, 확률이 모두 양수인 배반사건은 오히려 독립일 수 없는 관계다.
• 독립이면 당연히 배반이 아니라고만 생각하고 넘어간다. 맞는 결론이지만, 그 이유(정의가 서로 다른 조건이라는 것)까지 설명할 수 있어야 시험에서 응용 문제에 대응할 수 있다.
• 진단 검사 문제에서 민감도·특이도가 높으면 양성 판정만으로 병에 걸렸다고 단정한다. 유병률이 매우 낮으면, 검사 정확도가 높아도 사후확률이 낮게 나올 수 있다는 것을 위 예제에서 확인했다.

핵심 정리

• 베이즈 정리는 $P(A\mid B) = \dfrac{P(B\mid A)\times P(A)}{P(B)}$이며, 분모는 전확률의 법칙으로 구한다.
• 나무도는 경로별 결합확률(곱셈)을 눈으로 보여주고, 2×2 표는 행·열 합계로 계산을 검산하기 좋다. 두 방법은 같은 답을 준다.
• 유병률이 낮은 질병의 진단 검사처럼, 검사 정확도가 높아도 사전확률(유병률)이 낮으면 사후확률이 예상보다 낮게 나올 수 있다.
• 배반사건은 $A\cap B=\emptyset$(동시 발생 불가), 독립사건은 $P(A\cap B)=P(A)P(B)$(서로 무관)로 정의가 다르며, 확률이 모두 양수라면 배반과 독립은 동시에 성립할 수 없다.

마무리 복습

참고 자료

• Introduction to Applied Statistics: Lecture Notes  — 조건부확률·베이즈 정리 단원의 예제 구조 참고
• NIST/SEMATECH e-Handbook of Statistical Methods  — 베이즈 정리, 독립사건과 배반사건의 정의 확인