왜 확률을 엄밀하게 정의해야 하는가

“내일 비가 올 확률은 60퍼센트다”, “이 부품이 불량일 확률은 1퍼센트다”처럼 확률이라는 말은 일상에서도 흔히 쓴다. 하지만 통계학에서 확률을 다루려면 “무엇이 일어날 수 있는 모든 경우인가”, “우리가 관심 있는 사건은 그중 어떤 부분인가”를 먼저 명확히 정해야 계산이 가능해진다. 이 편에서는 확률을 다루기 위한 가장 기본적인 용어 세 가지(시행, 사건, 표본공간)를 정의하고, 확률이 지켜야 하는 규칙(공리)과 성질, 그리고 “다른 사건이 이미 일어났다는 조건 아래에서의 확률”인 조건부확률까지 다룬다.

시행·사건·표본공간: 확률의 무대를 세운다

쉽게 말하면: 시행은 한 번 해보는 것, 표본공간은 나올 수 있는 모든 결과의 목록, 사건은 그중 우리가 관심 있는 부분이다.

시행(trial)은 결과를 정확히 예측할 수 없지만 반복할 수 있는 하나의 실험이나 관찰을 말한다. 주사위를 한 번 던지는 것, 동전을 한 번 던지는 것이 시행의 예다.

표본공간(sample space, 기호 $S$ 또는 $\Omega$)은 하나의 시행에서 나올 수 있는 모든 가능한 결과를 빠짐없이 모은 집합이다. 주사위를 한 번 던지는 시행의 표본공간은 다음과 같다.

사건(event)은 표본공간의 부분집합으로, 우리가 관심을 두는 결과들의 모음이다. 예를 들어 “짝수가 나온다”는 사건 $A$는 다음과 같이 표현한다.

사건이 표본공간의 원소를 정확히 하나만 포함하면 근원사건(elementary event)이라 하고, 사건이 아예 원소를 갖지 않으면 공사건(empty event, 기호 $\emptyset$)이라 하며 절대 일어날 수 없는 사건을 뜻한다. 표본공간 $S$ 자체도 하나의 사건으로 볼 수 있는데, 이는 “무엇이든 일어난다”는 반드시 일어나는 사건이다.

확률의 공리와 성질

쉽게 말하면: 확률은 항상 0 이상 1 이하이고, 전체 표본공간의 확률은 1이며, 동시에 일어날 수 없는 사건끼리는 확률을 그냥 더하면 된다.

확률이 만족해야 하는 가장 기본적인 규칙 세 가지를 확률의 공리(axioms of probability)라 부른다. 사건 $A$의 확률을 $P(A)$로 쓴다.

1. 비음성: 모든 사건 $A$에 대해 $P(A) \geq 0$이다. 확률은 음수가 될 수 없다.
2. 전체 확률: $P(S) = 1$이다. 표본공간 전체(무엇이든 일어나는 사건)의 확률은 항상 1이다.
3. 가법성: 두 사건 $A$와 $B$가 동시에 일어날 수 없는 관계, 즉 배반사건(mutually exclusive event, 교집합이 공사건인 사건)이면 $P(A\cup B) = P(A)+P(B)$다.

이 세 공리로부터 실전에서 자주 쓰는 성질들이 유도된다.

• 여사건의 확률: 사건 $A$가 일어나지 않는 사건을 여사건(complement) $A^c$라 하면, $P(A^c) = 1-P(A)$다.
• 공사건의 확률: $P(\emptyset) = 0$이다.
• 덧셈 정리(포함-배제): 두 사건이 배반이 아닐 때는 겹치는 부분을 한 번 빼줘야 한다.

• $P(A\cup B)$: $A$ 또는 $B$가 일어날 확률 (합사건)
• $P(A\cap B)$: $A$와 $B$가 동시에 일어날 확률 (교사건)

주사위 한 번 던지기로 확인해 보자. 사건 $A$는 “짝수가 나온다”($A=\{2,4,6\}$), 사건 $B$는 “3의 배수가 나온다”($B=\{3,6\}$)라 하자.

$A\cap B$는 짝수이면서 동시에 3의 배수인 결과, 즉 $\{6\}$ 하나뿐이다.

검산: $A\cup B = \{2,3,4,6\}$으로 직접 세어보면 6개 결과 중 4개이므로 $4/6=2/3$이다. 공식으로 구한 값과 정확히 일치한다.

조건부확률: 이미 알고 있는 정보를 반영한 확률

쉽게 말하면: 조건부확률은 “사건 B가 일어났다는 것을 이미 알고 있을 때, 사건 A가 일어날 확률”이다.

조건부확률(conditional probability)은 어떤 사건이 이미 일어났다는 조건 아래에서 다른 사건이 일어날 확률을 말한다. 사건 $B$가 일어났다는 조건에서 사건 $A$가 일어날 확률을 $P(A \mid B)$로 쓰고, “$B$가 주어졌을 때 $A$의 확률” 또는 ”$A$ given $B$“라고 읽는다.

• $P(A \mid B)$: $B$가 일어났다는 조건 아래에서 $A$가 일어날 확률
• $P(A\cap B)$: $A$와 $B$가 동시에 일어날 확률
• $P(B)$: $B$가 일어날 확률 (0이면 조건 자체가 성립하지 않으므로 정의되지 않는다)

직관: $B$가 일어났다는 것을 알게 되면, 우리가 고려하는 전체 상황(“표본공간”)이 원래의 $S$에서 $B$로 좁혀진다. 그 좁혀진 세계 안에서 $A$가 차지하는 비중을 다시 계산한 것이 조건부확률이다.

앞서 쓴 사건 $A=\{2,4,6\}$(짝수), $B=\{3,6\}$(3의 배수)로 $P(B\mid A)$, 즉 “짝수가 나왔다는 조건에서 3의 배수일 확률”을 구해보자.

결과 해석: 짝수라는 조건이 없을 때 3의 배수일 확률은 $P(B)=1/3$이었는데, 짝수라는 조건을 준 뒤에도 $P(B\mid A)=1/3$로 값이 변하지 않았다. 이는 이 두 사건이 서로 영향을 주지 않는 관계, 즉 다음 절에서 다룰 독립사건이라는 신호다.

독립사건: 조건이 확률을 바꾸지 않는 관계

쉽게 말하면: 한 사건이 일어나든 말든 다른 사건이 일어날 확률이 전혀 바뀌지 않으면, 두 사건은 독립이다.

두 사건 $A$, $B$가 독립(independent)이라는 것은, $B$가 일어났다는 정보가 $A$의 확률에 아무 영향을 주지 않는다는 뜻이다. 즉 $P(A\mid B) = P(A)$가 성립한다. 이 조건은 다음과 같은 곱셈 형태로도 표현되며, 실전에서는 이 곱셈 형태를 독립의 정의로 바로 쓴다.

• 이 식이 성립하면 $A$와 $B$는 독립이고, 성립하지 않으면 종속(dependent)이다.

주사위 두 개를 동시에 던지는 시행을 생각하자. 사건 $A$는 “첫 번째 주사위가 짝수”, 사건 $B$는 “두 번째 주사위가 홀수”라 하자. 두 주사위는 서로 다른 물리적 객체이므로 한쪽 결과가 다른 쪽에 영향을 줄 이유가 없다.

두 주사위를 던지는 모든 경우의 수는 $6\times6=36$가지다. $A$와 $B$가 동시에 일어나는 경우는 첫 번째가 짝수(3가지)이고 두 번째가 홀수(3가지)인 조합이므로 $3\times3=9$가지다.

검산: 직접 센 $P(A\cap B)=1/4$와 곱셈 공식으로 구한 $P(A)\times P(B)=1/4$가 정확히 일치하므로, $A$와 $B$는 독립이라는 것이 확인된다. 독립과 자주 혼동되는 개념인 배반(mutually exclusive)과의 차이는 다음 08편에서 표로 정면 비교한다.

전확률의 법칙: 여러 경로를 통해 일어나는 확률 합치기

쉽게 말하면: 어떤 사건이 서로 겹치지 않는 여러 경로를 통해서만 일어날 수 있다면, 각 경로를 통해 일어날 확률을 모두 더하면 전체 확률이 된다.

실제 문제에서는 관심 있는 사건이 여러 조건(원인, 경로) 중 하나를 거쳐서 일어나는 경우가 많다. 표본공간 $S$가 서로 겹치지 않으면서 $S$ 전체를 빠짐없이 덮는 사건들 $B_1, B_2, \ldots, B_k$로 나뉘어 있다고 하자(이런 집합을 분할이라 한다). 이때 임의의 사건 $A$의 확률은 다음과 같이 구할 수 있다.

• $B_i$: 서로 겹치지 않고 표본공간 전체를 덮는 $i$번째 조건(경로)
• $P(B_i)$: 경로 $B_i$가 선택될 확률
• $P(A\mid B_i)$: 경로 $B_i$가 주어졌을 때 사건 $A$가 일어날 조건부확률

예시: 어떤 공장에 상자 A와 상자 B가 있다. 상자 A에는 빨간 공 3개와 파란 공 2개(총 5개)가 들어 있고, 상자 B에는 빨간 공 1개와 파란 공 4개(총 5개)가 들어 있다. 작업자가 두 상자 중 하나를 동전 던지듯 반반의 확률로 고른 뒤, 그 상자에서 공을 하나 꺼낸다. 이때 꺼낸 공이 빨간색일 확률은 얼마일까?

여기서 “상자 A를 고름”과 “상자 B를 고름”이 서로 겹치지 않으면서 전체 경우를 덮는 분할 $B_1, B_2$ 역할을 한다.

전확률의 법칙을 적용한다.

결과 해석: 어느 상자를 골랐는지 모르는 상태에서 빨간 공을 꺼낼 확률은 40퍼센트다. 이는 상자 A를 골라 빨간 공이 나올 경로(확률 0.3)와 상자 B를 골라 빨간 공이 나올 경로(확률 0.1)를 모두 더한 값이다. 두 경로는 동시에 일어날 수 없으므로(상자를 두 개 동시에 고를 수는 없다) 그냥 더하면 된다. 이 상자 예제는 08편에서 “반대로 거슬러 올라가는” 베이즈 정리 계산에 그대로 이어진다.

자주 틀리는 점

• 사건과 표본공간을 혼동한다. 표본공간은 나올 수 있는 모든 결과, 사건은 그중 관심 있는 부분(부분집합)이다.
• 배반사건에서만 성립하는 덧셈 공식($P(A\cup B)=P(A)+P(B)$)을 아무 사건에나 적용한다. 배반이 아니면 반드시 $P(A\cap B)$를 빼야 한다.
• 조건부확률 $P(A\mid B)$의 분자·분모를 뒤집는다. 분모는 항상 조건이 되는 사건(이미 일어난 것으로 아는 사건)의 확률이다.
• 독립을 “동시에 일어나지 않는다”는 뜻으로 오해한다. 독립은 “서로 영향을 주지 않는다”는 뜻이지, 동시에 일어날 수 없다는 뜻이 아니다. 이 혼동은 08편에서 표로 자세히 다룬다.
• 전확률의 법칙에서 분할 조건(겹치지 않고 전체를 덮음)을 확인하지 않고 아무 사건이나 더한다. $B_i$들이 서로 겹치면 이중으로 계산되어 답이 1을 넘어가는 등 모순이 생긴다.

핵심 정리

• 표본공간은 시행에서 나올 수 있는 모든 결과, 사건은 그 부분집합이다.
• 확률의 공리(비음성, 전체 확률 1, 배반사건의 가법성)로부터 여사건·덧셈 정리 같은 성질이 유도된다.
• 조건부확률은 $P(A\mid B) = P(A\cap B)/P(B)$로, 이미 일어난 사건을 조건으로 확률을 다시 계산한다.
• 독립사건은 $P(A\cap B)=P(A)\times P(B)$를 만족하며, 한 사건의 발생 여부가 다른 사건의 확률에 영향을 주지 않는다.
• 전확률의 법칙은 서로 겹치지 않는 여러 경로의 확률을 각 경로의 조건부확률과 곱해 더함으로써 전체 확률을 구한다.

마무리 복습

참고 자료

• Introduction to Applied Statistics: Lecture Notes  — 확률의 기초, 조건부확률 단원 구조와 예제 흐름 참고
• NIST/SEMATECH e-Handbook of Statistical Methods  — 확률의 공리, 독립·전확률의 법칙 정의 확인