01. 기초통계학을 위한 필수 수학 복습

이번 문서의 목표: 이 문서를 다 읽으면 이후 본론 편에서 등장하는 집합 기호, 함수·그래프, 지수·로그·근호·절댓값, 시그마(Σ) 표기를 막힘없이 읽고 계산할 수 있다.

왜 수학을 먼저 복습하는가

쉽게 말하면: 통계 공식은 결국 집합·함수·시그마라는 수학 언어로 쓰여 있으므로, 그 언어부터 익혀야 공식이 읽힌다.

통계학의 공식들은 새로운 계산 방법이 아니라, 이미 알고 있는 고등학교 수준 수학을 특정한 상황에 적용한 것인 경우가 대부분이다. 예를 들어 표본분산 공식에 등장하는 $\sum$ (시그마)는 “여러 숫자를 전부 더하라”는 뜻일 뿐이고, 정규분포 그래프는 결국 함수 그래프를 읽는 방법을 아는지를 묻는다. 이 편에서 집합·함수·지수로그·시그마를 미리 정리해 두면, 본론(05편부터)에서는 새로운 계산법을 배우지 않고 통계 개념 자체에만 집중할 수 있다.

기호와 집합

명제와 논리 기호

명제란 참(true, 맞음)인지 거짓(false, 틀림)인지를 분명히 판별할 수 있는 문장을 말한다. “3은 홀수다”는 명제이지만 “3은 큰 수다”는 기준이 사람마다 달라 명제가 아니다. 통계학에서는 “귀무가설이 참이다”, “이 자료는 정규분포를 따른다”처럼 참·거짓을 따지는 문장을 다루므로 명제 개념이 배경에 깔려 있다.

집합과 원소 기호

집합(set)이란 어떤 기준을 만족하는 대상들의 모임이다. 집합에 속한 개별 대상을 원소(element)라고 부른다.

기호	읽는 법	뜻
$\in$	(원소로서) 속한다	$a \in A$ 는 “ $a$ 가 집합 $A$ 의 원소다”라는 뜻
$\notin$	속하지 않는다	$a \notin A$ 는 “ $a$ 가 집합 $A$ 의 원소가 아니다”
$\subset$	부분집합이다	$A \subset B$ 는 “ $A$ 의 모든 원소가 $B$ 에도 속한다”
$\cup$	합집합	$A \cup B$ 는 ” $A$ 또는 $B$ 에 속하는 원소 전체”
$\cap$	교집합	$A \cap B$ 는 “ $A$ 와 $B$ 에 동시에 속하는 원소”
$\emptyset$	공집합	원소가 하나도 없는 집합

이 기호들은 07편(확률의 기초)에서 사건(event)을 집합으로 표현할 때 그대로 다시 쓰인다. 예를 들어 “주사위를 던져 짝수가 나오는 사건”은 $\{2, 4, 6\}$ 이라는 집합으로 표현하고, 두 사건이 동시에 일어나는 경우를 교집합 기호 $\cap$ 으로 나타낸다.

비유: 집합은 “바구니”라고 생각하면 쉽다. $\in$ 은 “이 사과가 바구니 안에 있다”는 뜻이고, $\cap$ 은 “두 바구니에 공통으로 들어 있는 과일만 모은 것”이다.

함수와 그래프 읽기

함수(function)란 하나의 입력값에 대해 정확히 하나의 출력값이 대응되는 규칙이다. $y = f(x)$ 라고 쓸 때 $x$ 는 입력, $y$ 는 그 입력에 대응하는 출력이다.

통계학에서 함수 그래프를 읽는 능력이 특히 중요한 이유는, 확률분포 자체가 함수이기 때문이다. 예를 들어 정규분포 곡선은 “특정 값 $x$ 가 나올 상대적인 가능성”을 나타내는 함수 $f(x)$ 의 그래프다(11편에서 자세히 다룬다). 그래프를 읽을 때 확인해야 할 세 가지는 다음과 같다.

가로축(x축)이 무엇을 나타내는가: 확률분포 그래프에서는 대개 변수의 값(예: 키, 점수)이다.
세로축(y축)이 무엇을 나타내는가: 확률분포 그래프에서는 그 값이 나올 상대적인 가능성(밀도)이다.
그래프의 모양: 대칭인지, 어느 쪽으로 치우쳐 있는지(비대칭을 왜도라고 부르며 06편에서 다룬다), 봉우리가 하나인지 여러 개인지.

지수·로그·근호·절댓값 계산

지수(거듭제곱)

지수는 같은 수를 여러 번 곱하는 것을 짧게 쓰는 표기다. $a^n$ 은 “ $a$ 를 $n$ 번 곱한다”는 뜻이며, $n$ 을 지수(exponent)라고 부른다. 통계학에서는 분산 공식의 $(x - \bar{x})^2$ 처럼 제곱( $n=2$ 인 경우)이 특히 자주 등장한다.

(x - \bar{x})^2

$x$ : 개별 관측값 (읽는 법: 엑스)
$\bar{x}$ : 표본평균 (읽는 법: 엑스바)
제곱을 하는 이유: 편차 $x - \bar{x}$ 는 평균보다 큰 값에서는 양수, 작은 값에서는 음수가 되어 단순히 더하면 서로 상쇄되어 0이 된다. 제곱하면 모든 값이 양수가 되어 상쇄되지 않고, “평균으로부터 얼마나 떨어져 있는가”라는 크기 정보만 남는다.

지수 계산의 기본 성질도 함께 정리해 둔다.

성질	예시
$a^m \times a^n = a^{m+n}$	$2^2 \times 2^3 = 2^5 = 32$
$(a^m)^n = a^{mn}$	$(2^2)^3 = 2^6 = 64$
$a^0 = 1$ ( $a \neq 0$ )	$5^0 = 1$
$a^{-n} = \dfrac{1}{a^n}$	$2^{-2} = \dfrac{1}{4}$

로그

로그(logarithm)는 지수의 반대 방향 질문이다. “ $a$ 를 몇 제곱해야 $b$ 가 되는가”를 $\log_a b$ 로 쓴다. 예를 들어 $2^3 = 8$ 이므로 $\log_2 8 = 3$ 이다. 독학사 기초통계학 수준에서는 로그가 직접 자주 등장하지는 않지만, 포아송분포(10편)나 일부 변환 계산에서 자연로그 $\ln$ (밑이 $e \approx 2.718$ 인 로그)이 등장할 수 있으므로 “로그는 지수의 역질문”이라는 개념만 확실히 잡아 두면 충분하다.

근호(제곱근)

제곱근(square root)은 제곱의 반대 방향 질문이다. $\sqrt{a}$ 는 “제곱해서 $a$ 가 되는 양수”를 뜻한다. 통계학에서는 표준편차(standard deviation, $\sigma$ 또는 $S$ )를 구할 때 분산에 제곱근을 씌우는 형태로 항상 등장한다(06편에서 자세히 다룬다).

\sigma = \sqrt{\sigma^2}

$\sigma$ : 모표준편차 (읽는 법: 시그마)
$\sigma^2$ : 모분산 (읽는 법: 시그마 제곱)
분산은 편차를 제곱해서 만들었기 때문에 원래 자료와 단위가 다르다(예: 원래 단위가 cm면 분산의 단위는 $\text{cm}^2$ ). 제곱근을 씌워 표준편차로 되돌리면 원래 자료와 같은 단위로 해석할 수 있다.

절댓값

절댓값(absolute value) $|x|$ 는 $x$ 의 부호를 무시하고 크기만 남긴 값이다. $|3| = 3$ 이고 $|{-3}| = 3$ 이다. 통계학에서는 편차의 크기만 보고 싶을 때(부호는 상관없이 “얼마나 떨어져 있는가”만 알고 싶을 때) 절댓값을 쓰기도 하는데, 다만 06편에서 다루는 표준적인 산포도 측정에서는 절댓값 대신 제곱을 훨씬 더 많이 사용한다. 그 이유는 제곱이 이후 미분·통계 이론 전개에서 수학적으로 다루기 더 편리하기 때문이다(독학사 수준에서는 “왜 제곱을 선호하는지 정도만” 알면 충분하다).

수열과 시그마(Σ) 표기

수열이란

수열(sequence)이란 순서를 가진 숫자들의 나열이다. 통계학에서 다루는 자료(data)는 보통 $x_1, x_2, x_3, \ldots, x_n$ 처럼 순서를 매긴 수열의 형태로 표현된다. 여기서 아래첨자(밑에 작게 붙는 숫자)는 “몇 번째 관측값인가”를 나타낸다. 예를 들어 $x_3$ 은 세 번째로 관측한 값이다.

시그마(Σ) 표기의 뜻

$\sum$ (시그마)는 그리스 대문자로, “뒤에 오는 것들을 전부 더하라”는 명령 기호다. 통계 공식 전체에서 가장 많이 등장하는 기호이므로 확실히 익혀 두어야 한다.

\sum_{i=1}^{n} x_i = x_1 + x_2 + x_3 + \cdots + x_n

$\sum$ : 시그마, “모두 더하라”는 뜻
$i$ : 더하는 항목을 세는 번호 (읽는 법: 아이, “인덱스”라고도 부른다)
$i=1$ : $i$ 를 1부터 시작한다는 뜻 (시그마 아래에 적는다)
$n$ : $i$ 가 몇까지 가는지 (시그마 위에 적는다). 통계학에서는 보통 전체 관측값의 개수를 뜻한다
$x_i$ : $i$ 번째 관측값

작은 예시로 확인하기

관측값이 다음과 같이 5개 있다고 하자: $x_1 = 4,\ x_2 = 7,\ x_3 = 5,\ x_4 = 9,\ x_5 = 5$ .

\sum_{i=1}^{5} x_i = 4 + 7 + 5 + 9 + 5 = 30

여기서 $n = 5$ (관측값이 5개)이고, 합계는 30이다. 이 합계를 개수로 나누면 평균이 되는데, 이는 05편(중심경향치)에서 정식으로 다룬다.

\bar{x} = \frac{30}{5} = 6

$\bar{x}$ : 표본평균 (엑스바)
분자 30: 다섯 관측값의 합 ( $\sum x_i$ )
분모 5: 관측값의 개수 ( $n$ )

시그마의 기본 성질

시그마는 다음 두 성질을 항상 만족한다. 이 성질들은 06편의 분산 공식을 전개할 때 그대로 쓰인다.

성질 1: 상수를 곱한 합은 상수를 밖으로 뺄 수 있다.

\sum_{i=1}^{n} c \, x_i = c \sum_{i=1}^{n} x_i

$c$ : 모든 항에 공통으로 곱해진 상수(변하지 않는 수)
예: $\sum (2x_i) = 2 \sum x_i$ . 위 예시에서 $\sum(2x_i) = 2 \times 30 = 60$ 이고, 직접 더해도 $8+14+10+18+10=60$ 으로 같다.

성질 2: 합의 합은 각각 더한 것을 나중에 더한 것과 같다.

\sum_{i=1}^{n} (x_i + y_i) = \sum_{i=1}^{n} x_i + \sum_{i=1}^{n} y_i

$x_i, y_i$ : 같은 번호끼리 짝지어진 두 수열의 항
이 성질 덕분에 복잡한 통계 공식을 항별로 쪼개서 계산할 수 있다.

주의: 상수만 더하는 경우. $x_i$ 없이 상수 $c$ 만 $n$ 번 더하면 다음과 같이 단순 곱셈이 된다.

\sum_{i=1}^{n} c = nc

예를 들어 $\sum_{i=1}^{5} 3 = 5 \times 3 = 15$ 이다. 이는 “3이라는 값을 다섯 번 더한 것”이지 “3을 5제곱한 것”이 아니라는 점에 주의해야 한다.

자주 틀리는 점

$\sum x_i^2$ 와 $(\sum x_i)^2$ 을 혼동: 앞의 것은 “각 값을 먼저 제곱한 다음 더한다”는 뜻이고, 뒤의 것은 “먼저 다 더한 다음 그 합을 제곱한다”는 뜻이다. 위 예시로 확인하면 $\sum x_i^2 = 16+49+25+81+25 = 196$ 이지만 $(\sum x_i)^2 = 30^2 = 900$ 으로 전혀 다른 값이 나온다. 이 둘을 구분하지 못하면 06편의 분산 계산 공식에서 반드시 오답이 나온다.
지수와 곱셈을 혼동: $2^3$ 은 $2 \times 3 = 6$ 이 아니라 $2 \times 2 \times 2 = 8$ 이다. 지수는 “곱하는 횟수”이지 “곱하는 크기”가 아니다.
음수의 제곱과 제곱근을 혼동: $(-3)^2 = 9$ (양수)이지만, $-3^2$ 은 $-(3^2) = -9$ 로 계산해야 한다(지수가 밑의 부호보다 먼저 적용되고, 앞의 음수 부호는 나중에 곱해진다). 계산 순서를 명확히 표시하기 위해 괄호를 쓰는 습관이 중요하다.
시그마의 아래·위 첨자를 무시하고 계산: $i=1$ 부터 $n$ 까지라는 범위를 확인하지 않고 무작정 모든 숫자를 더하면, 일부 항만 더해야 하는 문제(예: 특정 구간의 합)에서 오답이 나온다.

핵심 정리

집합 기호( $\in, \subset, \cup, \cap$ )는 07편의 확률 사건 표현에서 그대로 재사용된다.
함수 그래프를 읽는 능력은 11편의 정규분포 곡선을 이해하는 데 직접 필요하다.
지수·로그·근호·절댓값 중 통계학에서 가장 자주 쓰이는 것은 제곱과 제곱근이며, 분산·표준편차 공식에 직접 들어간다.
시그마 $\sum$ 는 “모두 더하라”는 뜻이며, $\sum x_i^2$ 와 $(\sum x_i)^2$ 을 구분하는 것이 계산 실수를 줄이는 핵심이다.
시그마의 두 성질(상수를 밖으로 빼기, 합의 합 나누기)은 이후 분산·표준편차 공식 전개에서 반복해 사용된다.

마무리 복습

문제 14지선다

집합 기호 중 두 사건이 동시에 일어나는 경우를 나타낼 때 쓰는 기호는?

∈∪∩⊂

문제 24지선다

분산 공식에서 편차 (x - 엑스바)를 제곱하는 가장 중요한 이유는?

계산을 더 어렵게 만들기 위해서양수와 음수 편차가 서로 상쇄되어 0이 되는 것을 막기 위해서단위를 원래 자료와 다르게 만들기 위해서평균을 다시 구하기 위해서

문제 34지선다

x1=2, x2=3, x3=5일 때 시그마 x_i의 제곱의 합과 (시그마 x_i)의 제곱을 각각 바르게 계산한 것은?

둘 다 100으로 같다시그마 x_i 제곱의 합은 38, (시그마 x_i)의 제곱은 100이다시그마 x_i 제곱의 합은 100, (시그마 x_i)의 제곱은 38이다둘 다 38로 같다

문제 44지선다

시그마의 성질 중 옳은 것은?

시그마(c 곱하기 x_i)는 c를 밖으로 뺄 수 없다시그마(x_i + y_i)는 시그마 x_i와 시그마 y_i를 각각 구해 더한 것과 같다상수 c를 n번 더하면 항상 0이 된다시그마 기호에는 더하는 범위를 표시할 필요가 없다

문제 54지선다

음수의 제곱 계산으로 옳은 것은?

(-3)의 제곱은 -9이다-3의 제곱(음수 부호가 밖에 있는 경우)은 9이다(-3)의 제곱은 9이고, -3의 제곱(음수 부호가 밖에 있는 경우)은 -9이다두 표현은 항상 같은 값을 낸다