왜 개념 지도가 먼저 필요한가

3과목과 4과목은 알고리즘 이름이 쏟아집니다. 로지스틱 회귀, 의사결정나무, 랜덤포레스트, KNN, SVM, K-means, DBSCAN, PCA. 이 이름들을 아무 뼈대 없이 외우면 시험장에서 “이 문제는 회귀인데 왜 정확도가 안 되지?” 같은 함정에 그대로 걸립니다.

기출은 알고리즘의 내부 수식을 묻지 않습니다. 대신 이렇게 묻습니다.

• “다음 중 분류 문제에 해당하는 것은?”
• “모델과 평가 지표의 연결로 옳지 않은 것은?”

두 문제 모두 문제 유형을 판정하는 능력만 있으면 풀립니다. 이 편은 그 판정 기준을 만듭니다.

쉽게 말하면: 이 편은 알고리즘 백과사전이 아니라, 알고리즘들을 꽂아 넣을 서랍장을 짜는 편입니다.

1. 가장 큰 갈래 — 정답이 있는가

머신러닝(machine learning, 기계학습)을 나누는 첫 번째 기준은 학습 데이터에 정답이 붙어 있는가입니다.

생활 비유:

• 지도학습은 정답지가 딸린 문제집입니다. 풀고 나서 답을 맞춰 보며 틀린 방식을 고칩니다
• 비지도학습은 정답지 없이 카드 뭉치를 받아 “비슷한 것끼리 모아 보라”는 과제를 받은 상황입니다. 정답이 없으므로 “잘 묶었는가”의 판단도 다른 기준(19편, 21편)이 필요합니다
• 강화학습은 바둑을 두는 상황입니다. 한 수 한 수에 대한 정답은 없고, 판이 끝난 뒤 이겼는지 졌는지로 이전 수들을 평가합니다

2. 지도학습 안의 갈래 — 분류와 회귀

쉽게 말하면: 예측하려는 값이 범주면 분류, 숫자면 회귀입니다.

판정 연습 — 기출 그대로

다음 넷 중 분류 문제는 무엇일까요?

판정 요령: “답을 적어 보라고 하면 무엇을 쓰게 되는가”를 상상하세요. 숫자를 쓰게 되면 회귀, 단어나 이름표를 쓰게 되면 분류입니다.

헷갈리는 경계 세 가지

① 범주가 숫자로 표시되는 경우 별점 예측(1~5점)은 회귀일까요 분류일까요? 별점을 “1보다 2가 크다”는 연속적 크기로 다루면 회귀이고, “1점 그룹·2점 그룹”처럼 서로 구분되는 다섯 개의 이름표로 다루면 분류입니다. 숫자로 적혀 있는지가 아니라 그 숫자를 크기로 쓰는지가 기준입니다.

② 확률을 예측하는 경우 “이 고객이 이탈할 확률”은 0과 1 사이의 연속 숫자입니다. 하지만 목적이 “이탈한다/안 한다”를 맞히는 것이라면 이것은 분류이고, 확률은 그 분류를 위한 중간 산출물입니다. 로지스틱 회귀(logistic regression)가 이름에 “회귀”가 들어 있는데도 분류 알고리즘으로 분류되는 이유가 여기 있습니다.

③ 이름에 속지 않기 로지스틱 회귀는 분류, 회귀나무(regression tree)는 회귀, 의사결정나무는 둘 다 가능합니다. 알고리즘 이름이 아니라 예측 대상의 형태로 판정하세요.

문제 유형이 평가지표를 결정한다

기출은 “모델과 평가 지표의 연결로 옳지 않은 것은?”으로 이 개념을 묻습니다.

왜 그런가: 정확도(accuracy)는 “예측 범주가 실제 범주와 일치한 비율”입니다. 배송 시간을 32.4분으로 예측했는데 실제가 32.5분이라면, 범주 일치 여부로는 “틀림”이 되어 1분 차이와 100분 차이를 구분하지 못합니다. 반대로 MSE(평균제곱오차)는 두 범주 사이의 “거리”를 요구하는데, 스팸과 정상 사이의 거리는 정의되지 않습니다.

해석: 그래서 “배송시간 회귀 – 정확도(accuracy)“라는 연결은 언제나 틀린 보기입니다. 지표 계산은 20편·21편에서 다루지만, 연결 판정만으로도 한 문제를 벌 수 있습니다.

3. 비지도학습 안의 갈래

군집분석

군집분석(clustering)은 정답 없이 비슷한 데이터끼리 자동으로 묶는 방법입니다. “비슷하다”의 기준은 거리(distance)이며, 거리 계산은 19편에서 손계산으로 다룹니다.

분류와 군집의 결정적 차이: 둘 다 데이터를 그룹으로 나누는 것처럼 보이지만,

• 분류는 그룹의 이름표가 미리 정해져 있고, 데이터에 그 이름표가 붙어 있습니다. 학습 후 새 데이터에 기존 이름표 중 하나를 붙입니다
• 군집은 이름표가 없고, 알고리즘이 나눈 뒤 사람이 “1번 군집은 고가·저빈도 고객이구나”라고 해석해 이름을 붙입니다

쉽게 말하면: 분류는 이미 있는 상자에 물건을 넣는 일이고, 군집은 상자부터 새로 만드는 일입니다.

연관규칙

연관규칙(association rule)은 함께 나타나는 패턴을 찾는 기법입니다. “기저귀를 사는 사람은 맥주도 함께 산다” 같은 규칙을 발견해 마트 진열이나 추천에 씁니다.

차원축소

차원축소(dimensionality reduction)는 모든 변수를 고려하면서 데이터의 차원(변수의 개수)을 줄이는 방법입니다. 대표 기법이 주성분분석(PCA, Principal Component Analysis)이며, 데이터의 분산을 가장 많이 설명하는 축을 찾아 그 축들로 데이터를 다시 표현합니다(19편에서 상세히 다룹니다).

4. 용어 정리 — 데이터 한 표의 각 부분을 뭐라 부르는가

아래는 이탈 예측을 위한 작은 학습 데이터입니다.

이 표를 부르는 이름들을 정리합니다.

독립변수와 종속변수의 뜻: 독립변수는 결과의 원인이 되는 변수이고, 종속변수는 독립변수의 영향을 받아 변화하는 변수입니다. 종속(從屬)이라는 말이 “따라 붙는다”는 뜻이라는 점을 생각하면 방향을 기억하기 쉽습니다.

클래스 개수에 따른 이름:

• 클래스가 2개면 이진 분류(binary classification). 예: 스팸 여부
• 클래스가 3개 이상이면 다중 분류(multiclass classification). 예: 동물 종류 판별

5. 모델·알고리즘·파라미터·하이퍼파라미터

네 단어는 시험에서 자주 섞여 나오고, 실제로 많은 수험생이 구분하지 못합니다.

구체적으로 보면: 선형회귀에서 $y = a + bx$ 라는 식의 절편 $a$ 와 기울기 $b$ 는 데이터가 결정하므로 파라미터입니다. 반면 KNN에서 “이웃 몇 개를 볼 것인가”의 $k$, 의사결정나무의 “최대 깊이”, K-means의 “군집 개수 K”는 사람이 먼저 정해야 하므로 하이퍼파라미터입니다.

쉽게 말하면: 데이터가 정하면 파라미터, 사람이 정하면 하이퍼파라미터입니다.

하이퍼파라미터는 어디서 정하는가: 학습 데이터로 정하면 안 됩니다. 학습 데이터에 가장 잘 맞는 설정을 고르면 과적합(21편)으로 가기 때문입니다. 그래서 검증 데이터(validation data)를 따로 두고 거기서 성능을 비교해 고릅니다(17편의 데이터 분할).

6. 대표 알고리즘 서랍장 — 어디에 꽂히는가

18편·19편에서 각 알고리즘의 원리를 다루므로, 여기서는 어느 서랍에 들어가는지만 잡습니다.

시험 포인트: 이 표에서 가장 자주 출제되는 것은 “둘 다 가능한” 알고리즘 목록입니다. 의사결정나무, SVM, KNN, 랜덤포레스트, 부스팅 계열은 분류와 회귀 모두에 쓸 수 있고, 로지스틱 회귀와 나이브베이즈는 분류 전용, 선형회귀와 라쏘·릿지는 회귀 전용이라는 점을 구분해 외웁니다.

7. 전체 흐름 다시 보기

지금까지의 개념을 하나의 흐름으로 잇습니다. 이 흐름이 17편부터 21편까지의 목차 자체이기도 합니다.

자주 틀리는 점 세 가지 정리:

• 이름으로 판정하지 않기 — 로지스틱 “회귀”는 분류입니다
• 지표를 문제 유형과 어긋나게 쓰지 않기 — 회귀에 정확도, 분류에 RMSE는 언제나 오답 보기입니다
• 분류와 군집을 섞지 않기 — 레이블이 데이터에 있으면 분류, 없으면 군집입니다. “고객을 그룹으로 나눈다”는 표현만으로는 둘 중 어느 쪽인지 알 수 없고, 레이블 유무를 봐야 합니다

핵심 정리

• 머신러닝은 정답 레이블 유무로 지도학습·비지도학습으로 나뉘고, 결과로 행동을 평가하는 강화학습이 별도로 있다.
• 지도학습은 예측 대상이 범주면 분류, 연속 숫자면 회귀다. 알고리즘 이름이 아니라 예측 대상의 형태로 판정한다.
• 비지도학습에는 군집(비슷한 것 묶기), 연관규칙(함께 나타나는 패턴), 차원축소(변수 줄이기)가 있다.
• 분류에는 정확도·정밀도·재현율·F1·AUC, 회귀에는 MSE·RMSE·MAE·결정계수를 쓴다. 회귀에 정확도를 붙이는 연결은 항상 오답이다.
• 데이터가 정하면 파라미터, 사람이 학습 전에 정하면 하이퍼파라미터이며 하이퍼파라미터는 검증 데이터로 고른다.
• 의사결정나무·랜덤포레스트·KNN·SVM·부스팅은 분류와 회귀 모두 가능하고, 로지스틱회귀·나이브베이즈는 분류 전용, 선형회귀·라쏘·릿지는 회귀 전용이다.

마무리 복습

참고 자료

• 코리아IT아카데미 - 빅데이터 분석기사 
• Inflearn 가이드 - 빅데이터분석기사 어떻게 준비해야 할까? 
• Statistics Playbook - 빅데이터분석기사 완전 가이드