1. 왜 “모형 설계”라는 단계가 따로 있는가

데이터를 다 다듬고 나면 곧장 알고리즘을 돌리고 싶어집니다. 그런데 실제 프로젝트에서 가장 흔한 실패는 알고리즘이 나빠서가 아니라, 애초에 잘못된 문제를 풀었거나 성능을 잘못 쟀기 때문에 생깁니다.

예를 들어 “고객 이탈을 예측해 달라”는 요청을 받았다고 합시다. 이 한 문장 안에는 답이 정해지지 않은 질문이 최소 세 개 숨어 있습니다.

• 이탈할지 안 할지(예 또는 아니오)를 맞히는 문제인가, 아니면 며칠 뒤에 이탈하는지 날짜를 맞히는 문제인가?
• 정답(이탈 여부)이 기록된 과거 데이터가 있는가, 없는가?
• 만든 모형이 “잘 맞는다”는 것을 무엇으로 증명할 것인가?

첫 번째 질문의 답이 문제 유형(분류인가 회귀인가)을 정하고, 두 번째 답이 지도학습인지 비지도학습인지를 정하며, 세 번째 답이 데이터 분할과 검증 방식을 정합니다. 이 세 가지를 정하는 일이 바로 분석 모형 설계(model design)입니다.

쉽게 말하면: 모형 설계는 “무엇을 맞힐 것인가, 무엇으로 맞힐 것인가, 잘 맞혔는지 어떻게 확인할 것인가”를 미리 못 박아 두는 단계입니다.

비유: 요리에 비유하면 알고리즘은 조리 도구이고, 모형 설계는 “무슨 요리를 만들 것인지, 손님이 몇 명인지, 맛을 누가 어떻게 평가할 것인지”를 정하는 일입니다. 도구가 아무리 좋아도 만들 요리를 안 정하면 아무것도 나오지 않습니다.

시험에서 3과목(빅데이터 모델링)의 첫 항목 이름이 그대로 분석모형 설계입니다. 즉 이 편의 내용은 과목 이름에 직접 걸려 있는 출제 범위입니다.

2. 분석 모형 구축 절차 — 4단계 암기

기출에서 순서를 뒤섞어 놓고 고르게 하는 전형적인 암기 문항이 나옵니다. 네 단계와 각 단계의 세부 활동을 함께 외워야 합니다.

여기서 놓치기 쉬운 두 가지를 짚어 둡니다.

• 성능 평가는 2단계 모델링 안에 들어 있습니다. “성능 평가는 4단계 적용에서 한다”는 식의 보기가 함정으로 나옵니다.
• 4단계에서 끝이 아닙니다. 시간이 지나면 고객 행동이 바뀌어 모형이 낡습니다(모형 노후화). 그래서 주기적으로 모델링을 재수행한다는 문장이 4단계 설명에 반드시 붙습니다.

비유: 요건 정의는 설계도 그리기, 모델링은 건물 짓기, 검증 및 테스트는 준공 검사, 적용은 입주 후 정기 점검입니다. 점검 없이 입주만 하면 몇 년 뒤 건물이 무너집니다.

3. 문제 유형 식별 — 분류·회귀·군집

모든 설계의 출발점은 “이건 어떤 종류의 문제인가”입니다. 판별 기준은 딱 두 개입니다. 정답(레이블)이 있는가, 그리고 맞혀야 할 값이 숫자인가 범주인가.

• 지도학습(supervised learning): 문제와 정답이 짝지어진 데이터로 학습합니다. 정답을 레이블(label) 또는 타깃(target)이라고 부릅니다.
  • 회귀(regression): 연속적인 숫자값을 예측합니다. 예를 들어 집값, 내일 기온, 다음 달 매출.
  • 분류(classification): 정해진 범주(category)를 예측하고, 각 범주에 속할 확률을 함께 제시합니다. 예를 들어 스팸 메일 여부, 암 진단 결과, 동물 종류.
• 비지도학습(unsupervised learning): 정답 없이 데이터 자체의 구조와 패턴을 찾습니다.
  • 군집분석(clustering): 비슷한 데이터끼리 자동으로 묶습니다.
  • 연관규칙(association rule): 같이 나타나는 패턴을 찾습니다. 예를 들어 마트 상품 진열, 영상 추천.

쉽게 말하면: 정답지가 있으면 지도학습, 없으면 비지도학습. 정답이 숫자면 회귀, 이름표면 분류.

헷갈리기 쉬운 경계 사례

시험은 딱 떨어지는 예시 대신 애매한 상황을 줍니다. 판별 연습을 해 봅니다.

자주 틀리는 점: “1점부터 5점까지 예측”이라는 말만 보고 회귀로 고르는 실수가 흔합니다. 별점처럼 순서는 있지만 간격이 같다고 보장할 수 없는 값은 기본적으로 분류(서열형 분류) 문제로 봅니다. 반대로 “확률을 예측한다”는 표현이 나오면, 확률 자체는 0과 1 사이 연속값이지만 최종 목적이 범주 판정이면 분류입니다. 로지스틱 회귀가 이름에 회귀가 붙어 있으면서도 분류 기법인 이유가 여기에 있습니다.

4. 목적에 맞는 알고리즘 고르기 — 매핑표

기출 단골은 “다음 중 회귀에 사용할 수 없는 기법은?” 또는 “분류와 회귀 모두에 쓸 수 있는 것은?”입니다. 아래 표를 세 칸으로 통째 암기하는 것이 가장 빠릅니다.

각 기법의 원리·장단점은 18편(지도학습)과 19편(비지도학습)에서 본격적으로 다룹니다. 여기서는 어떤 상황에서 무엇을 고르는가라는 선택 기준만 정리합니다.

자주 틀리는 점: “정확도가 가장 높은 알고리즘을 항상 고른다”는 보기는 오답입니다. 실제 선택 기준에는 해석 가능성, 학습·예측 속도, 데이터 크기, 운영 환경이 함께 들어갑니다. 대출 심사처럼 사유 설명이 법으로 요구되는 영역에서는 성능이 조금 낮아도 해석 가능한 모형을 고릅니다.

5. 데이터 분할 — 학습·검증·평가

왜 나누는가

모형을 학습시킨 그 데이터로 성능을 재면 어떻게 될까요? 당연히 잘 나옵니다. 이미 본 문제니까요. 이건 자기가 낸 문제를 자기가 푸는 것과 같아서 아무 의미가 없습니다.

쉽게 말하면: 데이터를 나누는 이유는 “처음 보는 문제도 풀 수 있는가”를 확인하기 위해서입니다.

여기서 목표가 되는 성능을 일반화 성능(generalization performance)이라고 부릅니다. 새로운 데이터에 대해서도 모형이 얼마나 잘 동작하는지를 나타내는 성능입니다.

세 덩어리의 역할 — 공부·모의고사·수능 비유

이 비유가 강력한 이유는 규칙까지 그대로 설명해 주기 때문입니다.

• 모의고사(검증)를 여러 번 보면서 공부 방법을 고치는 것은 정상입니다. 그래서 검증 데이터는 여러 번 반복해서 봅니다.
• 수능(평가)은 딱 한 번입니다. 수능 문제를 미리 보고 공부하면 그 점수는 실력을 의미하지 않습니다. 그래서 평가 데이터는 모든 선택이 끝난 뒤 마지막에 한 번만 씁니다.

비율은 상황에 따라 다르지만 6:2:2 또는 7:2:1이 흔히 쓰입니다. 손으로 계산해 봅니다. 전체 관측치가 1,000건이고 6:2:2로 나눈다고 하면,

• 1000: 전체 관측치 수(건)
• 0.6, 0.2, 0.2: 각 덩어리에 배정할 비율

즉 600건으로 학습하고, 200건으로 여러 설정을 비교해 하나를 고르고, 남은 200건으로 최종 점수를 한 번 보고합니다.

데이터 누수(Data Leakage) — 최근 회차 단골

데이터 누수(Data Leakage, 정보 유출)는 검증이나 평가에 써야 할 데이터의 정보가 학습 과정에 스며들어 성능이 실제보다 좋게 왜곡되는 현상입니다.

쉽게 말하면: 수능 문제지가 미리 유출된 상태로 본 시험 점수와 같습니다. 점수는 높지만 실력은 아닙니다.

가장 자주 나오는 누수 시나리오는 순서를 잘못 잡은 전처리와 변수 선택입니다.

• 잘못된 순서: 전체 데이터로 표준화(평균·표준편차 계산) → 그 다음 학습·평가로 분할
• 올바른 순서: 먼저 분할 → 학습 데이터만으로 평균·표준편차 계산 → 그 값을 검증·평가 데이터에 그대로 적용

두 번째 시나리오는 변수 선별입니다. 유전자 자료 1만 2천 개 변수 중 질병 여부와 상관이 높은 200개를 고르는 상황을 생각해 봅니다. 전체 데이터를 다 보고 200개를 고른 뒤 분할하면, 그 200개는 이미 평가 데이터의 정답을 참고해서 뽑힌 것입니다. 실제 기출에서 정답으로 요구하는 순서는 이렇습니다.

자주 틀리는 점: 결측치 대치도 마찬가지입니다. 전체 데이터의 평균으로 결측치를 채운 뒤 분할하면 평가 데이터의 값이 학습에 섞여 들어갑니다. 결측치 처리 자체는 11편에서 다루지만, 분할이 먼저이고 전처리가 나중이라는 순서는 이 편의 핵심입니다.

6. 교차검증 — 다섯 가지 방식 비교

왜 필요한가

한 번만 나눠서 성능을 재면, 운 좋게 쉬운 문제만 평가에 몰린 경우에도 성능이 좋게 나옵니다. 반대로 운이 나쁘면 좋은 모형이 나쁘게 평가됩니다. 이 우연을 줄이려고 여러 번 나눠 여러 번 평가하고 평균을 내는 방법이 교차검증(cross validation)입니다.

쉽게 말하면: 모의고사를 한 번만 보고 실력을 판단하지 않고, 여러 번 보고 평균을 내는 것입니다.

여기서 용어 두 개를 그 자리에서 풀어 둡니다.

• 복원추출(sampling with replacement): 뽑은 것을 다시 넣고 또 뽑는 방식이라 같은 데이터가 여러 번 뽑힐 수 있습니다. 부트스트랩이 이 방식입니다.
• 층화(stratified, 계층화): 전체에서 A범주가 90퍼센트, B범주가 10퍼센트라면 각 묶음에서도 그 비율을 90 대 10으로 맞추는 것입니다.

K겹 교차검증 손계산

관측치 600개를 K가 6인 K겹 교차검증으로 평가한다고 합시다. 한 묶음(fold, 폴드)의 크기는

• 600: 전체 관측치 수
• 6: 나눌 묶음의 개수 K

각 회차에서 검증에 쓰는 묶음은 1개, 학습에 쓰는 묶음은 나머지 5개입니다. 즉 학습 데이터는

• 100: 한 묶음의 관측치 수
• 6 - 1: 검증용 1묶음을 뺀 나머지 묶음 수

정리하면 회차마다 학습 500건, 검증 100건이고 이 과정을 총 6회 반복합니다. 그래서 정확도 값도 6개 나옵니다. 여섯 회차의 정확도가 각각 0.82, 0.86, 0.80, 0.84, 0.88, 0.84였다면 먼저 모두 더합니다.

그 다음 회차 수로 나눕니다.

• 5.04: 여섯 회차 정확도의 합
• 6: 회차 수 K

최종으로 보고하는 교차검증 성능은 0.84입니다. 이렇게 회차 수와 성능 값의 개수가 반드시 같다는 점이 계산 문항에서 실수를 걸러내는 지점입니다. K가 6인데 성능 값을 5개만 세어 5로 나누면 답이 달라집니다.

자주 틀리는 점: “K겹에서 각 회차는 K-1개 묶음으로 검증하고 1개로 학습한다”처럼 학습과 검증을 맞바꾼 서술이 오답 보기로 자주 나옵니다. 검증이 1개, 학습이 K-1개입니다.

LOOCV의 반복 횟수

LOOCV(Leave One Out Cross Validation, 하나만 남기는 교차검증)는 관측치 1개를 검증용으로 두고 나머지 전부로 학습하는 과정을 관측치 개수만큼 반복합니다. 관측치가 3,000개면 3,000번 학습합니다. K겹에서 K를 관측치 수와 같게 놓은 극단적인 경우라고 이해하면 정확합니다.

자주 틀리는 점: LOOCV는 데이터를 최대한 활용하지만 계산량이 엄청나게 큽니다. “대용량 데이터에 가장 적합한 검증법”이라는 보기는 오답입니다. 오히려 데이터가 매우 적을 때 쓰는 방법입니다.

7. 파라미터와 하이퍼파라미터 — 기출 단골

이 구분은 거의 매 회차 나옵니다. 갈리는 기준은 값이 정해지는 시점과 주체 두 가지뿐입니다.

쉽게 말하면: 하이퍼파라미터는 오븐의 온도 다이얼, 파라미터는 구워진 빵의 상태입니다. 다이얼은 사람이 굽기 전에 돌리고, 빵의 상태는 굽는 동안 저절로 결정됩니다.

자주 틀리는 점 세 가지:

• “선형회귀의 회귀계수는 분석가가 미리 정하는 하이퍼파라미터다” — 오답입니다. 회귀계수는 데이터로 추정되는 파라미터입니다.
• “드롭아웃 비율은 학습으로 추정되는 가중치다” — 오답입니다. 드롭아웃 비율은 사람이 설정하거나 검증으로 고르는 규제 하이퍼파라미터입니다.
• “학습률은 학습 중에 자동으로 계산되는 값이다” — 오답입니다. 학습률은 하이퍼파라미터이며, 스케줄러가 학습 중 조정하더라도 초기값과 조정 규칙은 사람이 정합니다.

하이퍼파라미터 탐색 방법 세 가지

그리드 서치의 시도 횟수를 손으로 계산해 봅니다. 학습률 후보 3개, 최대 깊이 후보 4개를 모두 시도하면

• 3: 학습률 후보의 개수
• 4: 최대 깊이 후보의 개수

조합이 12개입니다. 여기에 5겹 교차검증을 붙이면 실제 학습 횟수는

• 12: 하이퍼파라미터 조합 수
• 5: 교차검증 회차 수 K

즉 60번 학습해야 합니다. 축을 하나만 더 추가해 후보 3개를 넣으면 조합이 36개, 학습은 180번으로 뜁니다. 이것이 “축이 늘수록 곱으로 증가한다”는 말의 실제 의미입니다.

자주 틀리는 점: “수동 조정은 분석가의 경험을 쓰므로 자동 탐색보다 항상 좋은 조합을 찾는다”는 보기는 오답입니다. 보기에 항상, 반드시, 결코 같은 단정어가 들어가면 거의 오답이라는 것이 이 시험의 일반 규칙이기도 합니다.

또 하나, 격자 탐색은 옵티마이저가 아닙니다. 모멘텀(Momentum), 아담(Adam), 알엠에스프롭(RMSProp)은 학습 중 기울기로 가중치를 갱신하는 최적화 알고리즘이고, 격자 탐색은 학습 바깥에서 설정값을 고르는 절차입니다. 이 둘을 섞어 놓은 보기가 실제로 출제됐습니다.

8. 피처 엔지니어링 — 개념 수준

피처(feature, 특징·특성)는 모형의 입력으로 쓰이는 변수를 말합니다. 피처 엔지니어링(feature engineering)은 이 입력 변수를 모형이 잘 배울 수 있는 형태로 만들거나 골라내는 작업 전체를 가리킵니다.

쉽게 말하면: 같은 재료라도 통째로 넣느냐 썰어서 넣느냐에 따라 요리 맛이 달라지듯, 같은 데이터라도 어떻게 가공해 넣느냐가 성능을 크게 좌우합니다.

각 기법의 계산과 주의점은 12편(스케일링·인코딩·변환) 과 19편(차원축소) 에서 자세히 다루므로 여기서는 이름과 목적만 잡고 넘어갑니다.

설계 관점에서 반드시 기억할 것은 딱 하나입니다. 피처 엔지니어링의 기준값은 학습 데이터에서만 뽑는다. 표준화의 평균과 표준편차, 인코딩의 범주 목록, 결측 대치의 대푯값 모두 학습 데이터에서 계산해 검증·평가 데이터에 적용합니다. 이 원칙을 어기는 순간 5절에서 배운 데이터 누수가 발생합니다.

9. 평가지표는 어디서 다루나

모형을 만들었으면 “얼마나 잘 맞히나”를 재야 합니다. 이 편에서는 어떤 데이터로 재는가(분할·교차검증)까지만 다뤘고, 무엇으로 재는가(지표)는 다음처럼 나뉩니다.

• 분류 모형 평가: 혼동행렬, 정확도·정밀도·재현율·F1 점수·특이도, ROC 곡선과 AUC → 20편
• 회귀·군집 모형 평가: 평균제곱오차(MSE), 평균제곱근오차(RMSE), 평균절대오차(MAE), 결정계수, 실루엣 계수, 과적합과 규제 → 21편

지금 단계에서 알아 둘 것은 문제 유형이 지표를 결정한다는 사실입니다. 분류 문제에 평균제곱오차를 쓰거나 회귀 문제에 정확도를 쓰는 보기는 그 자체로 오답입니다.

10. 시험에서 어떻게 물어보나

3과목 분석모형 설계 영역의 출제 패턴은 크게 다섯 가지로 정리됩니다.

유형 1 — 절차 순서 맞추기. 요건 정의·모델링·검증 및 테스트·적용의 순서를 뒤섞어 제시합니다. 함정은 “성능 평가”를 적용 단계에 붙여 놓는 보기, 그리고 “적용 후에는 모형을 다시 손대지 않는다”는 보기입니다. 후자는 주기적 재학습을 부정하므로 오답입니다.

유형 2 — 알고리즘 분류. “다음 중 회귀에 사용할 수 없는 것은” 형태입니다. 함정은 로지스틱 회귀입니다. 이름에 회귀가 들어 있어 회귀 기법으로 착각하기 쉽지만 분류 전용입니다. 반대로 의사결정나무·SVM·KNN·랜덤포레스트를 “분류 전용”으로 몰아넣은 보기도 오답입니다. 이들은 회귀도 가능합니다.

유형 3 — 데이터 분할과 누수. 대표적으로 “검증용 자료는 무엇에 쓰이는가”를 묻고, 학습 데이터 성능으로 설정값을 고른다는 보기를 오답으로 심어 둡니다. 학습 성능은 모형을 복잡하게 할수록 계속 좋아지므로 선택 기준이 될 수 없습니다. 또 변수 선별과 분할의 순서를 묻는 문항에서는 분할이 먼저가 정답입니다.

유형 4 — 교차검증 계산. 관측치 수와 K를 주고 회차별 학습·검증 건수를 묻거나, 조건(묶음 수, 범주 비율 유지, 모든 관측치 1회 검증)을 나열하고 해당하는 방식을 고르게 합니다. 조건에 범주 비율 유지가 있으면 답은 층화 K겹입니다. 복원추출이 있으면 부트스트랩입니다.

유형 5 — 파라미터 대 하이퍼파라미터. 목록을 주고 성격이 다른 하나를 고르게 합니다. 회귀계수와 신경망 가중치는 파라미터, 최대 깊이·학습률·드롭아웃 비율·K는 하이퍼파라미터입니다. 탐색 기법을 짝짓는 문항에서는 격자 탐색을 옵티마이저에 섞어 놓은 보기와 항상이라는 단정어가 붙은 보기를 먼저 의심하세요.

핵심 정리

• 분석 모형 구축 절차는 요건 정의 → 모델링 → 검증 및 테스트 → 적용이며, 성능 평가는 모델링 단계 안에 있고 적용 후에는 주기적으로 재학습한다.
• 정답이 있으면 지도학습(숫자면 회귀, 범주면 분류), 없으면 비지도학습(군집·연관규칙)이다. 로지스틱 회귀는 이름과 달리 분류 전용이고, 의사결정나무·SVM·KNN·랜덤포레스트는 분류와 회귀 모두 가능하다.
• 학습(공부)·검증(모의고사)·평가(수능) 데이터는 역할이 다르며, 평가 데이터는 모든 선택이 끝난 뒤 한 번만 쓴다. 전처리·변수 선별은 분할 이후 학습 데이터 안에서만 수행해야 데이터 누수를 막는다.
• 교차검증에서 K겹은 각 회차마다 검증 1묶음, 학습 K-1묶음이며 총 K회 반복한다. 층화는 범주 비율 유지, 부트스트랩은 복원추출, LOOCV는 관측치 수만큼 반복이 핵심 키워드다.
• 파라미터는 데이터가 학습으로 정하는 값(회귀계수, 가중치), 하이퍼파라미터는 사람이 학습 전에 정하는 값(최대 깊이, 학습률, K, 드롭아웃 비율)이다. 탐색은 그리드 서치, 랜덤 서치, 베이지안 최적화 순으로 효율이 좋아진다.

마무리 복습

참고 자료

• 한국데이터산업진흥원 - 빅데이터분석기사 자격시험 안내 
• 코리아IT아카데미 - 빅데이터 분석기사 과목별 세부 항목 
• Statistics Playbook - 빅데이터분석기사 완전 가이드 
• SQLDpass - 빅데이터분석기사 필기 기출·복원