왜 운영체제 용어부터 정리하는가

독학사 2단계 운영체제 교재를 펼치면 첫 장부터 “커널(kernel)”, “시스템 호출(system call)”, “인터럽트(interrupt)”, “다중프로그래밍” 같은 말이 아무 설명 없이 쏟아집니다. 이 과목은 1단계 교양 수준의 컴퓨터 사용 경험은 있다고 전제하지만, 컴퓨터공학 전공 수업(프로세스·메모리 계층·인터럽트를 다루는 컴퓨터구조 수업)은 듣지 않았다고 가정하고 설계되었습니다. 뒤에 나올 20개 편은 전부 이 편의 용어를 “이미 아는 것”으로 놓고 진도를 나가므로, 여기서 기초 용어 지도를 그려 두지 않으면 05편부터는 매 문장에서 “이 단어가 정확히 뭐였지”를 되짚어야 합니다.

쉽게 말하면: 이 편은 뒤에 나올 모든 편의 “공용 사전”입니다. 정의를 외우기보다, 그림에서 어느 화살표가 무엇을 뜻하는지 스스로 짚을 수 있게 되는 것이 목표입니다.

1. 운영체제란 무엇을 위해 존재하는가

운영체제(OS, Operating System)는 컴퓨터의 하드웨어(hardware, 실제 전자 회로와 기계 장치)와 그 위에서 돌아가는 응용 프로그램(application program) 사이에 끼어 앉아, 하드웨어 자원을 관리하고 응용 프로그램에게 편리한 실행 환경을 제공하는 소프트웨어입니다. 여기서 “자원(resource)“은 CPU(중앙처리장치, Central Processing Unit), 메모리(memory, 실행 중인 데이터를 담아 두는 공간), 디스크 같은 저장장치, 키보드·모니터 같은 입출력 장치를 통틀어 부르는 말입니다.

운영체제가 왜 필요한지는 “운영체제가 없다면 무슨 일이 벌어지는가”로 생각하면 명확해집니다. 컴퓨터 한 대에서 워드프로세서와 웹 브라우저를 동시에 켜 놓았다고 해 봅시다. 이 두 프로그램은 서로의 존재를 전혀 모릅니다. 그런데도 두 프로그램이 CPU 하나를 사이좋게 나눠 쓰고, 메모리에서 서로 다른 영역만 건드리고, 같은 프린터를 순서대로 쓸 수 있는 이유는 운영체제가 중간에서 “누가 언제 무엇을 쓸지”를 조정해 주기 때문입니다. 이 조정 역할이 없으면 두 프로그램은 같은 메모리 주소를 동시에 덮어쓰거나, CPU를 서로 차지하려고 충돌해 컴퓨터 전체가 멈춰 버립니다.

쉽게 말하면: 운영체제는 아파트의 “관리사무소”입니다. 각 세대(응용 프로그램)는 서로를 몰라도 되지만, 전기·수도·엘리베이터(하드웨어 자원)를 순서대로 안전하게 쓸 수 있는 것은 관리사무소가 규칙을 정해 주기 때문입니다.

운영체제의 역할을 시험에서 자주 쓰는 표현으로 정리하면 다음 네 가지로 묶입니다.

이 중 “자원 관리자”와 “프로세스 관리”가 독학사 2단계 출제 비중의 대부분을 차지합니다. 이 과목의 나머지 20개 편은 결국 이 두 역할을 CPU 관점(스케줄링), 메모리 관점(페이징·가상메모리), 저장장치 관점(파일 시스템·디스크 스케줄링)으로 하나씩 풀어 쓴 것이라고 생각하면 전체 그림이 잡힙니다.

2. 커널, 쉘, 유틸리티 — 운영체제의 세 층

“운영체제”라는 말을 들으면 흔히 윈도우(Windows)나 리눅스(Linux) 같은 하나의 프로그램을 떠올리기 쉽지만, 시험에서는 운영체제를 역할이 다른 세 개의 층으로 나눠서 묻습니다.

• 커널(kernel, 알맹이): 운영체제의 가장 안쪽에서 하드웨어를 직접 제어하는 핵심 부분입니다. 프로세스 스케줄링, 메모리 할당, 파일 입출력, 장치 제어처럼 앞서 말한 “자원 관리자” 역할을 실제로 수행하는 코드가 커널입니다. 커널은 컴퓨터가 켜져 있는 동안 메모리에 항상 올라가 있으며, 사용자가 직접 눈으로 보거나 실행 파일처럼 클릭해서 켤 수 없습니다.
• 쉘(shell, 껍데기): 사용자의 명령을 받아 커널에 전달하고 그 결과를 다시 보여 주는 창구입니다. 명령어를 타이핑하는 텍스트 창(명령줄 인터페이스)일 수도 있고, 아이콘을 클릭하는 그래픽 인터페이스(GUI, Graphical User Interface)일 수도 있습니다. 이름 그대로 커널을 감싸는 “껍데기”이며, 커널과 달리 쉘은 사용자가 다른 프로그램으로 바꿔 쓸 수도 있습니다.
• 유틸리티(utility, 도구 프로그램): 파일 복사, 압축, 계산기처럼 특정 작업 하나를 해결해 주는 보조 프로그램입니다. 커널의 도움(시스템 호출)을 받아 동작하지만, 커널 자체는 아닙니다.

쉽게 말하면: 커널은 건물의 “전기·배관 설비”(눈에 안 보이지만 실제 동작을 담당), 쉘은 “안내 데스크”(사람과 설비 사이의 창구), 유틸리티는 “각 사무실의 비품”(설비의 도움을 받아 특정 업무를 처리)입니다.

자주 틀리는 점: “운영체제 = 커널”이라고 단순화해서 외우면 “쉘을 바꾸면 운영체제가 바뀐 것이다” 같은 오답 보기에 걸립니다. 리눅스에서 bash를 zsh로 바꿔도 커널은 그대로이므로 운영체제의 핵심은 바뀌지 않은 것입니다. 반대로 “커널은 사용자가 직접 실행하는 프로그램이다”라는 문장도 틀린 진술로 자주 출제됩니다. 커널은 부팅 시점에 메모리에 적재되어 계속 상주하는 것이지, 사용자가 필요할 때 실행 파일을 더블클릭해서 켜는 대상이 아닙니다.

이 세 층 중 커널 안쪽의 구체적인 구성 방식(모놀리식·마이크로커널·계층형)은 05편에서 비교표로 자세히 다룹니다. 여기서는 “커널 = 자원을 직접 관리하는 핵심부, 쉘 = 사용자 창구, 유틸리티 = 보조 도구”라는 3층 구분만 확실히 잡아 두면 됩니다.

3. 사용자 모드와 커널 모드 — 왜 응용 프로그램은 하드웨어를 직접 못 만지는가

만약 워드프로세서 같은 일반 응용 프로그램이 디스크 컨트롤러나 메모리 관리 회로를 아무 제한 없이 직접 건드릴 수 있다면 어떤 일이 벌어질까요? 프로그램에 버그가 하나만 있어도 다른 프로그램이 쓰고 있는 메모리를 실수로 지워 버리거나, 디스크에 저장된 다른 사용자의 파일을 훼손할 수 있습니다. 이를 막기 위해 CPU는 하드웨어 수준에서 실행 모드를 두 가지로 나눕니다.

• 사용자 모드(user mode): 응용 프로그램이 실행되는 모드입니다. 이 모드에서는 CPU가 메모리 접근 범위, 입출력 장치 제어 같은 “위험한” 명령을 실행하지 못하도록 제한합니다.
• 커널 모드(kernel mode, 특권 모드라고도 함): 운영체제(커널)가 실행되는 모드입니다. 이 모드에서는 하드웨어 자원에 제한 없이 접근할 수 있습니다.

일반 응용 프로그램이 파일을 읽거나 화면에 글자를 출력하는 등 하드웨어 자원이 필요한 작업을 하려면, 직접 하드웨어를 만지는 대신 커널에게 “이 작업을 대신 해 달라”고 부탁해야 합니다. 이 부탁의 통로가 바로 시스템 호출(system call)입니다.

시스템 호출은 응용 프로그램이 커널의 기능을 빌려 쓰기 위한 정해진 “요청 창구”입니다. 파일 열기·읽기·쓰기, 새 프로세스 생성, 메모리 할당 요청 등이 모두 시스템 호출을 통해 이루어집니다. 시스템 호출이 발생하면 CPU는 사용자 모드에서 커널 모드로 전환되고, 커널이 요청받은 작업을 대신 처리한 뒤 다시 사용자 모드로 돌아와 응용 프로그램에게 결과를 넘겨줍니다.

쉽게 말하면: 사용자 모드는 “방문객이 들어갈 수 있는 로비”, 커널 모드는 “직원만 들어가는 관리 구역”입니다. 방문객(응용 프로그램)이 관리 구역의 서류(하드웨어 자원)가 필요하면 직접 들어가지 못하고, 접수창구(시스템 호출)에 요청서를 내면 직원(커널)이 대신 꺼내다 줍니다.

자주 틀리는 점: “시스템 호출은 사용자 프로그램이 직접 하드웨어를 제어하는 방법이다”라는 문장은 정반대로 틀렸습니다. 시스템 호출의 핵심은 “직접 제어하지 못하게 막으면서도 필요한 기능은 쓸 수 있게 해 주는 우회로”라는 점입니다. 또한 “사용자 모드에서 커널 모드로의 전환은 시스템 호출로만 일어난다”도 완전히 맞는 말은 아닙니다. 다음 절에서 다루는 인터럽트도 모드 전환을 일으킵니다.

4. 인터럽트 — 하드웨어가 CPU에게 말을 거는 방법

CPU는 기본적으로 정해진 순서대로 명령어를 하나씩 실행하는 장치입니다. 그런데 키보드를 누르거나, 디스크에서 읽기 작업이 끝나거나, 네트워크 카드에 데이터가 도착하는 등 CPU 바깥의 사건은 CPU가 지금 몇 번째 명령어를 실행하고 있는지와 무관하게, 예측할 수 없는 시점에 발생합니다. CPU가 이런 사건을 알아채는 방법이 인터럽트(interrupt, 끼어들기)입니다.

인터럽트가 발생하면 CPU는 지금 실행하던 작업을 잠시 멈추고, 그 사건을 처리하는 전용 코드(인터럽트 서비스 루틴, ISR)로 실행 흐름을 옮깁니다. 처리가 끝나면 멈췄던 지점으로 되돌아와 원래 하던 작업을 계속합니다. 인터럽트는 발생 원인에 따라 크게 두 가지로 나눕니다.

앞서 본 시스템 호출도 사실은 “소프트웨어 인터럽트”의 한 종류입니다. 응용 프로그램이 시스템 호출 명령을 실행하면 CPU 입장에서는 “지금 실행 흐름을 커널 코드로 넘겨라”는 트랩이 걸린 것이고, 이 트랩 처리 과정에서 사용자 모드 → 커널 모드 전환이 함께 일어납니다. 즉 시스템 호출은 “인터럽트라는 큰 메커니즘 중 프로그램이 스스로 거는 경우”라고 이해하면 두 개념이 따로 놀지 않습니다.

타이머 인터럽트(timer interrupt)는 특히 중요합니다. 운영체제는 하드웨어 타이머를 이용해 일정 시간마다 강제로 인터럽트를 발생시키는데, 이 덕분에 어떤 프로그램이 CPU를 스스로 내놓지 않고 계속 붙잡고 있어도 운영체제가 강제로 개입해 다른 프로그램에게 CPU를 넘길 수 있습니다. 이 원리는 07~08편의 CPU 스케줄링에서 “선점형(preemptive) 스케줄링”의 핵심 근거로 다시 나옵니다.

쉽게 말하면: 인터럽트는 회의(CPU가 명령어를 순서대로 실행하는 상태) 중에 울리는 전화벨입니다. 회의를 완전히 끝낼 때까지 기다리지 않고, 벨이 울리면 잠시 회의를 멈추고 전화를 받은 뒤(인터럽트 처리) 다시 회의로 돌아옵니다. 시스템 호출은 회의 참석자 본인이 “잠깐 저 전화 좀 걸게요”라며 스스로 거는 전화이고, 하드웨어 인터럽트는 바깥에서 걸려 오는 전화입니다.

5. 운영체제의 유형 — 발전 순서로 보는 비교

운영체제는 컴퓨터 자원이 얼마나 귀했는지, 사용자가 응답을 얼마나 빨리 받아야 했는지에 따라 여러 방식으로 발전해 왔습니다. 독학사 시험에서는 아래 네 유형의 특징과 차이를 정면으로 비교하는 문항이 자주 나옵니다.

이 표에서 시험이 특히 좋아하는 함정은 다중 프로그래밍과 시분할을 같은 것으로 착각하는 것입니다. 다중 프로그래밍은 “CPU를 놀리지 않는 것”이 목적이라 한 작업이 입출력 대기에 들어가야 비로소 다른 작업에게 CPU가 넘어갑니다. 반면 시분할은 “여러 사용자가 동시에 쓰는 것처럼 느끼게 하는 것”이 목적이라, 작업이 입출력 대기에 들어가지 않아도 타이머가 강제로 CPU를 빼앗아 다음 작업에 넘깁니다. 즉 시분할은 다중 프로그래밍의 개념을 바탕으로 하되, 타이머 기반의 강제 선점이라는 조건이 하나 더 추가된 방식입니다.

또 하나 자주 나오는 함정은 실시간 시스템의 “빠름”을 오해하는 것입니다. 실시간 시스템은 무조건 빨리 처리하는 시스템이 아니라, “정해진 데드라인을 반드시 지키는” 시스템입니다. 아무리 평균 처리 속도가 빨라도 단 한 번이라도 데드라인을 놓치면 실패로 간주될 수 있다는 점에서, “평균적으로 빠른” 시분할 시스템과 성격이 다릅니다.

쉽게 말하면: 일괄 처리는 “세탁물을 모아서 한 번에 돌리는 세탁소”, 다중 프로그래밍은 “세탁기가 헹굼하는 동안 다른 세탁물을 넣어 두는 요령”, 시분할은 “여러 명이 순서를 정해 놓고 짧게 짧게 세탁기를 나눠 쓰는 것”, 실시간은 “정해진 시간 안에 무조건 세탁을 끝내야 하는 상황(병원 수술 도구 소독)”, 분산은 “여러 대의 세탁기를 네트워크로 묶어 한 대처럼 예약·관리하는 것”입니다.

6. 시험에서 자주 쓰는 용어 정리

아래 용어들은 이번 편에서 다루지 않았지만 뒤 편에서 설명 없이 등장하는 기본 용어입니다. 여기서 미리 뜻만 짚어 두고, 자세한 내용은 각 편에서 다룹니다.

핵심 정리

• 운영체제는 하드웨어와 응용 프로그램 사이에서 자원을 관리하고 편리한 실행 환경을 제공하는 소프트웨어다.
• 커널(핵심·자원 관리), 쉘(사용자 창구), 유틸리티(보조 도구)는 서로 다른 층이며, 쉘을 바꿔도 커널은 그대로다.
• 사용자 모드는 하드웨어 직접 접근이 제한된 모드, 커널 모드는 제한이 없는 모드이며, 시스템 호출이 그 경계를 넘는 통로다.
• 인터럽트는 CPU 바깥(하드웨어) 또는 프로그램 자신(소프트웨어, 트랩)이 CPU의 실행 흐름에 끼어드는 메커니즘이며, 시스템 호출은 소프트웨어 인터럽트의 한 종류다.
• 운영체제 유형은 일괄 처리 → 다중 프로그래밍 → 시분할 → 실시간 → 분산 순으로 발전했으며, 시분할과 다중 프로그래밍, 실시간과 “빠른 처리”를 혼동하지 않아야 한다.

마무리 복습

참고 자료

• 국가평생교육진흥원 독학학위제 - 과목별 평가영역 
• KOCW 운영체제 강의자료 - Introduction