AI-POT 2급 자격증 공부(인공지능 알고리즘 이해)

규칙 기반 시스템부터 트랜스포머까지, AI의 흐름 한눈에 정리

인공지능을 공부하다 보면 용어가 너무 많아 머리가 복잡해집니다. 규칙 기반 시스템, 머신러닝, 딥러닝, 그리고 요즘 핫한 트랜스포머까지… 이 글에서는 AI 기술의 발전 흐름을 따라가며 핵심 개념을 한 번에 정리해봤습니다. 자격증 시험을 준비하시는 분이나 AI 기초를 잡고 싶은 분께 도움이 되길 바랍니다.

---

1. AI의 출발점, 규칙 기반 시스템

초창기 인공지능은 사람이 직접 규칙을 짜 넣는 방식이었습니다. 핵심은 단순합니다.

"만약 A라면, B를 시행하라" (IF-THEN)

예를 들어 신호등 시스템("빨간불이면 멈춰라")이나 도서관 대출 시스템처럼, 정해진 규칙대로만 작동하는 거죠. 신용 평가에서 "연체 3회 이상이면 고위험 고객으로 분류"하는 것도 대표적인 규칙 기반 시스템입니다.

전문가 시스템 — 규칙의 집대성

규칙 기반 시스템을 복합적으로 응용한 것이 바로 전문가 시스템(Expert System) 입니다. 특정 분야 전문가의 지식을 디지털화해 컴퓨터에 학습시킨 형태로, 수많은 IF-THEN 규칙을 바탕으로 추론합니다.

최초의 전문가 시스템은 에드워드 파이겐바움이 개발한 덴드랄(DENDRAL) 입니다. (비슷한 시기의 '세인트'가 아니라 덴드랄이 최초로 인정받는 이유는, 전문가의 지식을 명시적으로 규칙화했기 때문이에요.)

시스템	분야
덴드랄(DENDRAL)	화학 구조 분석 — 최초의 전문가 시스템
마이신(MYCIN)	의료 진단 — 약 600개의 규칙 사용
프로스펙터(PROSPECTOR)	지질 탐사

하지만 전문가 시스템에는 명확한 한계가 있었습니다.

• 💸 높은 유지보수 비용 — 규칙이 많아질수록 관리가 어려움
• 📚 지식 획득의 어려움 — 전문가의 암묵지를 규칙으로 옮기기 까다로움
• 🎨 창의적 문제 해결의 한계 — 정해진 규칙 밖의 상황엔 대응 불가

이 한계를 넘기 위해 등장한 것이 바로 머신러닝입니다.

---

2. 데이터로 학습하는 머신러닝

머신러닝은 사람이 규칙을 일일이 짜는 대신, 데이터로부터 컴퓨터가 스스로 패턴을 학습하게 합니다. 학습 방식에 따라 네 가지로 나뉩니다.

유형	정답(라벨)	목적	대표 사례
지도 학습	있음	예측·분류	스팸 메일 분류
비지도 학습	없음	패턴 발견·탐색	고객 세그먼트 발굴
준지도 학습	일부만	적은 라벨 + 대량 무라벨 활용	추천 시스템
강화 학습	보상으로 대체	최대 보상 방향 학습	자율주행 주행 전략

비지도 학습 — 정답 없이 패턴 찾기

대표 알고리즘은 K-평균 군집화(K-means Clustering) 입니다. 비슷한 데이터끼리 묶어서 군집(cluster)을 만드는데요, 군집의 개수 K를 지정하고 유클리드 거리를 기준으로 각 데이터를 가까운 군집에 할당합니다.

지도 학습 — 정답을 보며 예측하기

지도 학습에는 다양한 알고리즘이 있습니다. 각각의 특징을 알아두면 헷갈리지 않아요.

알고리즘	한 줄 특징
선형 회귀	입력과 출력의 관계를 직선으로 표현
로지스틱 회귀	S자 곡선으로 0~1 확률값을 내어 분류
결정 트리	질문을 던지며 답을 찾는 가계도 구조
랜덤 포레스트	여러 결정 트리의 투표(앙상블) 로 예측
서포트 벡터 머신(SVM)	두 그룹을 가르는 최적 경계선, 간격(마진)을 최대로
KNN(K-최근접 이웃)	주변 이웃 데이터를 보고 그룹 판단
나이브 베이즈	데이터가 서로 독립이라 가정, 계산이 빠름

강화 학습 — 보상을 향해 나아가기

강화 학습은 "잘하면 보상, 못하면 벌점"을 주며 학습합니다.

• Q 학습: 특정 상황에서 어떤 행동이 가장 좋은지 학습
• 정책 경사법: 행동할 규칙(정책) 을 결정하며, 행동의 확률을 활용

---

3. 뇌를 닮은 신경망, 그리고 딥러닝

인공신경망(ANN) 은 인간 두뇌의 신경세포를 모방한 컴퓨터 모델입니다. 뇌가 학습하듯 데이터를 배우고 판단하죠. 신경망은 이렇게 작동합니다.

• 순전파(Forward Propagation): 입력 → 출력으로 신호가 흐르는 기본 작동 원리
• 역전파(Backpropagation): 오류를 발견하면 거꾸로 거슬러 올라가 학습 방향을 수정
• 손실 함수(Loss Function): 예측이 얼마나 틀렸는지 측정

딥러닝은 여러 개의 은닉층(hidden layer) 을 쌓은 신경망으로 패턴을 학습하는 방식입니다. 이때 쓰이는 깊은 신경망 구조를 DNN(심층 신경망) 이라 부릅니다.

용도에 따라 특화된 신경망도 있습니다.

신경망	특화 분야	응용 사례
CNN (합성곱 신경망)	이미지 처리	CCTV 영상 속 침입자 감지
RNN (순환 신경망)	순차 데이터(문장·음성)	다음 단어를 예측하는 스마트 키보드

---

4. 현대 AI를 만든 세 가지 기둥

오늘날 우리가 쓰는 생성형 AI와 챗봇의 뿌리에는 세 가지 핵심 기술이 있습니다.

🎭 GAN — 경쟁하며 진짜 같은 가짜를 만든다

GAN(적대적 생성 신경망) 은 생성자와 판별자가 서로 경쟁하며 학습합니다. 생성자는 진짜 같은 가짜 데이터를 만들고, 판별자는 진짜와 가짜를 구별하려 하죠. 이 경쟁 속에서 점점 정교한 결과물이 나옵니다. 이안 굿펠로우의 논문에서 시작됐으며, 이미지·영상 제작에 활발히 쓰입니다.

발전 모델: WGAN, CGAN, 스타일GAN(StyleGAN)

♟️ MCTS — 시뮬레이션으로 최선의 수를 찾는다

MCTS(몬테카를로 트리 탐색) 는 가능한 수를 시뮬레이션으로 여러 번 돌려보고, 승률이 높은 선택을 찾아냅니다. 그 유명한 알파고의 바둑 두뇌가 바로 이 기술이에요.

발전 기법: 롤아웃 정책 학습, 트리 재사용, 병렬 MCTS

🤖 트랜스포머 — 모든 단어를 동시에 본다

트랜스포머(Transformer) 는 2017년 구글이 발표한 자연어 처리 모델로, 오늘날 ChatGPT 같은 거대 언어 모델의 기반입니다. RNN의 한계를 극복한 점이 핵심인데요.

구분	RNN	트랜스포머
처리 방식	단어를 하나씩 순차 처리	모든 단어를 동시에 병렬 처리
강점	—	셀프 어텐션으로 문장 전체 관계 파악, 단어 위치 기억

병렬 처리가 가능해 속도가 빠르고, 문맥 이해 능력이 뛰어나다는 게 가장 큰 장점입니다.

발전 기법: Mixture of Experts(MoE), FlashAttention, PFT — 성능을 높이면서 자원은 줄이는 방향으로 진화 중

---

마치며

지금까지 살펴본 흐름을 정리하면 이렇습니다.

규칙 기반 시스템 → 전문가 시스템 → 머신러닝 → 딥러닝(신경망) → GAN·MCTS·트랜스포머

사람이 규칙을 짜던 시대에서, 기계가 데이터로 스스로 배우는 시대를 지나, 이제는 인간처럼 창작하고 대화하는 AI의 시대로 왔습니다. 각 기술이 이전 기술의 한계를 어떻게 넘어섰는지 흐름으로 이해하면 훨씬 오래 기억에 남습니다.

---

📇 핵심만 빠르게 — 한 줄 암기 카드

• 최초의 전문가 시스템 → 덴드랄(화학)
• 의료 진단 + 600개 규칙 → 마이신
• S자 곡선 확률 분류 → 로지스틱 회귀
• 최적 경계선 + 마진 최대화 → SVM
• K + 유클리드 거리 군집화 → K-평균
• 결정 트리 투표 앙상블 → 랜덤 포레스트
• 이미지 처리 → CNN / 순차 데이터 → RNN
• 생성자 vs 판별자 → GAN / 알파고 → MCTS
• 셀프 어텐션 · 병렬 처리 · 2017 구글 → 트랜스포머

---

이 글이 도움이 되셨다면 공감과 댓글 부탁드립니다. AI 개념 정리, 다음 편에서 이어집니다! 🙌

#인공지능 #머신러닝 #딥러닝 #AI기초 #트랜스포머 #신경망 #자격증공부