한 줄 요약: RAG는 AI에게 자료를 펼쳐놓고 답하게 하는 방식이다 — 암기 시험을 오픈북으로 바꾼다.
시즌 1에서 AI가 ‘그럴듯한 소설’을 쓰는 환각 문제를 다뤘습니다. 원인은 간단했죠. AI는 학습할 때 외운 것만 가지고 답하니까요. 그럼 이렇게 하면 어떨까요? “외우지 말고, 자료 보고 답해.”
이게 바로 RAG입니다. 요즘 회사 챗봇, 서비스 안내 봇 대부분이 이 방식으로 만들어집니다.
암기 시험 vs 오픈북 시험
암기 시험(기본 AI): 학생이 배운 내용만으로 답합니다. 기억이 흐릿한 부분은 그럴듯하게 지어내죠. 게다가 작년에 배운 교재라 최신 내용은 모릅니다.
오픈북 시험(RAG): 책상 위에 자료를 펼쳐놓고 답합니다. 자료에서 찾아 인용하니 정확하고, 자료만 바꾸면 최신 내용도 반영되죠.
RAG는 Retrieval(검색) + Augmented(보강) + Generation(생성)의 약자입니다. 풀어 쓰면 “찾아서, 보태서, 답하기” 예요.
3단계로 작동합니다
여러분이 회사 챗봇에게 “연차 이월 규정 알려줘”라고 물었다고 해봅시다.
1단계 — 찾기: AI가 답을 만들기 전에, 사내 문서 창고에서 ‘연차 이월’과 관련된 문단을 먼저 검색합니다.
2단계 — 보태기: 찾아낸 문단을 질문 앞에 슬쩍 붙입니다. AI 입장에서는 이런 글이 들어온 셈이죠.
[취업규칙 제32조: 미사용 연차는 익년 3월까지 이월하며…]
위 자료를 참고해서 답해줘. 질문: 연차 이월 규정 알려줘
3단계 — 답하기: 이제 AI는 눈앞의 자료를 보고 답합니다. 시즌 1에서 배운 대로 AI는 ‘앞에 놓인 글’을 보고 다음 토큰을 고르니까요. 자료가 앞에 있으면 자료를 따라갑니다.
이게 왜 중요한가
RAG는 AI의 세 가지 약점을 한 번에 건드립니다.
| 약점 | RAG가 해결하는 방식 |
| 환각 (지어내기) | 자료에 있는 내용만 말하게 함 |
| 지식 컷오프 (최신 정보 모름) | 자료만 새것으로 갈아끼우면 됨 |
| 우리 회사 사정 모름 | 사내 문서를 자료로 넣어줌 |
그리고 결정적으로, 모델을 다시 학습시킬 필요가 없습니다. 거대한 AI를 재훈련하는 건 수십억 원짜리 일이지만, 자료 창고에 PDF 한 장 추가하는 건 1분이면 끝나죠. 대부분의 회사가 RAG를 택하는 이유입니다.
여러분도 이미 RAG를 쓰고 있습니다
거창해 보이지만, 사실 여러분이 매일 하는 그 행동이 RAG의 축소판입니다.
- 챗봇에 PDF를 첨부하고 질문하기
- 웹 검색 기능을 켜고 최신 정보를 묻기
- 긴 문서를 붙여넣고 “이 내용 기준으로 답해줘” 라고 하기
전부 “찾아서, 보태서, 답하기”예요. 규모만 다를 뿐 원리가 같습니다.
오늘의 실용 팁
RAG도 완벽하지 않습니다. 1단계 ‘찾기’가 엉뚱한 문단을 가져오면 답도 엉뚱해집니다. 그래서 이렇게 확인하세요.
“방금 답변이 자료의 어느 부분에 근거한 건지 그대로 인용해줘.”
인용을 요구하면 자료에 없는 내용을 지어냈는지 바로 드러납니다. 회사 챗봇이든 개인 문서 질문이든 똑같이 통하는 검증법이에요.
오늘의 한 줄: RAG는 암기 시험을 오픈북 시험으로 바꾸는 기술이다.
다음 편 예고: 글만 읽던 AI가 사진을 보고, 목소리를 듣기 시작했습니다. 멀티모달의 원리. EP.04에서 계속.
