한 줄 요약: 챗GPT의 정체는 ‘다음 단어 맞히기’ 게임의 세계 챔피언이다.
퀴즈 하나 내겠습니다. 다음 빈칸에 들어갈 말은?
“나는 오늘 아침에 ___”
‘밥을 먹었다’, ‘커피를 마셨다’, ‘늦잠을 잤다’… 여러 후보가 떠오르지만, ‘냉장고를 던졌다’는 안 떠오르셨을 겁니다. 축하합니다. 방금 여러분은 챗GPT가 하는 일을 그대로 해보셨습니다.
챗봇의 정체: 확률 계산기
LLM(대규모 언어 모델)이 하는 일은 놀랍게도 단 하나입니다. “지금까지의 글 다음에 올 단어로 가장 그럴듯한 것은 무엇인가?” 를 계산하는 것.
“나는 오늘 아침에” 다음에는 ‘밥을’이 나올 확률 23%, ‘커피를’이 나올 확률 18%, ‘일찍’이 나올 확률 11%… 이런 식으로 수만 개 단어 각각의 확률을 계산하고, 높은 확률의 단어를 고릅니다. 그리고 고른 단어를 문장에 붙인 뒤, 또다시 다음 단어를 예측합니다. 이걸 문장이 끝날 때까지 반복하는 거예요.
여러분이 챗GPT의 답변을 기다릴 때 글자가 한 글자씩 주르륵 나타나는 것, 보신 적 있죠? 멋으로 그러는 게 아니라 실제로 단어를 하나씩 예측하면서 생성하고 있기 때문입니다.
“그게 어떻게 대화가 돼?”
여기서 당연한 의문이 듭니다. 단어 맞히기만 하는데 어떻게 질문에 답하고, 코드를 짜고, 시를 쓸까요?
비밀은 연습량입니다. 이 게임을 인터넷에 있는 거의 모든 글 — 책, 뉴스, 백과사전, 논문, 게시판 글 — 로 수조 번 연습하면, 다음 단어를 잘 맞히기 위해 어쩔 수 없이 많은 걸 배우게 됩니다.
- “세종대왕이 만든 것은 ___”을 맞히려면 → 역사 지식이 필요하고
- “for문 다음 줄에 올 코드는 ___”을 맞히려면 → 프로그래밍 규칙을 알아야 하고
- “그녀는 슬픈 표정으로 ___”를 맞히려면 → 감정과 문맥을 읽어야 합니다
즉, ‘다음 단어 맞히기’라는 단순한 목표를 극한까지 밀어붙였더니, 지식과 추론 비슷한 능력이 부산물로 생겨난 거예요. 이게 현재 AI 붐의 핵심 비밀입니다.
이걸 알면 달라지는 것
챗봇이 ‘생각해서 답하는 존재’가 아니라 ‘그럴듯한 다음 단어를 고르는 확률 기계’라는 걸 알면, 두 가지가 이해됩니다.
- 왜 가끔 자신만만하게 틀린 말을 할까? → 사실 여부가 아니라 ‘그럴듯함’을 계산하기 때문입니다. (이게 다음 편 주제인 ‘환각’입니다)
- 왜 질문을 잘 쓰면 답이 좋아질까? → 앞에 오는 글(질문)이 달라지면 다음 단어의 확률 분포 전체가 달라지기 때문입니다.
오늘의 실용 팁
챗봇에게 질문할 때 맥락을 앞에 깔아주세요. “초등학생에게 설명하는 선생님처럼” 이라고 앞에 붙이면, 그 뒤에 올 ‘그럴듯한 단어들’이 전부 쉬운 단어 쪽으로 바뀝니다. 프롬프트의 원리가 바로 이겁니다.
오늘의 한 줄: AI는 생각하는 게 아니라, 가장 그럴듯한 다음 단어를 고른다.
다음 편 예고: 그런데 AI는 글을 ‘단어’로 읽지 않습니다. 그럼 뭘로 읽을까요? AI 요금의 단위이기도 한 ‘토큰’의 정체, EP.03에서 계속.