한 줄 요약: AI의 실력은 읽은 데이터에서 나온다 — 그리고 편식의 흔적도 그대로 남는다.
시즌 1 내내 우리는 AI가 ‘다음 토큰 맞히기’를 수조 번 연습한 기계라는 걸 배웠습니다. 그럼 마지막 질문이 남습니다. 대체 뭘 가지고 연습했을까요? AI의 식단표, 오늘 공개합니다.
인터넷을 통째로 읽은 독서왕
LLM의 주식(主食)은 인터넷의 글입니다. 위키백과, 뉴스 기사, 책, 논문, 블로그, 커뮤니티 게시판, 프로그래밍 Q&A 사이트까지. 여기에 출판사와 계약한 도서 데이터, 별도로 사람이 만든 고품질 교재 데이터가 반찬으로 더해집니다.
양이 어느 정도냐면, 최신 대형 모델의 학습 데이터는 수십조 토큰 규모입니다. 사람이 하루 8시간씩 평생 읽어도 몇만 년치 분량이에요. 여러분이 AI에게 감탄하는 그 ‘박식함’의 정체는, 이 압도적인 독서량입니다.
그런데, 편식을 합니다
여기서 중요한 반전. 인터넷의 글은 세상을 공평하게 담고 있지 않습니다.
- 언어 편식: 인터넷 텍스트의 절반 가까이가 영어입니다. 한국어는 극히 일부예요. AI가 영어 질문에 더 똑똑한 이유, 한국 맛집보다 미국 맛집을 잘 아는 이유입니다.
- 시점 편식: 학습에는 마감일이 있습니다. 이를 ‘지식 컷오프’라고 해요. 그 이후의 세상은 검색 기능 없이는 모릅니다.
- 관점 편식: 인터넷에 글을 많이 쓰는 집단의 시각이 과대 대표됩니다. 글로 기록되지 않은 지식 — 어르신들의 경험, 소수 언어 문화 — 는 AI 안에 거의 없습니다.
이런 치우침을 편향(bias) 이라고 부릅니다. AI가 나쁜 의도를 가져서가 아니라, 먹은 대로 자랐기 때문입니다.
그래서 요즘 벌어지는 일들
학습 데이터는 지금 AI 업계에서 가장 뜨거운 전쟁터입니다.
- 저작권 분쟁: “내 기사·소설·그림을 허락 없이 학습에 썼다”며 언론사와 작가들이 AI 회사를 상대로 소송 중입니다. 뉴스에서 보신 그 소송들이 바로 이 문제예요.
- 데이터 고갈론: 인터넷의 양질 텍스트는 이미 거의 다 썼다는 분석이 나옵니다. 그래서 AI가 만든 글로 AI를 가르치는 ‘합성 데이터’가 새 트렌드가 됐습니다.
- 품질 경쟁: “많이”에서 “잘 고른” 데이터로 무게중심이 이동 중입니다. 좋은 교과서 한 권이 잡지 백 권보다 낫다는 게 증명되고 있거든요.
오늘의 실용 팁
AI 답변을 볼 때 이 두 가지를 기억하세요.
- 한국 관련 최신·세부 정보는 더블체크: 한국어 데이터가 적고 지식 컷오프도 있으니, 한국의 제도·가격·일정 같은 건 공식 사이트에서 확인하는 습관을.
- “어느 나라 기준이야?”라고 물어보기: 법률·의료·세금 답변은 미국 기준일 때가 많습니다. “한국 기준으로 다시 알려줘”라고 하면 답이 달라집니다.
오늘의 한 줄: AI는 먹은 대로 자란다 — 박식함도, 편식도 데이터에서 왔다.
시즌 1 완결 · 시즌 2 예고: 이제 AI가 ‘무엇’인지 알았으니, 다음은 ‘어떻게 잘 부려먹을지’입니다. 질문 한 줄로 답변 품질을 바꾸는 프롬프트의 기술 — 시즌 2 「AI 잘 쓰는 법」에서 만나요.
