1장은 에이전트를 만들기 전에 깔아 두는 바닥입니다. LLM이 어떻게 동작하는지 알아야 모델을 효과적으로 쓸 수 있고, 애플리케이션을 만들 때 생길 문제를 미리 예측할 수 있기 때문입니다. 흐름은 언어 모델 → 트랜스포머 → GPT 계열의 발전 → LLM의 세 단계(사전 학습·미세 조정·추론) → LLM의 특징과 활용 → RAG → LangChain 순서입니다.
언어 모델이란
언어 모델(language model) 은 텍스트 데이터를 학습해 단어의 패턴과 문법을 이해하고, 문맥에 따라 다음 단어를 예측하는 알고리즘입니다. ‘오늘 날씨가’를 입력하면 ‘맑다’, ‘비가 온다’ 같은 다음 말을 예측합니다.
통계적 언어 모델
초기 모델인 n-그램(n-gram) 이나 확률적 언어 모델은 단어 시퀀스의 확률을 계산해 가장 가능성 높은 다음 단어를 고릅니다. 책의 예시가 직관적입니다.
오늘 날씨가 좋다
오늘 날씨가 춥다
오늘 날씨가 덥다
오늘 기분이 좋다
| 계산 | 조건 | 결과 |
|---|---|---|
| 조건부 확률 | ‘오늘’ 다음 단어 | 날씨가 75%(4문장 중 3번), 기분이 25% |
| 연쇄 확률 | ‘오늘 날씨가’ 다음 단어 | 좋다·춥다·덥다 각 33.3% |
‘오늘’ 다음에는 ‘날씨가’를 고르고, 그 다음에는 셋 중 하나를 같은 확률로 고르게 됩니다. 문제는 문장이 길어지고 문맥이 복잡해지면 처음 고른 단어와 나중 단어가 서로 관계없어진다는 점입니다.
심층 신경망 언어 모델
이 한계를 풀려고 등장한 것이 심층 신경망 기반 언어 모델입니다. 통계적 모델이 출현 빈도로 다음 단어를 고른다면, 신경망 모델은 전후 문맥을 종합적으로 분석해 예측합니다. 여러 층의 신경망으로 복잡한 패턴을 학습하기 때문에 자연어를 더 잘 이해합니다.
LLM의 동작 원리와 트랜스포머
LLM(large language model) 은 수십억에서 수천억 개의 파라미터를 가진 심층 신경망 모델입니다. 기존 언어 모델보다 훨씬 많은 텍스트를 학습해 더 복잡한 언어 패턴을 모델링하며, 대부분 트랜스포머 아키텍처 위에서 어텐션 메커니즘으로 긴 글 속의 중요한 정보를 파악합니다.
트랜스포머가 해결한 두 가지 문제
트랜스포머는 2017년 구글의 논문 Attention Is All You Need에서 제안되었습니다. 그전 NLP 모델은 RNN이나 CNN 기반의 인코더-디코더 구조였고, 병렬화가 어렵고 학습 시간이 오래 걸렸습니다.
| 문제 | RNN | 트랜스포머 |
|---|---|---|
| 처리 속도 | 모든 단어를 순서대로 처리하므로 시간이 단어 수에 비례한다 | 모든 단어를 병렬로 처리해 훈련 속도와 확장성이 크게 개선된다 |
| 긴 문장 | 앞 단어 정보가 뒤로 전달되며 희석되는 기울기 소멸 문제로 장거리 의존성을 잡지 못한다 | 셀프 어텐션이 문장 길이와 상관없이 모든 토큰 간 관계를 직접 모델링한다 |
기울기 소멸: 역전파 때 출력층의 오차를 입력층 쪽으로 미분값(기울기)을 곱해 가며 전달하는데, 앞단으로 갈수록 미분값이 0에 가까워져 가중치가 사실상 갱신되지 않는 현상입니다.
인코더와 디코더
- 인코더(encoder): 입력 텍스트를 이해해 벡터로 바꿉니다. 셀프 어텐션으로 모든 단어가 서로를 참고해 문맥을 파악하고, 여러 층을 거치며 점점 추상적인 특징을 얻습니다. 사람의 언어를 컴퓨터가 이해하게 하는 쪽입니다.
- 디코더(decoder): 인코더가 만든 벡터로 출력 텍스트를 생성합니다. 컴퓨터의 언어를 사람이 이해하게 하는 쪽입니다.
트랜스포머의 두 반쪽을 각각 가져간 대표 모델이 BERT와 GPT입니다.
| BERT | GPT | |
|---|---|---|
| 사용 부분 | 인코더만 | 디코더만 |
| 문맥 방향 | 양방향 — 모든 단어가 양쪽 맥락을 동시에 참고 | 단방향(왼쪽→오른쪽) — 이전 단어로 다음 단어 예측 |
| 사전 학습 | MLM(가린 단어 맞히기), NSP(두 문장이 이어지는지 맞히기) | 다음 단어 예측 |
| 강점 | 감정 분류처럼 문장 의미를 파악하는 작업 | 자연스럽고 일관된 텍스트 생성 |
GPT의 단방향 방식은 사람이 글을 쓰는 방식과 닮았기 때문에 생성에 더 적합합니다.
GPT 계열의 발전
GPT는 이름 그대로 생성형 사전학습 트랜스포머(generative pre-trained transformer) 입니다.
| 모델 | 시기 | 핵심 |
|---|---|---|
| GPT-1 | 2018 | 디코더만 쓴 첫 모델, 파라미터 1억 1천만. 라벨 없는 대규모 텍스트로 자기 지도 사전학습 후 소량의 라벨 데이터로 지도 미세조정 |
| GPT-2 | 2019 | 파라미터 15억. 별도 학습 없이 작업을 수행하는 제로샷 학습 을 보여줌 |
| GPT-3 | 2020 | 파라미터 1,750억. 퓨샷 학습, 작업 범용성, 넓은 문맥 이해로 LLM이 처음 ‘범용 AI’처럼 인식됨. 동시에 환각과 편향 문제도 부각. API 공개로 스타트업 생태계가 급성장 |
| GPT-4 | 2023 | 멀티모달(이미지 입력), 향상된 추론, 환각 감소, 최대 32K 토큰 문맥. 교육·법률·연구 등 전문 영역으로 확장 |
| GPT-4o | 2024.5 | ‘o’는 omni. 텍스트·이미지·오디오·비디오를 단일 모델에서 동시에 처리. GPT-4 Turbo 대비 2배 빠르고 절반 가격. 이 시점부터 AI 에이전트 개발이 본격화 |
| GPT-5 | 2025.8 | 자동 모델 라우팅(standard·mini·nano 중 선택, 추론 복잡도 minimal~high 4단계), 입력 27만 2천·출력 12만 8천 토큰, 병렬 도구 호출, 맞춤형 페르소나 |
책에 달린 각주 두 개가 기억할 만합니다. 사전학습은 사람이 다양한 책을 읽으며 전반적인 지식을 쌓는 단계, 미세조정은 전공 서적을 읽고 기출 문제를 집중적으로 푸는 단계에 비유됩니다. 그리고 모델이 커질수록 학습에 드는 컴퓨팅 자원과 비용이 기하급수적으로 늘어나 환경적·경제적 지속 가능성에 대한 우려도 함께 커지고 있습니다.
경쟁 LLM과 멀티모달 모델
GPT가 시장을 이끌어 왔지만 각 기업이 서로 다른 철학으로 모델을 내놓으며 경쟁이 치열해졌습니다.
- 앤트로픽 Claude 4 시리즈: 안전성과 신뢰성을 강조합니다. 2025년 5월 Claude 4를 발표한 뒤 9월 Sonnet 4.5, 10월 Haiku 4.5, 11월 Opus 4.5를 연달아 출시했습니다. Opus 4.5는 SWE-bench Verified 80.9%로 GPT-5.1-Codex-Max(77.9%), Sonnet 4.5(77.2%), Gemini 3 Pro(76.2%)를 앞섰습니다. 즉각 응답과 심층 추론을 병행하는 하이브리드 사고 구조, 프롬프트로 조절하는 thinking budget이 특징입니다.
- 구글 Gemini 3 시리즈: ‘사고하는 AI(Thinking AI)’를 전면에 내세웠습니다. Gemini 3 Pro는 추론·코딩·멀티모달 최상위, 2.5 Flash와 Flash-Lite는 속도와 비용 효율을 담당합니다. Deep Think 모드와 최대 100만 토큰 컨텍스트를 지원합니다.
- 이미지·영상 생성 모델: 구글이 2025년 I/O에서 공개한 Imagen 4(고해상도 이미지, 비율·스타일 제어)와 Veo 3.1(텍스트만으로 동영상+오디오 생성), 이를 엮는 Flow 앱이 광고·콘텐츠·게임 제작에서 주목받고 있습니다.
LLM의 세 단계: 사전 학습 · 미세 조정 · 추론
1. 사전 학습
사전 학습(pre-training) 은 책·뉴스·웹페이지 등 방대한 텍스트로 언어의 규칙과 패턴을 배우는 첫 단계입니다. 사람이 라벨을 달지 않고 모델이 데이터 자체로 배우는 자기 지도 학습(SSL) 으로 진행되며, 문장의 일부를 가리고 맞히는 식으로 학습합니다.
이 과정에서 모델은 어휘와 문법뿐 아니라 단어의 통계적 분포와 의미적 유사성을 익힙니다. ‘고양이’가 자주 나오는 문맥은 ‘강아지’가 나오는 문맥과 비슷하다는 사실을 통계적으로 파악하는 식입니다.
다만 사전 학습만 거친 모델은 특정 작업이나 맥락에 맞게 조정되지 않은 상태라, 질문 답변이나 요약을 할 수는 있어도 성능이 제한적입니다. 사전 학습은 이후 단계를 위한 토대입니다.
2. 미세 조정
미세 조정(fine-tuning) 은 사전 학습된 모델을 특정 작업이나 도메인에 맞게 다듬는 단계입니다. 주로 지도 학습(SL) 으로 진행되며, 데이터는 사전 학습보다 훨씬 제한적이고 목표 지향적인 입력-목표 텍스트 쌍(예: 사용자 질문-적절한 답변)입니다.
최근에는 두 가지 흐름이 두드러집니다.
- RLHF(인간 피드백 기반 강화 학습): 사람의 긍정·부정 피드백을 보상 신호로 삼아 더 바람직한 응답을 하도록 조정합니다. ChatGPT 같은 최신 모델의 핵심 기법입니다.
- PEFT(파라미터 효율적 미세 조정): 전체가 아닌 일부 파라미터만 조정합니다. 대표적인 LoRA는 적은 계산 비용으로 제한된 리소스에서도 강력한 성능을 냅니다.
미세 조정의 진행 단계는 다음과 같습니다.
| 단계 | 내용 |
|---|---|
| 도메인 적응 | 금융·의료·법률 등 적용 분야의 전문 용어·문체·규칙이 담긴 데이터셋 준비 |
| 과제 지향 학습 | 질문 답변, 요약, 감정 분석, 번역 등 특정 작업의 데이터로 훈련 |
| 하이퍼파라미터 최적화 | 학습률, 배치 크기 조정. 잘못 고르면 과적합되거나 학습이 지나치게 느려진다 |
| 평가 및 검증 | 훈련 외 검증 데이터셋으로 정확도·F1·BLEU 등을 측정하며 과적합·과소적합 방지 |
| 피드백 반영 | 실제 사용자 피드백으로 반복 조정. RL 기반 조정을 쓰기도 한다 |
장점은 답변 정확성, 문체 일관성, 도메인 어휘가 크게 향상된다는 것입니다. 그러나 과도한 미세 조정은 특정 데이터셋에 과적합되어 일반화 성능이 떨어지고, 새로운 데이터나 도메인 변화에 적응하지 못하는 한계가 있습니다.
3. 추론
추론(inference) 은 학습을 마친 LLM이 실시간으로 사용자 입력에 응답을 생성하는 단계입니다.
- 입력 데이터 처리: 입력 텍스트를 토큰화해 숫자 토큰 시퀀스로 바꾸고, 단어의 위치와 의미적 연결성과 함께 모델의 입력층에 주입합니다.
- 언어 모델의 예측: 다음에 올 단어의 확률을 계산하고, 이전에 생성한 단어로 다음 단어를 예측하는 자기회귀(autoregressive) 방식으로 문장을 완성합니다.
- 출력 제어와 파라미터 설정: 아래 세 파라미터로 응답을 조절합니다.
- 응답 생성과 후처리: 예측한 토큰을 역토큰화해 사람이 읽을 수 있는 텍스트로 바꾸고, 필요하면 반복 문장이나 패턴 오류를 필터링합니다.
세 가지 출력 파라미터는 실무에서 가장 자주 만지는 값입니다.
| 파라미터 | 동작 | 높이면 | 낮추면 |
|---|---|---|---|
| 온도(temperature) | 응답의 창의성 조절 | 다양한 단어를 시도해 창의적 | 보수적이고 일관된 답변 |
| top-k | 확률 상위 k개 후보 중에서 선택 | 다양해지지만 너무 높으면 맥락 관련성 저하 | 안정적이지만 단조로움 |
| top-p | 확률 높은 단어부터 누적 확률이 p가 될 때까지 후보로 삼음 | 더 많은 후보 고려 | 더 적은 후보 고려 |
top-p와 top-k의 차이가 핵심입니다. top-k는 후보 개수가 고정이지만, top-p는 확률 분포에 따라 후보군 크기가 유동적입니다. 특정 단어의 확률이 압도적이면 소수 후보만 남겨 불필요한 선택지를 배제하고, 확률이 고르게 퍼져 있으면 top-k보다 많은 후보를 고려해 자연스러움과 다양성 사이의 균형을 맞춥니다.
LLM의 주요 특징
| 특징 | 내용 |
|---|---|
| 거대한 파라미터 수 | 수십억~수천억 파라미터로 더 복잡한 문맥을 이해하고 다채로운 텍스트를 생성 |
| 트랜스포머 아키텍처 | 어텐션으로 모든 단어 간 상호작용을 계산해 RNN·LSTM보다 자연스럽고 일관된 생성 |
| 사전 학습과 미세 조정 | 일반 데이터로 사전 학습 후 작업별 미세 조정 → 맞춤형 활용과 데이터 효율성 |
| 문맥의 깊이 있는 이해 | 이전 문장과의 일관성 유지, 여러 단계의 논리적 추론에 강함 |
| 범용성 | 번역·대화·요약·코드 생성 등 다양한 작업에 적용. 특화 모델 개발에서 범용 모델 개발이 글로벌 트렌드로 전환 |
LLM의 실제 활용 사례
- 고객 서비스: 자주 묻는 질문에 답하는 챗봇으로 24시간 지원, 대기 시간 단축과 상담 품질의 일관성 확보. 상담사는 복잡한 문제에 집중합니다. 국내에서는 채널톡의 AI 에이전트를 500곳 넘는 고객사가 도입했습니다.
- 의료: 환자 기록 분석, 의료 논문 검색으로 진단을 지원합니다. 미국 스타트업 HiLabs는 LLM으로 의료 데이터 오류를 교정하고, 의무 기록 AI ‘드래곤’을 운영하는 뉘앙스 커뮤니케이션즈는 마이크로소프트에 22조 원에 인수되었습니다.
- 교육: 맞춤형 튜터링으로 실시간 질의응답, 요약, 연습 문제 피드백을 제공합니다. 의료와 교육은 빌 게이츠가 꼽은 ‘AI가 가장 큰 변화를 일으킬 산업’입니다.
- 개발 생산성: 깃허브 코파일럿, 커서(Cursor) 같은 도구로 코드를 생성하고 보완합니다.
RAG란
검색 증강 생성(retrieval-augmented generation, RAG)은 LLM 등장 이전에 NLP에서 출발한 개념입니다.
RAG를 새로운 LLM 기술로 오해하기 쉽지만, 뿌리는 그 이전 NLP입니다. 책은 이름을 검색(retrieval) → 증강(augmented) → 생성(generation) 세 단어로 뜯어 설명합니다.
retrieval — 가져오기
retrieval은 데이터를 가져오는 것입니다. RAG 파이프라인에서는 벡터 저장소를 활용해 우리가 원하는 데이터를 잘 가져오는 것이라고 보면 됩니다.
왜 가져와야 할까요? 언어 모델은 답변을 생성하는 데는 능숙하지만 답변에 필요한 모든 정보를 가지고 있지는 않기 때문입니다.
- 사내 자료: 보안이 걸려 있어 LLM의 학습 데이터에 포함되지 않습니다. 그래서 사내 업무 절차 등으로 RAG를 구성해 정보를 직접 제공합니다.
- 최신 정보: GPT-5는 2024년 9월까지의 데이터만 학습했습니다. 그런데 ChatGPT에 2025년 5월에 끝난 ‘2024-25 AFC 챔피언스리그 엘리트 우승팀’을 물으면 웹 검색 후 그 결과로 답합니다. 웹 검색 결과를 retrieval해서 RAG를 구성한 것입니다.
augmented — 증강하기
augmented는 증강 현실(AR) 의 그 단어입니다. 실제 환경에 가상의 사물이나 정보를 합성해 원래 있던 것처럼 보이게 한다는 뜻입니다. 〈포켓몬 GO〉에서 잔디밭에 실제로는 없는 꼬부기가 있는 것처럼 보이는 것과 같습니다.
RAG도 마찬가지로, 가져온 데이터를 LLM에 전달하며 “네가 이 정보를 아는 것처럼 답변을 생성해 줘” 라고 하는 것이 핵심입니다. 모델이 원래 모르던 지식을 프롬프트 안에 합성해 넣는 셈입니다.
generation — 생성하기
LangChain 공식 문서가 설명하는 RAG 흐름은 이렇습니다.
사용자 질문 → 데이터 가져오기 → 데이터를 프롬프트에 주입 → LLM → 답변
생성에 관한 코드 구현은 3장에서 다룹니다.
RAG 파이프라인에서 개발자의 역할
이 장에서 가장 실무적인 대목입니다. RAG에서 답변 생성은 LLM의 역할이고, GPT 같은 생성형 AI는 이 일을 잘합니다. 따라서 개발자의 역할은 데이터를 잘 가져와서 LLM에 잘 전달하는 것, 즉 RAG에서 R과 A까지가 개발자의 몫입니다.
잘 가져오려면 잘 저장해야 한다
LangChain 문서는 저장 과정을 네 단계로 안내합니다.
불러오기 → 데이터 나누기 → 임베딩 → 저장하기
문제는 문서가 말하는 ‘적당한 크기’ 가 무엇인지, 우리 데이터에 ‘적합한 임베딩’ 이 무엇인지는 알려주지 않는다는 점입니다. 이는 직접 다양한 실험으로 검증해야 합니다. 저자는 데이터를 어떻게 저장하느냐가 이 책에서 가장 중요한 부분이라고 강조하며, 현업에서 얻은 요령을 안내하겠다고 합니다.
잘 전달하려면 프롬프트를 잘 써야 한다
LLM에 데이터를 잘 전달한다는 것은 프롬프트를 잘 작성한다는 뜻입니다. 프롬프트가 LLM과 소통하는 방법이기 때문입니다. 잘 가져온 데이터라도 ‘어떻게’ 프롬프트에 넣느냐를 잘못하면 LLM은 올바른 답변을 만들지 못합니다.
RAG 파이프라인에 LangChain을 쓰는 이점
LangChain은 LLM 애플리케이션 개발을 위한 체계적인 프레임워크로, 체인·에이전트·메모리 같은 핵심 컴포넌트를 모듈화해 제공합니다.
| 영역 | 이점 |
|---|---|
| 모듈화된 구조 | 모듈이 독립적으로 동작하면서 표준화된 인터페이스로 연결된다. 필요한 모듈만 골라 쓰고, 새 LLM이나 도구가 나오면 해당 모듈만 교체하면 된다. 모듈 단위 테스트로 품질 관리도 쉽다 |
| 문서 처리 | PDF·워드·CSV 등 형식별로 특화된 로더(loader) 가 있어 데이터 추출이 쉽다. 추출한 텍스트는 문맥을 고려해 청크로 나뉘고, 구조를 보존하는 파서, 임베딩 후 벡터 저장소 저장, 메타데이터 관리, 대용량 문서를 위한 스트리밍까지 지원한다 |
| 외부 도구 통합 | 웹 검색, API 호출, DB 쿼리를 표준화된 방식으로 연동해 LLM이 상황에 맞는 도구를 고르게 한다. 로깅·모니터링, 보안과 권한 관리, 캐싱, 오류 처리와 재시도까지 체계적으로 관리할 수 있다 |
외부 도구 통합은 LLM의 능력을 실제 세계와 연결하는 다리이며, 이 책의 주제인 에이전트로 이어지는 출발점입니다.
정리
- 언어 모델은 다음 단어를 예측한다. 통계적 모델은 빈도로, 신경망 모델은 문맥으로 예측한다.
- 트랜스포머는 병렬 처리와 셀프 어텐션으로 RNN의 속도 문제와 장거리 의존성 문제를 함께 풀었다. BERT는 인코더(이해), GPT는 디코더(생성)를 가져갔다.
- LLM은 사전 학습 → 미세 조정 → 추론 세 단계로 만들어지고 쓰인다. 추론 품질은 온도·top-k·top-p로 조절하며, top-p는 확률 분포에 따라 후보 수가 유동적이다.
- RAG는 LLM이 모르는 정보(사내 자료, 최신 정보)를 가져와(R) 프롬프트에 합성해(A) 아는 것처럼 생성(G) 하게 하는 방식이다.
- 생성은 LLM이 잘한다. 개발자의 일은 R과 A — 잘 저장하고, 잘 가져오고, 잘 전달하는 것이며, 그중에서도 저장 방식이 가장 중요하다.