RAG(Retrieval-Augmented Generation)는 외부 지식을 검색(Retrieval)한 뒤,
이를 기반으로 답변을 생성(Generation) 하는 구조입니다.
특히 LangChain을 사용하면 이 과정을 모듈 형태로 쉽게 구성할 수 있어,
챗봇·문서 검색 시스템·사내 지식 시스템 등에 널리 활용됩니다.

RAG 시스템은 보통 다음 흐름으로 동작합니다.
문서 → 임베딩 → 벡터DB 저장 → 질문 입력 → 관련 문서 검색 → LLM 답변 생성
이 과정을 구성하는 핵심 요소들을 하나씩 살펴보겠습니다.
역할:
외부 데이터를 시스템으로 불러오는 단계입니다.
예시 데이터
핵심 포인트
한 줄 정리
데이터를 시스템으로 가져오는 역할
역할:
긴 문서를 작은 단위(Chunk)로 나누는 단계입니다.
왜 필요할까요?
예시
원본 문서
→ 10,000자
분할 후
→ 500자 × 여러 개
한 줄 정리
문서를 검색하기 좋은 크기로 나누는 역할
역할:
텍스트를 숫자 벡터(Vector)로 변환합니다.
이 과정이 중요한 이유:
컴퓨터는 의미를 이해하지 못하기 때문에
문장의 의미를 수치로 표현해야 합니다.
예시 모델
한 줄 정리
텍스트를 의미 기반 숫자로 변환하는 역할
역할:
임베딩된 데이터를 저장하고 검색하는 데이터베이스입니다.
일반 DB와 다른 점:
대표적인 벡터 DB
한 줄 정리
비슷한 문서를 찾기 위해 벡터를 저장하는 곳
역할:
사용자의 질문과 가장 관련 있는 문서를 찾아오는 단계입니다.
동작 방식:
핵심 포인트
한 줄 정리
질문과 가장 관련 있는 문서를 찾는 역할
역할:
검색된 문서를 기반으로 최종 답변을 생성합니다.
여기서 중요한 점:
LLM은 외부 지식을 직접 학습하지 않아도,
검색된 정보를 활용해 정확한 답변을 생성할 수 있습니다.
예시 모델
한 줄 정리
검색된 정보를 바탕으로 답변을 만드는 역할
RAG 시스템의 주요 구성 요소는 다음 6가지입니다.
| RAG 시스템 'Agent' 개념 및 구현 방법 (3) | 2026.05.02 |
|---|---|
| RAG 시스템 성능 독립 평가 vs 종단간 평가 (0) | 2026.05.02 |
| PEFT가 필요한 이유 (0) | 2026.04.25 |
| 모델 크기를 키우는 것만으로는 성능이 일정 시점 이후 둔화되는 이유 (0) | 2026.04.25 |
| LLM이 생성한 텍스트에서 할루시네이션(Hallucination)의 문제점 (0) | 2026.04.25 |