쉽게 이해하기

기존 RAG는 한 번 검색해 문서를 붙이고 그 안에서 답을 만듭니다. 첫 검색이 핵심 근거를 놓치면 재검색·전환이 어려워 약한 근거와 환각으로 이어지곤 합니다. 에이전틱 RAG는 여기에 ‘스스로 일하는 조정자(플래너)’를 둡니다. 탐정 사서가 단서를 보고 검색어를 바꾸고 다른 카탈로그를 시도한 뒤 필요한 메모만 모으듯, 에이전트가 검색→읽기→갭 점검→재검색→검증을 반복하다 충분하면 멈추고 응답을 만듭니다. 플래너는 언제 검색할지, 어떤 인터페이스(키워드, 의미, 청크 열람)를 쓸지, 무엇을 보관/폐기할지 결정합니다.

비유와 예시

• 제품 비교 보고 자동 작성: “2023년 Q3 vs 2024년 Q1 실적 비교” 요청 시, 에이전트가 지표 정의를 확인하고 분기별 자료를 찾아 동일 기준으로 정리한 뒤 표와 함께 출처를 남깁니다.

• 개발 변경 이력 추적: “에러 X는 언제 수정됐나요?”에 대해, 키워드로 커밋을 좁히고 의미 검색으로 PR을 찾은 뒤 청크 열람으로 수정 라인을 확인해 링크와 함께 답합니다.

• 정책 문서 예외 조건 찾기: 상위 섹션을 훑고 하위 청크로 내려가며 예외 조항의 조건·범위를 단계적으로 수집합니다.

한눈에 비교

	전통 RAG	Active RAG	Agentic RAG
흐름	한 번 검색 후 생성	생성 중 필요시 검색 트리거	계획·도구 사용을 다단계로 교차
의사결정	고정 파이프라인	단일 패스 내 동적 트리거	플래너 정책 기반 다중 스텝
도구 사용	단일/정해진 검색	단일 검색기	키워드·의미·청크 선택·전환
컨텍스트 구성	고정 개수	국소 보완	선별·폐기·재구성
종료 판단	없음	단일 패스 종료	충분 근거 시 자율 종료

Agentic RAG는 ‘언제·무엇을·얼마나’ 검색할지까지 정책으로 통제해 복잡 질의에서 비용 대비 정확도를 높입니다.

어디서 왜 중요한가

• 복잡한 질문 대응: 첫 검색이 빗나가도 검색어를 바꾸거나 다른 검색 방식을 써서 부족한 근거를 보완할 수 있습니다.

• 토큰 비용 관리: 모든 문서를 한꺼번에 넣지 않고, 읽을 가치가 있는 청크만 골라 컨텍스트를 작게 유지합니다.

• 사내 문서·코드·정책 검색: 섹션, 문단, 원문 링크처럼 계층이 있는 자료에서 단계적으로 내려가며 근거를 확인하기 좋습니다.

• 운영 관측성: 어떤 검색을 왜 했고 어디서 멈췄는지 궤적을 남길 수 있어, 실패 원인을 검색 품질·도구 선택·검증 기준으로 나눠 분석할 수 있습니다.

자주 하는 오해

• ❌ “에이전틱이면 검색을 많이 한다” → ✅ 정책에 따라 필요할 때만 검색하고 충분하면 즉시 종료합니다.

• ❌ “Active RAG와 같다” → ✅ Active RAG는 단일 패스 트리거, 에이전틱 RAG는 플래너가 다단계 도구 사용·종료까지 통제합니다.

• ❌ “많이 붙일수록 좋다” → ✅ 과도한 컨텍스트는 잡음을 늘립니다. 에이전틱 RAG는 선별·폐기로 정밀도를 높입니다.

대화에서는 이렇게

• "이번 FAQ 봇은 Agentic RAG로 갑시다. 키워드/의미 검색과 청크 열람을 도구로 노출해주세요."

• "재검색 최대 3스텝, 토큰 상한은 정책으로 강제해 비용 폭주를 막아야 합니다."

• "실패 원인은 답변 모델이 아니라 도구 선택이었습니다. 먼저 키워드로 좁힌 뒤 의미 검색을 탔어야 했어요."

• "정답은 맞지만 근거로 쓰지 않은 문장이 섞였습니다. 생성 전에 evidence coverage 검사를 추가하죠."

• "과정 검증 점수를 남겨서 검색어 재작성, 청크 열람, 조기 종료 중 어디서 실패하는지 보겠습니다.

함께 읽으면 좋은 용어

• (기초) RAG — 고정형 ‘검색 후 생성’ 기본 개념.

• (유사) Active RAG — 단일 패스 내 동적 검색 트리거.

• (유사) GraphRAG — 그래프·계층 구조를 활용한 전역 검색.

• (기초) Tool Use / 함수 호출 — 에이전트의 도구 실행 경로.

• (심화) RAG-Gym — 과정 보상과 검증으로 정책 최적화.