RAG 검색 증강 생성

RAG는 질문과 관련된 외부 자료를 먼저 검색하고 그 내용을 생성 모델의 입력 맥락에 더해 답변을 만드는 방식입니다. 자료를 찾아 보여주는 검색과 답변을 작성하는 생성을 연결하며, 언어 모델을 새로 학습시키는 작업과는 다릅니다.

문서를 수집하고 검색 가능한 단위로 나눈 뒤 색인을 만들 수 있습니다. 질문이 들어오면 관련 단위를 검색하고 필요하면 순서를 다시 평가해 모델에 제공합니다. LLM은 대규모 언어 모델로, 입력 맥락을 바탕으로 문장을 생성합니다. 검색된 내용이 틀리거나 필요한 문서가 빠지면 생성 결과에도 문제가 생길 수 있습니다.

제품 설명서에서 특정 기능의 지원 조건을 묻는 경우 관련 판본과 모델의 문단을 찾아 답변 입력에 넣는 구성을 생각할 수 있습니다. 이는 실제 지유넷 고객 작업이나 홈페이지에 해당 AI 기능이 설치됐다는 주장이 아닙니다. 답변에는 적용 대상과 문서 판본이 맞는지 확인할 수 있는 근거가 필요합니다.

키워드 검색은 단어와 표현을, 벡터 검색은 임베딩으로 표현한 유사도를 활용합니다. 두 방식을 결합하는 하이브리드 검색과 후보의 관련성을 다시 평가하는 재순위화도 사용할 수 있습니다. RAG가 반드시 하나의 벡터 데이터베이스 제품을 요구하지는 않습니다. 미세조정은 모델의 가중치를 바꾸는 학습이고 RAG는 답변 시 외부 자료를 제공하는 방식이므로 함께 사용할 수도 있습니다.

RAG가 부정확한 답변을 완전히 없애거나 문서의 진실성을 보장하지는 않습니다. 오래된 자료, 잘못된 검색 결과와 문서 안의 악성 지시를 구분해야 합니다. 이용자에게 허용된 자료만 검색하고 모델에 전달해야 하며 출처 링크가 있다는 사실을 내용 확인의 대체로 삼지 않습니다. 일반 기법이므로 제품마다 공통으로 통용되는 RAG 버전 번호도 없습니다.

이 절의 용어: LLM / Large Language Model / 대규모 언어 모델

LLM은 많은 언어 데이터를 이용해 학습한 대규모 모델로, 입력 문맥에 이어질 표현을 계산해 문장을 생성하는 등에 사용합니다. 모델 자체의 학습 내용, 대화에 제공된 입력, 외부 검색으로 가져온 자료는 구분해야 합니다. LLM이 있다고 자동으로 최신 웹이나 사내 문서에 접근하는 것은 아니며 그 연결 방식의 하나가 RAG입니다.

이 절의 용어: Embedding / 임베딩

임베딩은 텍스트 등 대상의 특징을 수치 벡터로 표현한 것입니다. 검색에서는 같은 기준으로 만든 질문과 문서 벡터의 유사도를 비교할 수 있습니다. 사용한 모델과 문서 분할 방식이 결과에 영향을 주며 유사도가 높다는 사실만으로 같은 뜻이거나 사실이 정확하다고 확정할 수는 없습니다.

이 절의 용어: Vector database / 벡터 데이터베이스

벡터 데이터베이스는 임베딩 같은 수치 벡터를 저장하고 유사한 벡터를 검색하는 기능을 제공하는 데이터베이스입니다. 원문 위치와 접근 권한 등 부가 정보를 함께 다룰 수 있습니다. RAG 구성 요소로 사용할 수 있지만 벡터 데이터베이스 자체가 답변을 생성하거나 최신 자료와 접근 권한을 자동으로 보장하지는 않습니다.

이 절의 용어: Reranking / 재순위화

재순위화는 검색 단계가 찾은 후보를 질문과의 관련성 등에 따라 다시 평가해 순서를 조정하는 과정입니다. 처음 찾은 후보에서 더 적절한 근거를 고르는 데 활용할 수 있지만 검색에서 빠진 문서를 항상 복원하는 것은 아닙니다. 답변에 넣을 자료의 품질과 필요한 처리 시간의 균형을 함께 봅니다.

NVIDIA retrieval-augmented generation

고정된 한 번의 검색과 달리 질문을 나누고 추가 검색이 필요한지 판단하는 구성을 사용할 수 있습니다. 검색 횟수가 늘어나는 것과 답의 정확성이 높아지는 것은 같은 결론이 아닙니다.

예를 들어 제품 설명과 지원 조건을 각각 찾아 대조한 뒤 부족한 근거를 다시 찾을 수 있습니다. 실제 고객 작업을 주장하는 예가 아니라 구성 원리를 설명하는 예입니다.

Agentic RAG는 GraphRAG나 하이브리드 검색과 분류 기준이 다릅니다. 에이전트가 하이브리드 검색을 도구로 사용하거나 그래프 기반 검색 결과를 받을 수도 있습니다.

검색 범위와 문서 권한, 호출 횟수 및 종료 조건을 제한하고 근거가 부족한 답은 구분해야 합니다. 외부 문서의 지시를 시스템의 명령으로 받아들이지 않도록 입력 경계를 유지합니다.

이 절의 용어: Agentic RAG / 에이전트 기반 검색 증강 생성

Agentic RAG는 에이전트가 질문을 나누고 검색 방법을 선택하거나 결과를 검토하며 다음 검색을 결정하는 검색 증강 생성 접근입니다. 한 번 정해진 검색을 수행하는 구성보다 여러 단계로 진행할 수 있지만 지연과 비용 및 실패 경로도 늘어날 수 있습니다. 제품마다 구현 범위가 달라 단일 표준 버전으로 취급하지 않습니다. 검색 자료와 도구 출력은 작업 지시가 아닌 외부 데이터로 처리하고 접근 권한과 호출 한도를 별도로 적용합니다.

learn.microsoft.com: retrieval