R2R과 RAG — 검색·생성 파이프라인

R2R과 RAG — 검색·생성 파이프라인

RAG(검색 증강 생성)는 대형 언어 모델의 힘과 내 문서에서의 정밀한 정보 검색을 결합해요. R2R은 이 RAG를 서비스로 제공해요.

RAG가 주는 이점

  • 특정 문서에 기반한 더 정확한 답변
  • 근거를 실제 콘텐츠에 둠으로써 환각(hallucination) 감소
  • 독점·최신 정보 다루기
  • AI 출력에 대한 더 나은 제어

R2R로 RAG 시작하기

pip install r2r
r2r serve --docker

파이썬 클라이언트로 문서를 넣고 질문할 수 있어요.

client.retrieval.rag(query="your question here")

RAG 설정 커스터마이징

# 하이브리드 검색 사용
client.retrieval.rag(
    query="your question",
    vector_search_settings={"use_hybrid_search": True},
)

# 검색 청크 수 조정
client.retrieval.rag(
    query="your question",
    vector_search_settings={"limit": 30},
)

# 응답 스타일 조정
client.retrieval.rag(
    query="your question",
    rag_generation_config={"temperature": 0.7, "model": "openai/gpt-4"},
)

R2R에서 RAG가 동작하는 방식

  • 문서 처리: 문서를 의미 단위(chunk)로 나누고 AI 모델로 임베딩한 뒤 메타데이터·관계와 함께 저장.
  • 검색: 하이브리드 검색으로 의미 유사도와 키워드 매칭을 모두 고려하고 관련성 점수로 순위.
  • 답변 생성: 검색된 청크를 컨텍스트로 구성해 LLM이 답변을 생성. 인용·참조를 포함할 수 있어요.

고급 기능으로 GraphRAG(관계 인식 답변), 다단계 RAG(복잡한 쿼리), 에이전트 기반 RAG(대화형 검색)도 제공해요.

더 알아보기 (Learn more)

출처: R2R 공식 문서