RAG에서의 활용
RAG에서의 활용
RAG(검색 증강 생성)에서 임베딩 품질은 검색 결과를 좌우해요. Voyage는 입력의 종류를 구분해 임베딩을 최적화하는 input_type 파라미터를 제공해요.
query: 검색 질의(query)에 쓸 때 지정해요. 모델이 검색 전용 프롬프트를 붙여 임베딩을 최적화해요.document: 인덱스에 넣을 문서(document)를 임베딩할 때 지정해요.
검색 파이프라인을 만들 때는 질의 쪽에 query, 저장할 문서 쪽에 document를 골라서 각각 벡터화하면 같은 공간에서 더 정확한 유사도가 나와요. 차원 수를 줄여 저장 공간을 아끼고 싶으면 output_dimension으로 256·512·1024·2048 가운데 골라 쓰고, 양자화된 형태가 필요하면 output_dtype에 int8이나 binary를 쓰면 돼요.