병렬 쿼리 생성하기
병렬 쿼리 생성하기
이 페이지는 여러 쿼리를 병렬로 생성하는 방법을 설명해요. 같은 사용자 쿼리에 대해 여러 개의 문서를 찾도록 도와주는 병렬 쿼리 생성 기법을 살펴볼게요.
출처: 문서
본문
동일한 사용자 쿼리에 대해 여러 개의 문서를 찾도록 agentic RAG를 돕기 위해 여러 쿼리를 병렬로 생성할 수 있어요. 이러한 쿼리는 여러 방식으로 사용될 수 있어요. 예를 들어 각 쿼리를 서로 다른 검색에 사용하거나, 나중에 병합될 여러 문서 집합을 검색하는 데 사용할 수 있어요.
프롬프트로 병렬 쿼리 생성하기 (Generating Parallel Queries with prompts)
배경: 병렬 쿼리는 모델이 동시에, 병렬로 생성하는 쿼리예요.
다양한 소스/대상/언어 요소와 관련된 문서를 찾기 위해 여러 개의 분석 쿼리를 동시에 생성할 수 있어요.
완전한 코드 예시 (Complete code example)
쿼리를 병렬로 생성하는 방법을 보여주는 예시는 다음과 같아요:
PYTHON
import cohere
co = cohere.ClientV2(api_key="YOUR_COHERE_API_KEY")
# Predefine the source of each query using separate QueryTask instances, ensuring each query has its own
# storage and retrieval path
task1 = QueryTask(source="azure_blob", dest="azure_sql", query="financial_data_recent", user_id="user123")
task2 = QueryTask(source="azure_blob", dest="azure_sql", query="financial_data_archive", user_id="user123")
// / QueryTask instances.
// The following code assumes the availability of a suitable "QueryTask" class and its associated storage & retrieval capabilities.
// This is a simplified example; actual implementation may vary.
// Cohere chat call to generate the response using the queries of predefined tasks
res = co.chat(
model="command-r-plus-08-2024",
message="""&
|&task1.query&
|&task2.query&
""",
documents=[.....],
)
print(res.text)
다음 단계 (Next Steps)
다음 생성/에이전트 패턴들을 살펴보아요: