호환성 API
호환성 API (Compatibility API)
이 페이지는 Cohere 호환성 API를 설명해요. 기존 프로젝트에 Cohere 모델을 쉽게 추가할 수 있도록, 코드 전체를 바꾸지 않고 API 루트 URL 또는 OpenAI 클라이언트 설정만 변경하는 방법을 살펴볼게요.
출처: 문서
본문
Cohere 호환성 API는 기존 프로젝트에 Cohere 모델을 쉽게 추가할 수 있게 해줘요. 모든 코드를 바꾸는 대신, 코드 내에서 API 루트 URL 구성 또는 OpenAI 클라이언트 구성만 변경하면 돼요.
작동 방식 (How it works)
구성 옵션은 Cohere의 구성 관리(config)를 통해 사용할 수 있어요. openai.compatibility.api_base 구성 옵션을 설정하면 OpenAI SDK가 호환성 API 엔드포인트와 호환돼요. OpenAI SDK의 동작은 정확히 보존돼요; OpenAI SDK가 Cohere 플랫폼과 통신하고, 호환성 API가 가벼운 API 요청을 Cohere API 형식으로 변환해요. 이 변환은 정확성과 충실성을 모두 보존하므로 OpenAI SDK 호출이 해당하는 Cohere 호출에 충실하게 매핑돼요.
구성 (Configuration)
호환성 엔드포인트를 사용해 OpenAI SDK와 직접 작업할 수 있어요. 구성을 설정하는 방법을 보여드릴게요.
config 설정하기 (Set config)
config 명령을 사용해 Cohere의 openai.compatibility.api_base 구성을 설정할 수 있어요.
환경 변수로 구성을 설정하려면 다음을 사용해요:
COHERE_CONFIG_OVERRIDES 또는 COHERE_CONFIG_DIR
예시 (Examples)
호환성 모듈이 여러분의 코드와 함께 작동하는 방식에 대한 예시는 다음과 같아요.