Cohere의 가격 체계는 어떻게 동작하나요?
Cohere의 가격 모델에 대해 자세히 알아볼 거예요. 우리 모델은 API를 통해 직접 접근할 수 있어서 확장 가능한 프로덕션 워크로드를 만들 수 있답니다.
프로덕션에서 사용 사례를 확장하려고 한다면, Cohere 모델은 현재 시장에서 가장 비용 효율적인 옵션 중 하나예요. 이 페이지에는 주요 모델 오퍼링 각각에 대해 Cohere의 가격 모델이 어떻게 동작하는지에 대한 정보가 담겨 있어요.
정보 (Info)
각 생성(generation), rerank, embed 모델의 최신 가격은 전용 가격 페이지에서 확인할 수 있어요.
출처: 문서
서로 다른 Cohere 모델의 비용은 어떻게 계산되나요?
Command A+, Command A, Command R7B, Command R, Command R+ 같은 생성 모델은 토큰당 기준으로 가격이 책정돼요. 입력 토큰(즉 모델 to 전송된 텍스트에서 생성된 토큰)과 출력 토큰(즉 모델 by 생성된 텍스트)은 서로 다른 가격으로 책정된다는 점에 유의하세요.
Rerank 모델은 검색의 수에 따라, Embedding 모델은 임베딩된 토큰 수에 따라 가격이 책정돼요.
"billed" 토큰과 일반 토큰의 차이점은 무엇인가요?
Chat API 엔드포인트를 사용하면 응답에 입력/출력 토큰의 총 개수와 billed(과금된) 토큰의 개수가 모두 포함돼요. 예시는 다음과 같아요.
JSON
{
"billed_units": {
"input_tokens": 6772,
"output_tokens": 248
},
"tokens": {
"input_tokens": 7596,
"output_tokens": 645
}
}
rerank와 embed 모델은 각각 약간 다른 고유 버전이 있고, billed_units 아래에 별도의 입력/출력 값이 있는 이유가 분명하지 않을 수 있어요. 명확히 하자면, billed(과금된) 입력/출력 토큰은 실제로 과금되는 토큰이에요. 이 값들이 전체 "tokens" 값과 다를 수 있는 이유는 Cohere가 내부적으로 토큰을 추가하는 상황이 있고, 특정 모델이 그렇게 훈련된(특수 토큰을 출력하는 경우) 상황이 있기 때문이에요. 이들은 여러분이 통제할 수 없는 토큰이므로, 이에 대해 비용이 청구되지 않아요.
트라이얼 사용량과 프로덕션 사용량
Cohere는 API 키의 "trial"(트라이얼) 사용과 "production"(프로덕션) 사용을 구분해요.
가격 측면에서 이해해야 할 핵심은 트라이얼 API 키 사용은 무료이지만 제한이 있다는 점이에요. 다양한 애플리케이션을 테스트하거나 개념 증명(proofs of concept)을 구축하고 싶은 개발자는 Cohere 계정에 가입하는 것만으로 트라이얼 키를 통해 Cohere의 모든 모델과 API를 사용할 수 있어요.