다양한 API 키 유형과 Rate Limit
다양한 API 키 유형과 Rate Limit (Rate Limits)
Cohere API의 rate limit이 프로덕션 키와 평가 키(evaluation key)에서 어떻게 적용되는지 알아볼 거예요.
Cohere는 두 종류의 API 키를 제공해요: 평가 키(evaluation keys, 무료지만 사용량이 제한됨)와 프로덕션 키(production keys, 유료이고 사용량 제한이 훨씬 적음). API 키 페이지에서 트라이얼 키나 프로덕션 키를 만들 수 있어요. 가격에 대한 자세한 내용은 가격 문서를 참고해 주세요.
경고 (Warning)
Prod 키는 Command A Reasoning 같은 최신 모델 변형에서 트라이얼 키처럼 동작해요. 그런 모델을 프로덕션에서 사용하려면 [email protected]에 문의해 주세요.
참고 (Note)
트라이얼 키(그리고 최신 Chat 모델 변형에서의 prod 키)는 한 달에 1,000번의 API 호출로 제한돼요.
출처: 문서
Chat API (모델별)
| Model | Trial rate limit | Production rate limit |
|---|---|---|
| Command A+ | 20 req / min | Contact [email protected] |
| Command A Reasoning | 20 req / min | Contact [email protected] |
| Command A Translate | 20 req / min | Contact [email protected] |
| Command A Vision | 20 req / min | Contact [email protected] |
| Command A | 20 req / min | 500 req / min |
| Command R+ | 20 req / min | 500 req / min |
| Command R | 20 req / min | 500 req / min |
| Command R7B | 20 req / min | 500 req / min |
| North Mini Code | 20 req / min | 500 req / min |
기타 API 엔드포인트
| Endpoint | Trial rate limit | Production rate limit |
|---|---|---|
| Audio Transcriptions | 5 req / min | Contact [email protected] |
| Embed | 2,000 inputs / min | 2,000 inputs / min |
| Embed (Images) | 5 inputs / min | 400 inputs / min |
| EmbedJob | 5 req / min | 50 req / min |
| Rerank | 10 req / min | 1,000 req / min |
| Tokenize | 100 req / min | 2,000 req / min |
| Parse | 500 req / min | 500 req / min |
| Default (anything not covered above) | 500 req / min | 500 req / min |
질문이 있거나 rate limit 상향에 대해 상담하고 싶다면 [email protected]으로 연락해 주세요.