Amazon Web Services

Amazon Web Services (AWS)에서 Cohere 사용하기

Amazon SageMaker와 Amazon Bedrock을 통해 커스터마이즈 옵션과 함께 AWS에서 Cohere의 언어 모델에 접근하는 방법을 알아볼 거예요.

개발자는 Amazon의 AWS Cloud 플랫폼을 통해 프라이빗 환경에서 다양한 Cohere 언어 모델에 접근할 수 있어요. Cohere의 모델은 Amazon SageMaker와 Amazon Bedrock 두 가지 Amazon 서비스에서 지원돼요.

출처: 문서

Amazon SageMaker

Amazon SageMaker는 고객이 완전 관리형 인프라, 도구, 워크플로로 모든 사용 사례에 맞는 데이터를 준비하고 머신러닝(ML) 모델을 구축·훈련·배포할 수 있게 해 주는 서비스예요.

Cohere는 다양한 하드웨어 옵션에서 SageMaker를 통해 포괄적인 생성, 임베딩, 파싱 모델 제품군을 제공하며, 많은 모델이 더 깊은 커스터마이즈와 성능을 위한 파인튜닝을 지원해요.

Amazon SageMaker에서 Cohere의 제품 보기.

Amazon Bedrock

Amazon Bedrock은 Cohere 및 다른 LLM 제공업체의 파운데이션 모델이 단일 serverless API를 통해 제공되는 완전 관리형 서비스예요.

Cohere는 Command, Embed v3 모델 제품군, Rerank v3.5라는 세 가지 주력 오퍼링을 Amazon Bedrock에서 온디맨드로 제공해요. Command와 Command-Light 모델에 대한 파인튜닝도 지원돼요. Cohere는 앞으로 몇 달 안에 Amazon Bedrock에 제품과 서비스를 계속 추가할 거예요.

Amazon Bedrock에서 Cohere의 제품 보기

Python SDK

Cohere Python SDK는 Amazon SageMaker와 Amazon Bedrock을 모두 지원해요. SDK는 플랫폼 전반에 걸쳐 Cohere 모델과 상호작용하기 위한 단순하고 일관된 인터페이스를 제공해요.

Github의 cohere-aws SDK

가격 (Pricing)

Cohere 모델의 최신 가격은 모두 Amazon Bedrock 및 Amazon SageMaker 마켓플레이스의 목록 페이지에서 바로 확인할 수 있어요. 가격이나 배포 옵션에 대해 질문이 있으면 영업 팀에 문의해 주세요.

더 알아보기 (Learn more)