지원되는 모델
지원되는 모델 (Supported Models)
Model Vault Encrypted에서 사용할 수 있는 Cohere 모델, 지원되는 기밀 컴퓨팅 GPU, 격리 아키텍처예요.
출처: 문서
본문
아키텍처
Model Vault Encrypted는 Standard Vault와 동일한 격리된 단일 테넌트, Cohere 관리형 아키텍처에서 실행되고, 그 위에 다음을 더해요:
- 기밀 컴퓨팅: 추론이 하드웨어 기반 신뢰 실행 환경(CPU의 Intel TDX나 AMD SEV-SNP 같은 기밀 VM, 그리고 기밀 컴퓨팅 모드의 NVIDIA GPU) 안에서 실행되어, 데이터가 전송 중·저장 중에만 아니라 사용 중에도 보호돼요. Security Model과 Confidential Computing Primer를 참조하세요.
Note
데이터가 전송 중, 저장 중, 사용 중에 어떻게 보호되는지와 ZDR(제로 데이터 보존)이 어떻게 처리되는지는 Encryption & Key Management를 참조하세요.
지원되는 모델
Encrypted Vault는 다음 모델군을 지원해요:
| 모델군 | 유형 |
|---|---|
| Embed | 임베딩 |
| Rerank | 리랭커 |
| Parse | 비전 파서 |
| Compass | Embed + Rerank + Parse 번들 |
| North Mini Code | 생성형 (코드) |
| Cohere Transcribe | 음성 인식(ASR) |
| 맞춤형 Cohere 모델 | 다양함 |
위 모델군은 Model Vault Encrypted 베타에서 지원하는 것들이며, 시간이 지나면서 지원 범위를 넓히고 있으므로 Standard Vault와 가용성이 다를 수 있어요. 특정 모델의 가용성을 확인하려면 Encrypted 옵션을 선택한 상태로 볼트를 만들 때 모델 드롭다운을 확인하거나 Cohere에 연락하세요.
지원되는 GPU
Encrypted Vault는 기밀 컴퓨팅이 가능한 NVIDIA GPU에서 실행돼요. 모델, 용량, 리전에 사용 가능한 옵션을 확인하려면 Cohere에 연락하세요.
모델 및 성능 티어별 가격은 Model Vault Encrypted Pricing을 참조하세요.