Encrypted Vault 개요

Encrypted Vault 개요

Encrypted Vault는 Model Vault에 기밀 컴퓨팅을 더해서, 프롬프트와 응답이 검증 가능한 증명과 함께 엔드투엔드로 보호되도록 해 줘요.

출처: 문서

본문

Encrypted Vault는 표준 볼트에 엔드투엔드 암호화와 기밀 컴퓨팅을 더해요. 그래서 프롬프트, 응답, 그 사이의 모든 것이 Cohere나 클라우드 운영자에게조차 평문(plaintext)으로 노출되지 않아요. 모든 것이 하드웨어 기반 신뢰 실행 환경(TEE) 안에서 엔드투엔드로 암호화된 상태를 유지하고, 데이터 한 바이트를 보내기 전에 정확히 무엇이 실행 중인지 암호학적으로 검증할 수 있어요.

셀프 호스팅 없이 프라이빗 AI를 제공해 줘요: 원클릭 완전 관리형 SaaS 경험이면서 온프레미스 배포 수준의 프라이버시 태세를 갖추고, 신뢰에 의존하는 대신 검증할 수 있는 프라이버시를 제공하죠.

Encrypted 볼트는 다른 볼트와 동일한 공통 볼트 흐름으로 배포되고, 동일한 API로 호출해요. 유일하게 추가되는 것은 Cohere OHTTP 프록시인데, 이는 클라이언트 측에서 실행되며 증명된 엔드투엔드 암호화 터널을 볼트에 설정하는 기밀 컴퓨팅 구성 요소예요. 여러분의 환경에서 실행되는 독립형 프록시(standalone proxy) 또는 클라이언트의 전송 계층을 감싸는 Python 패키지로 제공돼요. 어느 형태든 데이터가 여러분의 머신을 떠나기 전에 배포의 증명을 검증하고 모든 요청을 암호화하므로, 애플리케이션 코드는 변경되지 않아요. Using the API with an Encrypted Vault를 참조하세요.

이 섹션은 Encrypted 볼트에 특화된 내용만 다뤄요: 보안 모델, 검증, 키 관리, 컴플라이언스, 그리고 적용되는 모델과 가격.

Encrypted Vault가 추가하는 것

  • 데이터가 전송 중, 저장 중, 사용 중 모두 보호되어, 프롬프트와 응답이 Cohere나 클라우드 운영자에게조차 평문으로 노출되지 않아요.
  • 추론은 CPU(Intel TDX나 AMD SEV-SNP 같은 기밀 VM)와 GPU(기밀 컴퓨팅 모드의 NVIDIA GPU)를 아우르는 하드웨어 기반 TEE 안에서 실행되고, 요청은 클라이언트에서 TEE 안까지 암호화된 상태로 유지되므로, 그 사이의 로드 밸런서와 네트워크는 평문을 볼 수 없어요.
  • 검증 가능한 **원격 증명(remote attestation)**으로 여러분이 기대하는 정확한 코드를 실행하는 진짜 TEE와 통신하고 있음을 확인할 수 있어요. (Model Vault 앱의 볼트 검증 배지가 이를 반영해요.)
  • 모든 추론 응답에는 확인 가능한 **증명 인증서(attestation certificate)**가 포함되어, 각 요청에서 TEE와 그 코드를 검증할 수 있어요.
  • 규제 대상 조직이 컴플라이언스 의무(예: GDPR, HIPAA, SOC 2)를 충족하도록 설계되었어요.

Note

기밀 컴퓨팅 보호가 필요하지 않나요? Standard Vault는 사용 중 암호화와 증명 기능 없이 동일한 관리형 단일 테넌트 배포를 제공해요.

Encrypted Vault 배포하기

공통 흐름을 따르되, 볼트를 만들 때 Encrypted 옵션을 선택해요:

Encrypted Vault가 무엇을 보호하는지 이해하기

Security Model을 검토해서 신뢰 경계와 위협 모델, 특히 누가 여러분의 데이터에 접근할 수 있는지(그리고 없는지)를 이해해요.

기초 학습 (선택 사항)

기밀 컴퓨팅이 처음인가요? Confidential Computing Primer를 읽고 TEE, 보안 enclave, GPU 기밀 컴퓨팅을 빠르게 익혀 보세요.

볼트 만들기

평소처럼 볼트를 프로비저닝하고 암호화 옵션을 선택해요. Creating a Vault를 참조하세요.

검증이 어떻게 동작하는지 이해하기

매 요청 전에 수동으로 검증할 필요는 없어요. Cohere OHTTP 프록시가 배포의 증명을 자동으로 확인하고 통과하지 못하면 연결을 거부해요. 무엇이 검사되는지, 어떻게 직접 증거를 조사할 수 있는지는 Remote Attestation과 Verifying Your Deployment를 참조하세요.

암호화와 키 구성

데이터가 전송 중·저장 중·사용 중에 어떻게 보호되는지, 그리고 키(및 ZDR)가 어떻게 처리되는지 이해하려면 Encryption & Key Management를 검토하세요.

볼트 호출하기

볼트 엔드포인트를 사용해 추론 요청을 보내요. Using the API with an Encrypted Vault를 참조하세요. 여기서 Cohere OHTTP 프록시가 데이터가 머신을 떠나기 전에 배포의 증명을 검증하고 모든 요청을 암호화해요.

컴플라이언스 확인

Encrypted Vaults가 GDPR, HIPAA, SOC 2, 감사 로깅 요구사항에 어떻게 대응하는지는 Compliance를 확인하세요.

Encrypted Vault에 특화된 내용

더 알아보기 (Learn more)