Model Vault Encrypted 자주 묻는 질문
Model Vault Encrypted 자주 묻는 질문
Model Vault Encrypted에 대한 일반적인 질문에 대한 답변이에요: 데이터 프라이버시, 증명과 검증, 신뢰 경계, 키, 컴플라이언스, 성능.
출처: 문서
본문
Model Vault Encrypted에 대한 일반적인 질문들이에요. 기본 개념은 Encrypted Vault 개요와 Confidential Computing Primer로 시작하세요.
시작하기
Encrypted Vault를 어떻게 얻나요?
평소처럼 볼트를 만들고 Encrypted 옵션을 선택하세요. Model Vault Encrypted는 현재 베타이며, 참여하려면 Cohere에 문의하세요. Quickstart를 참조하세요.
비용은 얼마인가요?
Model Vault Encrypted는 Standard Vault와 별도로 가격이 책정돼요. Pricing을 참조하세요.
컴플라이언스 및 법적
GDPR, HIPAA, SOC 2에 도움이 되나요?
네. 하드웨어로 강제되는 기밀성, 단일 테넌트 격리, ZDR(제로 데이터 보존), 검증 가능한 증명이 일반적인 요구사항에 대응하며, 증명 증거가 감사를 지원할 수 있어요. 법적 조언은 아니며, 통제 조치를 여러분의 의무에 대해 직접 평가하세요. Compliance를 참조하세요.
Cohere가 강제로 내 프롬프트와 응답을 넘겨달라는 요구를 받을 수 있나요?
프롬프트와 응답을 복호화하는 데 필요한 암호 자료는 TEE를 결코 떠나지 않고, ZDR을 사용하면 아무것도 지속되지 않으므로 Cohere가 제출할 평문이 없어요. TEE 경계를 우회하는 운영, 디버그, 지원 경로도 없어요.
감사용 증거를 얻을 수 있나요?
네. 각 증명 토큰은 환경, 평가된 정책, 검증이 발생한 시점을 식별해서 검증 가능한 기록을 제공해요. 가장 강력한 보증을 위해 Intel의 Faithful Verification 서비스로 증명 서비스 자체가 진짜·수정되지 않은 코드를 실행했다는 것을 확인할 수 있어요. Compliance를 참조하세요.
데이터 및 프라이버시
Cohere가 내 프롬프트와 응답을 볼 수 있나요?
아니요. 프롬프트와 응답은 신뢰 실행 환경(TEE) 안에서만, 환경 내부에서 생성되고 Cohere와 절대 공유되지 않는 키로 복호화돼요. 보호는 하드웨어로 강제되고 증명을 통해 검증돼요. Security Model을 참조하세요.
클라우드 제공자나 호스트 운영자가 내 데이터를 볼 수 있나요?
아니요. 기밀 VM이 CPU 메모리를 하드웨어로 암호화하고 NVIDIA GPU가 기밀 컴퓨팅 모드로 실행되므로, 하이퍼바이저, 호스트 운영 체제, 머신에 대한 권한 있는 접근 권한을 가진 누구도 암호문만 볼 수 있어요. 이것이 기존 클라우드 배포와의 핵심 차이예요.
내 프롬프트나 응답이 Cohere 모델을 학습시키는 데 사용되나요?
아니요, 그리고 더 근본적으로 Cohere가 할 수 없어요. 프롬프트와 응답은 TEE 안에서만 복호화되고 Cohere는 결코 접근할 수 없으므로, 어떤 모델을 학습·파인튜닝·개선하는 데 사용될 수 있는 평문이 없어요. ZDR(제로 데이터 보존)이 추론 후에도 보관되지 않음을 추가로 보장해요.
Cohere와 인프라는 여전히 무엇을 볼 수 있나요?
콘텐츠는 TEE 안에 남지만, 몇 가지는 필연적으로 밖에서 보여요: 요청 헤더에 담긴 라우팅 메타데이터(예: 로드 밸런서가 요청을 라우팅할 수 있게 하는 모델 이름), 인프라 텔레메트리에서 파생된 운영 지표(지연 시간, 처리량, 사용률), 네트워크 수준 메타데이터(타이밍과 바이트 양). 이 중 어떤 것도 프롬프트나 응답의 내용을 노출하지 않아요. Monitoring을 참조하세요.
신뢰 경계와 위협 모델
누가 내 데이터 접근에서 제외되나요?
Cohere(운영자와 지원 포함), 클라우드 제공자와 하이퍼바이저·호스트 수준 접근 권한을 가진 사람, Kubernetes 컨트롤 플레인, 로드 밸런서와 네트워크, 그리고 다른 테넌트(볼트는 단일 테넌트)예요. 이 모두가 신뢰 경계 밖에 있어요. Security Model을 참조하세요.
Model Vault Encrypted는 어떤 위협으로부터 보호하나요?
손상되거나 악의적인 호스트 OS, 하이퍼바이저, 오케스트레이션 계층; 사용 중 데이터를 읽으려 시도하는 클라우드 제공자나 Cohere의 권한 있는 내부자; 경로에 있는 네트워크 공격자나 손상된 로드 밸런서; 승인된 추론 워크로드 대신 변조된 코드를 대체하려는 모든 시도(증명이 잡아냄).
무엇으로부터 보호하지 않나요?
기밀 컴퓨팅은 모든 위험을 제거하지 않아요. 잔여 위험으로는 하드웨어 사이드 채널 공격(타이밍, 캐시, 마이크로아키텍처 누출), 하드웨어에 대한 깊은 물리적 접근이 필요한 공격, 메타데이터 및 트래픽 패턴 관찰(요청 타이밍, 크기, 호출된 모델), 가용성(운영자가 여전히 스케줄링을 통제하고 환경을 중지·재시작할 수 있음)이 있어요. 이들은 기본 Intel 및 NVIDIA 하드웨어의 정확성에 의존해요.
Standard Vault와 어떻게 다른가요?
Standard Vault는 전송 중·저장 중에 데이터가 보호되는 전용 단일 테넌트 배포를 제공해요. Model Vault Encrypted는 사용 중 보호(CPU와 GPU 전반의 기밀 컴퓨팅)와 검증 가능한 원격 증명을 추가해서, 모델이 실행되는 동안에도 데이터가 보호되고 이를 입증할 수 있어요.
표준 TLS와 저장 중 암호화와 어떻게 다른가요?
TLS는 전송 중 데이터를, 디스크 암호화는 저장 중 데이터를 보호하지만, 둘 다 처리 중에는 데이터를 메모리에서 평문으로 남겨 둬요. 기밀 컴퓨팅은 데이터를 TEE 안에서 사용 중 암호화·격리 상태로 유지해서, 인프라 운영자조차 읽을 수 없게끔 그 공백을 메워요. Confidential Computing Primer을 참조하세요.
암호화와 키
암호화 키를 누가 보유하나요?
데이터를 보호하는 키는 TEE 내부에서 생성되고 하드웨어 경계를 결코 떠나지 않으므로, Cohere와 클라우드 제공자는 결코 접근할 수 없어요. 메모리 암호화 키는 프로세서에 있고, 트래픽을 보호하는 OHTTP 키는 환경별로 생성되며 증명을 통과한 피어 환경에만 공유돼요. Encryption & Key Management를 참조하세요.
내 데이터는 엔드투엔드로 어떻게 보호되나요?
요청은 Oblivious HTTP로 클라이언트에서 TEE까지 엔드투엔드 암호화되고(전송 중), 하드웨어 기반 기밀 VM과 기밀 컴퓨팅 모드의 NVIDIA GPU 안에서 처리되며(사용 중), 볼트는 무결성이 보호된 읽기 전용 이미지에서 부팅돼요(저장 중). 평문은 요청 기간 동안에만 TEE 안에만 존재해요.
검증과 증명
원격 증명이란 무엇이며 왜 중요한가요?
원격 증명을 통해 데이터를 보내기 전에 여러분이 정확히 승인된 코드를 실행하는 진짜 TEE와 통신하고 있음을 암호학적으로 확인할 수 있어요. "우리를 믿으세요"를 "직접 검증하세요"로 바꿔 주고, 이것이 프라이버시 보장을 계약적이 아니라 검증 가능하게 만드는 핵심이에요. Remote Attestation을 참조하세요.
증명은 실제로 무엇을 증명하나요?
환경이 진짜 TEE 하드웨어이고(Intel과 NVIDIA의 키에 뿌리를 둠), 안전하게 구성되었으며(디버그 비활성, 기밀 컴퓨팅 모드 켜짐), 기대하는 코드를 실행한다는 것(측정된 펌웨어, 커널, 추론 워크로드, 컨테이너 정책, GPU 펌웨어)을 증명해요. 무엇이라도 다르면 측정값이 달라져서 증명이 통과하지 않아요.
검증을 위해 내가 할 일이 있나요, 아니면 자동인가요?
자동이에요. 클라이언트 SDK 또는 프록시가 여러분을 대신해 증명을 검증하고, 뭔가 문제가 있으면 연결을 거부해요. 모든 추론 응답에는 클라이언트가 확인하는 증명 인증서도 포함되어, 서빙한 환경의 정책·CPU·GPU·소프트웨어 증거를 확인해요. 결과를 Model Vault 앱에서 시각적으로 조사할 수도 있어요. Verifying Your Deployment를 참조하세요.
과거 요청을 검증할 수 있나요, 아니면 데이터를 보내기 전에만 가능한가요?
둘 다 가능해요. 클라이언트 SDK 또는 프록시가 데이터를 보내기 전에 증명을 검증하고, 모든 추론 응답에는 요청을 서빙한 정확한 환경의 검증 가능한 기록으로 보관할 수 있는 증명 인증서가 포함돼요. Compliance를 참조하세요.
검증에 실패하면 어떻게 되나요?
클라이언트가 연결을 거부하고 요청을 보내지 않아, 데이터가 검증되지 않은 환경에 노출되지 않아요. 검증 실패는 설계상 안전한 결과예요.
모델이나 볼트 소프트웨어가 업데이트되면 어떻게 되나요?
볼트 이미지, 모델, 구성이 어떤 것이라도 바뀌면 증명 측정값이 바뀌어요. 업데이트된 측정값은 재현 가능한 빌드 파이프라인을 통해 등록되고, 증명이 계속해서 모든 요청을 승인된 값으로 게이트하므로, 예상치 못한 빌드나 변조된 빌드는 조용히 트래픽을 서빙하는 대신 검증에 실패해요.
볼트 앞의 로드 밸런서나 프록시가 내 데이터를 읽거나 신뢰할 수 없는 하드웨어로 라우팅할 수 있나요?
아니요. 로드 밸런서와 네트워크는 오직 Oblivious HTTP(OHTTP) 암호문만 운반하고 복호화할 수 없어요. 클라이언트가 증명을 검증하고 진짜·증명된 환경에 암호학적으로 바인딩된 OHTTP 키로만 암호화하므로, 호스트나 프록시가 신뢰할 수 없는 하드웨어로 라우팅하거나 볼트를 사칭할 수 없어요. 증명을 통과하지 못한 곳으로 보낸 트래픽은 그저 복호화될 수 없어요.
모델, 성능, 배포
어떤 모델이 지원되나요?
현재 목록은 Supported Models를 참조하세요. 시간이 지나며 확장되고 있어요.
기밀 컴퓨팅이 추론을 느리게 하나요?
영향은 크지 않아요. GPU의 내부 계산과 패키지 내(on-package) 메모리 대역폭은 영향을 받지 않아요. 주요 비용은 데이터가 CPU와 GPU 사이를 이동할 때 암호화하는 것입니다. 최신 세대의 기밀 컴퓨팅 GPU는 이 비용을 더 줄여서 비기밀 실행과의 격차를 좁혀요.
어떤 하드웨어에서 실행되나요?
추론은 하드웨어 기반 기밀 VM(예: Intel TDX 또는 AMD SEV-SNP)과 기밀 컴퓨팅이 가능한 NVIDIA GPU에서 실행돼요. 모델, 용량, 리전에 사용 가능한 옵션을 확인하려면 Cohere에 문의하세요.
표준 볼트와 동일한 API를 사용하나요?
네, API는 동일해요. 유일한 차이는 트래픽이 Cohere 클라이언트 또는 프록시를 통과해서, 데이터가 보내지기 전에 증명을 검증한 다음 OHTTP로 요청을 암호화하고 응답을 엔드투엔드로 복호화한다는 것이에요. 애플리케이션 코드는 그대로 유지돼요. Using the API with an Encrypted Vault를 참조하세요.
아직 질문이 있나요?
Cohere에 문의해서 요구사항을 논의하거나 베타 접근을 요청하세요.