DeepSeek-V3 실행 — 로컬 실행과 API 플랫폼
DeepSeek-V3 실행
DeepSeek-V3를 직접 굴리는 방법과 API로 쓰는 방법을 볼게요.
챗 웹사이트 & API 플랫폼
DeepSeek는 공식 챗 웹사이트와 API 플랫폼을 제공해요. API 플랫폼에서는 deepseek-chat 같은 모델 이름으로 호출할 수 있고, 최신 모델 변경 사항은 공식 API 문서에서 확인할 수 있어요. API 스펙은 OpenAI 호환 형태로 제공되는 경우가 많아 기존 클라이언트 그대로 붙기 쉬워요.
로컬 실행
저장소의 How to Run Locally 섹션대로 체크포인트를 내려받아 추론을 돌릴 수 있어요. 671B 규모라 실제로는 **양자화·병렬 서빙(vLLM 등)**을 함께 써야 실용적이에요.
참고
MTP 모듈은 추측 디코딩에도 쓸 수 있어 추론 가속의 재료가 돼요. APA(architectural) 병렬 방식과 함께 배포 구성에 따라 활용할 수 있어요.