GMI Cloud

GMI Cloud

GMI Cloud는 Claude, GPT, DeepSeek, Gemini 등 최고 AI 모델에 OpenAI 호환 API로 접근을 제공하는 GPU 클라우드 인프라 제공자예요.

출처: 문서

본문

개요 (Overview)

GMI Cloud란?

GMI Cloud는 벤처 투자 지원 디지털 인프라 회사($82M+ 펀딩)로 다음을 제공해요:

• 최상위 GPU 접근: AI 워크로드용 NVIDIA H100 GPU
• 여러 AI 모델: Claude, GPT, DeepSeek, Gemini, Kimi, Qwen 등
• OpenAI 호환 API: OpenAI SDK의 드롭인 대체
• 글로벌 인프라: 미국(콜로라도)과 APAC(대만) 데이터 센터

필수 변수

os.environ["GMI_API_KEY"] = ""  # your GMI Cloud API key

console.gmicloud.ai에서 GMI Cloud API 키를 가져와요.

LiteLLM Python SDK 사용법

비스트리밍 (Non-streaming)

import os
import litellm
from litellm import completion

os.environ["GMI_API_KEY"] = ""  # your GMI Cloud API key
messages = [{"content": "What is the capital of France?", "role": "user"}]

# GMI Cloud call
response = completion(
    model="gmi/deepseek-ai/DeepSeek-V3.2",
    messages=messages
)
print(response)

스트리밍 (Streaming)

import os
import litellm
from litellm import completion

os.environ["GMI_API_KEY"] = ""  # your GMI Cloud API key
messages = [{"content": "Write a short poem about AI", "role": "user"}]

# GMI Cloud call with streaming
response = completion(
    model="gmi/anthropic/claude-sonnet-4.5",
    messages=messages,
    stream=True
)

for chunk in response:
    print(chunk)

LiteLLM Proxy Server 사용법

1. 환경에 키 저장

export GMI_API_KEY=""

2. Proxy 시작

model_list:
  - model_name: deepseek-v3
    litellm_params:
      model: gmi/deepseek-ai/DeepSeek-V3.2
      api_key: os.environ/GMI_API_KEY
  - model_name: claude-sonnet
    litellm_params:
      model: gmi/anthropic/claude-sonnet-4.5
      api_key: os.environ/GMI_API_KEY

지원 모델 (Supported Models)

지원되는 OpenAI 파라미터

GMI Cloud는 모든 표준 OpenAI 호환 파라미터를 지원해요:

더 알아보기 (Learn more)

• LiteLLM 개요
• LiteLLM Python SDK 사용법
• LiteLLM Proxy Server 설정
• 지원되는 공급업체 전체 목록