Nebius

Nebius

Nebius의 모델을 Docker Agent에서 사용하는 방법을 설명해요. OpenAI 호환 API로 다양한 오픈 모델을 쓸 수 있어요.

출처: 문서

본문

Nebius는 OpenAI 호환 API를 통해 AI 모델을 제공해요. Docker Agent에는 Nebius를 기본 제공 alias 프로바이더로 지원하고 있어요.

설정

  • Nebius AI에서 API 키를 받으세요.
export NEBIUS_API_KEY=your-api-key

사용법

인라인 문법

Nebius를 쓰는 가장 간단한 방법:

agents:
  root:
    model: nebius/deepseek-ai/DeepSeek-V3
    description: Assistant using Nebius
    instruction: You are a helpful assistant.

네임드 모델 (Named Model)

파라미터를 더 세밀하게 제어하려면:

models:
  nebius_model:
    provider: nebius
    model: deepseek-ai/DeepSeek-V3
    temperature: 0.7
    max_tokens: 8192

agents:
  root:
    model: nebius_model
    description: Assistant using Nebius
    instruction: You are a helpful assistant.

사용 가능한 모델

Nebius는 다양한 오픈 모델을 호스팅해요. 현재 모델 카탈로그는 Nebius 문서에서 확인하세요.

모델 설명
deepseek-ai/DeepSeek-V3 DeepSeek V3 모델
Qwen/Qwen2.5-72B-Instruct Qwen 2.5 72B instruction-tuned
meta-llama/Llama-3.3-70B-Instruct Llama 3.3 70B instruction-tuned

동작 방식

Nebius는 Docker Agent의 기본 제공 alias로 구현돼 있어요:

예시: 코드 어시스턴트

agents:
  coder:
    model: nebius/deepseek-ai/DeepSeek-V3
    description: Code assistant using DeepSeek
    instruction: |
      You are an expert programmer using DeepSeek V3.
      Write clean, well-documented code.
      Follow best practices for the language being used.
    toolsets:
      - type: filesystem
      - type: shell
      - type: think

더 알아보기 (Learn more)