기본 사용법
기본 사용법 (Basic Usage)
SGLang에서 서버를 띄운 뒤 실제로 모델을 호출하는 방법을 정리한 문서입니다. OpenAI 호환 API, Anthropic 호환 API, Ollama API 등 여러 표준 인터페이스를 지원해 기존 도구와 쉽게 연동할 수 있어요. 이 페이지는 각 주제로 가는 인덱스 역할을 합니다.
출처: 문서
본문
핵심 API와 일반적인 사용 패턴 모음.
- OpenAI-Compatible APIs — 채팅 완성(chat completions), 비전(vision), 임베딩
- Anthropic-Compatible API —
/v1/messages(Claude Code 통합 포함) - Ollama API
- Offline Engine API
- Native API
- Sampling Parameters
- Popular Model Usage — DeepSeek, GLM, Qwen, Llama 등
더 알아보기 (Learn more)
- 문서 인덱스 — 모든 페이지 목록