추론
추론 (Inference)
Mistral 모델을 API로 사용하고, 모델 옵션을 비교하고, 요청을 라우팅하고, 생성 동작을 튜닝하는 방법을 다루는 페이지예요.
출처: 문서
본문
Explore (탐색하기)
모델 선택, 가격, 수명주기, 지역 라우팅, 요청 동작에 대한 참고 자료를 찾을 수 있어요.
- Models — 모든 모델을 사양, 벤치마크, 기능 비교와 함께 살펴보세요.
- Pricing — 모델 패밀리별 가격을 비교해 보세요.
- Model lifecycle policy — 모델 성숙 단계, 별칭(alias), 지원 종료(deprecation), retire에 대비하세요.
- Regional inference —
GA— 추론 요청을 특정 지역으로 라우팅하세요. - Priority tier —
Public Preview— 적격 API 요청을 우선순위 큐로 라우팅하세요. - Labs — 실험적인 모델 릴리스를 살펴보세요.
- Prompting — 모델 요청용 프롬프트를 설계하세요.
- Sampling — 생성 파라미터를 튜닝하세요.
- API Reference — 엔드포인트 세부 정보를 확인하세요.
최신 모델 (Latest models)
최신 모델 정보와 사양을 확인할 수 있어요.
- Z.ai GLM 5.3 — Z.ai의 서드파티 오픈 웨이트 텍스트 모델로, 1M-토큰 컨텍스트 윈도우를 제공해요. (
v 5.3) - Z.ai GLM 5.2 — Z.ai의 서드파티 오픈 웨이트 텍스트 모델로, 1M-토큰 컨텍스트 윈도우를 제공해요. (
v 5.2) - Shieldstral 1.0 — 텍스트·이미지 안전 분류를 위한 컴팩트한 멀티모달 중재(moderation) 모델이에요. (
v 1.0) - OCR 4.1 — 문단 단위 바운딩 박스, 구조 블록 라벨, 블록 단위 신뢰 점수를 제공하는 최신 OCR 서비스예요. (
v 4.1) - Leanstral 1.5 — Lean 4 형식 증명 엔지니어링과 자동 정리 증명을 위한 업데이트된 코드 에이전트예요. (
v 1.5) - OCR 4.0 — 문단 단위 바운딩 박스와 구조 블록 라벨을 제공하는 최신 OCR 서비스예요. (
v 4.0)
더 알아보기 (Learn more)
- 모델 전체 목록: /models
- 샘플링 튜닝: /inference/sampling
- 실험 모델(Labs): /inference/labs