Novita AI (LLM 및 클라우드 추론 플랫폼)
Novita AI (LLM 및 클라우드 추론 플랫폼)
Novita AI는 크고 작은 파운데이션 모델을 API로 제공하는 클라우드 추론 플랫폼이에요. 오픈소스 LLM을 상위권 LLM API만큼 안정적이고 빠르게 쓸 수 있게 하면서, 이미지·비디오·오디오 생성과 GPU 클라우드, 에이전트 샌드박스까지 한곳에서 제공해요.
핵심 특징
- OpenAI 호환 API(base URL
https://api.novita.ai/openai)로 채팅/완성/임베딩/리랭크 사용 - 서버리스 오픈소스 모델 추론 + 전용 엔드포인트(Dedicated Endpoint)
- 비전·함수 호출·구조화 출력·추론(reasoning)·프롬프트 캐시 지원
- Batch API로 대량 작업을 한 번에 처리
이 카테고리의 문서
- LLM 기초: 시작하기, 추천 모델
- 고급 기능: 비전, 함수 호출, 구조화 출력, 추론 모델
- 비용 최적화: 프롬프트 캐시, 배치 API