DeepInfra
DeepInfra
DeepInfra는 최신 오픈소스 LLM과 임베딩·이미지·오디오 모델을 클라우드에서 API로 바로 호출할 수 있게 해주는 추론(inference) 플랫폼이에요. GPU 인프라를 직접 관리하지 않아도 OpenAI 호환 엔드포인트 하나로 저렴하고 빠른 추론을 쓸 수 있어요.
이 카테고리의 문서
- 시작: API 키 발급, 첫 요청 보내기
- 추론: OpenAI 호환 API, 텍스트 생성, 스트리밍
- 모델: 지원 모델 목록, 모델 카탈로그
- 임베딩: 텍스트 임베딩 API