SambaNova Cloud
SambaNova Cloud
SambaNova Cloud는 SambaNova가 운영하는 서버리스 LLM 추론 플랫폼이에요. 대형 언어 모델을 자체 하드웨어(RDU, Reconfigurable Dataflow Unit) 위에서 고속으로 서빙해서, OpenAI 호환 API 형태로 채팅·텍스트 생성·임베딩을 쓸 수 있게 해 줘요. 모델을 굳이 직접 호스팅하지 않아도, 몇 줄의 API 호출로 최신 커뮤니티·파운데이션 모델을 바로 활용할 수 있는 게 특징이에요.
이 카테고리의 문서
- 시작: 플랫폼·API 키·빠른 시작
- 추론: 텍스트 생성·채팅·스트리밍·추론 파라미터
- 모델: 사용 가능한 모델과 사용법
- 임베딩: 벡터 임베딩 API