Deepgram
Deepgram
LiteLLM은 Deepgram의 /listen 엔드포인트를 지원해요.
출처: 문서
본문
개요 (Overview)
| 속성 | 설명 |
|---|---|
| 설명 | Deepgram의 음성 AI 플랫폼은 음성-텍스트, 텍스트-음성, 언어 이해 API 제공 |
| LiteLLM 라우트 | deepgram/ |
| 공급자 문서 | Deepgram |
| 지원 OpenAI 엔드포인트 | /audio/transcriptions |
빠른 시작 (Quick Start)
from litellm import transcription
import os
# set api keys
os.environ["DEEPGRAM_API_KEY"] = ""
audio_file = open("/path/to/audio.mp3", "rb")
response = transcription(
model="deepgram/nova-2",
file=audio_file,
)
print(f"response: {response}")
LiteLLM Proxy 사용법
config에 모델 추가
model_list:
- model_name: nova-2
litellm_params:
model: deepgram/nova-2
api_key: os.environ/DEEPGRAM_API_KEY
model_info:
mode: audio_transcription
general_settings:
master_key: os.environ/LITELLM_MASTER_KEY
Proxy 시작
litellm --config /path/to/config.yaml
# RUNNING on http://0.0.0.0:4000
테스트
curl:
curl --location 'http://0.0.0.0:4000/v1/audio/transcriptions' \
--header "Authorization: Bearer ***" \
--form 'file=@"/Users/krrishdholakia/Downloads/gettysburg.wav"' \
--form 'model="nova-2"'
OpenAI SDK:
from openai import OpenAI
client = openai.OpenAI(
api_key="sk-<your-litellm-api-key>",
base_url="http://0.0.0.0:4000"
)
audio_file = open("speech.mp3", "rb")
transcript = client.audio.transcriptions.create(
model="nova-2",
file=audio_file,
)