Open WebUI

Open WebUI는 오프라인 모델을 위한 자체 호스팅 인터페이스를 제공합니다. 로컬 모델을 제공하려면 CORS를 활성화해야 합니다(보안을 위해 기본적으로 비활성화되어 있습니다).

출처: 문서

본문

transformers serve --enable-cors

이 서버를 음성-텍스트 변환(speech-to-text)에 사용하려면 Settings > Audio로 이동해 주세요.

Speech-to-Text Engine을 OpenAI로 설정합니다.
URL을 http://localhost:8000/v1 로 설정합니다.
SST Model에 전사(transcription) 모델을 입력합니다(예: openai/whisper-large-v3). 더 많은 모델은 Hub에서 찾을 수 있습니다.

채팅을 시작하고 말해 보세요. 모델이 입력 필드에 여러분의 오디오를 텍스트로 전사해 줍니다.