LiveKit 소개 — 실시간 AI 에이전트 플랫폼
LiveKit 소개 — 실시간 AI 에이전트 플랫폼
LiveKit는 음성·비디오·텍스트를 모두 처리하는 실시간 AI 에이전트를 만들기 위한 오픈소스 프레임워크와 클라우드 플랫폼이에요. Python·Node.js로 에이전트를 짜면 그것이 실시간 룸의 완전한 참가자가 돼요.
무엇을 할 수 있나
- 다중 모달: 음성·비디오·텍스트 입력을 처리하고 어느 모달리티든 출력
- 도구 사용: 어떤 LLM과도 호환되는 도구 정의, 프론트엔드로 도구 호출 전달
- 멀티 에이전트 핸드오프: 복잡한 워크플로를 간단한 작업으로 분해
- 턴 감지: 커스텀 턴 감지 모델로 자연스러운 대화 흐름
- 방대한 통합: 주요 LLM·STT·TTS 제공자 플러그인
프레임워크 개요
Agents SDK는 실시간 음성 AI의 핵심 과제(오디오 스트리밍 파이프라인, 턴 감지, 인터럽트, LLM 오케스트레이션)를 다루는 컴포넌트를 제공해요. 에이전트 서버는 디스패치 요청을 받으면 job 서브프로세스를 부팅해 룸에 합류시킵니다.
배포
- LiveKit Cloud(관리형, 관측성 내장) or 커스텀 환경(셀프호스팅)
- 에이전트 서버 오케스트레이션·로드밸런싱·쿠버네티스 호환 기본 포함
- Apache 2.0 오픈소스