TensorZero — 관측성·파인튜닝이 내장된 AI 게이트웨이

TensorZero 는 Rust 로 만든 오픈소스 AI 게이트웨이로, 기존 OpenAI 래퍼를 교체하기만 해도 관측성과 파인튜닝 능력을 5분 만에 얻게 해 줍니다. 모든 추론을 ClickHouse 에 저장하고 <1ms 의 오버헤드로 프록시합니다. 함수(function)·변형(variant)·에피소드(episode) 모델을 기반으로 프롬프트·모델 실험(A/B)과 피드백·메트릭 기반 파인튜닝 데이터 큐레이션을 지원하며, OpenAI·Python 클라이언트나 HTTP API 로 호출할 수 있습니다.