프롬프트 캐싱 체크포인트 자동 주입

프롬프트 캐싱 체크포인트 자동 주입

LiteLLM을 사용해 프롬프트 캐싱 체크포인트를 자동 주입하면 비용을 최대 90% 절감할 수 있어요.

출처: 문서

본문

(이 페이지는 해당 기능을 소개하는 요약/카드 페이지입니다.)

  • LiteLLM으로 프롬프트 캐싱 체크포인트를 자동 주입해 비용을 최대 90% 절감할 수 있어요.

더 알아보기 (Learn more)