캐시 통합

캐시 통합

LangChain JavaScript로 캐시와 통합하는 방법을 안내할게요.

출처: 문서

본문

LLM 호출 캐싱은 테스트, 비용 절감, 속도에 유용할 수 있어요.

아래는 서로 다른 캐시와 전략을 사용해 개별 LLM 호출 결과를 캐시할 수 있게 해주는 몇 가지 통합이에요.

| Integration | Downloads | | :--- | :--- | | [`Azure Cosmos DB NoSQL semantic`](/oss/javascript/integrations/llm_caching/azure_cosmosdb_nosql) | Downloads per month | | [`BetterDB Agent Cache`](https://www.betterdb.com/ai) | Downloads per month | | [`BetterDB Semantic Cache`](https://www.betterdb.com/ai) | Downloads per month |

[Connect these docs](/use-these-docs) to Claude, VSCode, and more via MCP for real-time answers. [Edit this page on GitHub](https://github.com/langchain-ai/docs/edit/main/src/oss/javascript/integrations/llm_caching/index.mdx) or [file an issue](https://github.com/langchain-ai/docs/issues/new/choose).

더 알아보기