Fireworks AI 통합

Fireworks AI 통합

Fireworks AI에서 호스팅하는 모델을 LangChain에서 바로 쓰고 싶다면 langchain-fireworks 패키지가 그 다리를 놓아줘요. Fireworks는 오픈·프로프라이어터리 언어 모델을 빠른 추론으로 서빙하는 플랫폼이고, 이 패키지는 Fireworks API에 대한 LangChain의 chat·embedding 인터페이스를 구현해요. 세팅부터 설치까지 아주 간단하니 금방 시작할 수 있을 거예요.

출처: 공식문서

설치와 설정

먼저 langchain-fireworks 패키지를 설치해요. 패키지 매니저에 따라 아래 중 하나를 고르면 돼요.

pip install langchain-fireworks

uv add langchain-fireworks

API 키는 fireworks.ai에서 발급받고, FIREWORKS_API_KEY 환경 변수로 설정해요.

모델 인터페이스

이 패키지는 Fireworks AI에 호스팅된 모델을 LangChain에서 다루는 두 가지 인터페이스를 제공해요.

  • ChatFireworks — Fireworks AI에서 호스팅하는 chat 모델용 인터페이스. 시작하기
  • FireworksEmbeddings — Fireworks AI가 서빙하는 임베딩 모델. 시작하기

chat 모델은 대화 생성에, 임베딩 모델은 의미 검색·벡터화에 쓰니 목적에 맞는 인터페이스를 골라 연결하면 돼요.

더 알아보기 (Learn more)