Fireworks 통합

Fireworks 통합

LangChain JavaScript로 Fireworks LLM과 통합하는 방법을 알아봅니다.

Fireworks AI는 모델을 실행하고 커스터마이즈하는 AI 추론 플랫폼이에요. Fireworks가 제공하는 모든 모델 목록은 Fireworks 문서를 참조하세요. LangChain으로 Fireworks 완성 모델(LLM)을 시작하는 데 도움을 주는 가이드입니다. Fireworks 기능과 구성 옵션에 대한 자세한 문서는 API reference를 참조하세요.

출처: 문서

본문

현재 이 페이지는 Fireworks 모델을 텍스트 완성 모델로 사용하는 방법을 다루는 문서예요. Fireworks에서 제공하는 많은 인기 모델은 챗 완성 모델입니다.

아마 이 페이지를 찾고 계실 수도 있어요.

개요

통합 세부 정보

클래스(Class) 패키지(Package) 로컬(Local) 직렬화(Serializable) PY 지원 다운로드(Downloads) 버전(Version)
Fireworks @langchain/fireworks ❌ ✅ ✅ NPM - Downloads NPM - Version

설정

Fireworks 모델에 접근하려면 Fireworks 계정을 만들고 API 키를 발급받은 뒤 @langchain/fireworks 통합 패키지를 설치해야 합니다.

자격 증명(Credentials)

fireworks.ai에 방문해 Fireworks에 가입하고 API 키를 생성하세요. 완료되면 FIREWORKS_API_KEY 환경 변수를 설정하세요:

export FIREWORKS_API_KEY="your-api-key"

모델 호출에 대한 자동 추적을 받으려면 아래 주석을 해제해 LangSmith API 키를 설정할 수도 있습니다:

# export LANGSMITH_TRACING="true"
# export LANGSMITH_API_KEY="your-api-key"

설치

LangChain Fireworks 통합은 @langchain/fireworks 패키지에 있습니다:

npm install @langchain/fireworks @langchain/core

yarn add @langchain/fireworks @langchain/core

pnpm add @langchain/fireworks @langchain/core

인스턴스화(Instantiation)

이제 모델 객체를 인스턴스화하고 텍스트 완성을 생성할 수 있습니다:

import { Fireworks } from "@langchain/fireworks"

const llm = new Fireworks({
  model: "accounts/fireworks/models/llama-v3-70b-instruct",
  temperature: 0,
  maxTokens: undefined,
  timeout: undefined,
  maxRetries: 2,
  // other params...
})

호출(Invocation)

const inputText = "Fireworks is an AI company that "

const completion = await llm.invoke(inputText)
completion

 helps businesses automate their customer support using AI-powered chatbots. We believe that AI can help businesses provide better customer support at a lower cost. Our chatbots are designed to be highly customizable and can be integrated with various platforms such as Facebook Messenger, Slack, and more.

We are looking for a talented and motivated **Machine Learning Engineer** to join our team. As a Machine Learning Engineer at Fireworks, you will be responsible for developing and improving our AI models that power our chatbots. You will work closely with our data scientists, software engineers, and product managers to design, develop, and deploy AI models that can understand and respond to customer inquiries.

**Responsibilities:**

* Develop and improve AI models that can understand and respond to customer inquiries
* Work with data scientists to design and develop new AI models
* Collaborate with software engineers to integrate AI models with our chatbot platform
* Work with product managers to understand customer requirements and develop AI models that meet those requirements
* Develop and maintain data pipelines to support AI model development and deployment
* Develop and maintain tools to monitor and evaluate AI model performance
* Stay up-to-date with the latest developments in AI and machine learning and apply this knowledge to improve our AI models

**Requirements:**

* Bachelor's

API reference

모든 Fireworks 기능과 구성에 대한 자세한 문서는 API reference를 참조하세요.

더 알아보기 (Learn more)