ChatBaiduQianfan 통합

ChatBaiduQianfan 통합 (ChatBaiduQianfan integration)

LangChain JavaScript를 사용하여 ChatBaiduQianfan 채팅 모델과 통합합니다.

설정

먼저 @langchain/baidu-qianfan 패키지를 설치해야 합니다:

LangChain 패키지 설치에 대한 일반적인 안내는 [이 섹션](/oss/javascript/langchain/install)을 참고하세요. 
npm install @langchain/baidu-qianfan @langchain/core

사용 가능한 모델: ERNIE-Bot,ERNIE-Lite-8K,ERNIE-Bot-4,ERNIE-Speed-8K,ERNIE-Speed-128K,ERNIE-4.0-8K, ERNIE-4.0-8K-Preview,ERNIE-3.5-8K,ERNIE-3.5-8K-Preview,ERNIE-Lite-8K,ERNIE-Tiny-8K,ERNIE-Character-8K, ERNIE Speed-AppBuilder

폐기된 모델: ERNIE-Bot-turbo

사용법

import { ChatBaiduQianfan } from "@langchain/baidu-qianfan";
import { HumanMessage } from "@langchain/core/messages";

const chat = new ChatBaiduQianfan({
  qianfanAccessKey: process.env.QIANFAN_ACCESS_KEY,
  qianfanSecretKey: process.env.QIANFAN_SECRET_KEY,
  model: "ERNIE-Lite-8K",
});

const message = new HumanMessage("北京天气");
const res = await chat.invoke([message]);
console.log({ res });

스트리밍

Qianfan API는 토큰 스트리밍 응답도 지원합니다. 아래 예시는 이 기능을 사용하는 방법을 보여 줍니다.

import { ChatBaiduQianfan } from "@langchain/baidu-qianfan";
import { HumanMessage } from "@langchain/core/messages";

const chat = new ChatBaiduQianfan({
  qianfanAccessKey: process.env.QIANFAN_ACCESS_KEY,
  qianfanSecretKey: process.env.QIANFAN_SECRET_KEY,
  model: "ERNIE-Lite-8K",
  streaming: true,
});

const message = new HumanMessage("等额本金和等额本息有什么区别？");
const res = await chat.invoke([message]);
console.log({ res });

관련 자료

더 알아보기

출처: 문서