ChatBedrockConverse 통합

ChatBedrockConverse 통합 (ChatBedrockConverse integration)

LangChain JavaScript를 사용하여 ChatBedrockConverse 채팅 모델과 통합합니다.

Amazon Bedrock Converse는 선도적인 AI 스타트업과 Amazon의 파운데이션 모델(FM)을 API로 제공하는 완전 관리형 서비스입니다. 다양한 FM 중에서 사용 사례에 가장 적합한 모델을 선택할 수 있으며, Bedrock 모델을 위한 통합 대화 인터페이스를 제공합니다.

이 문서는 ChatBedrockConverse 채팅 모델을 시작하는 데 도움이 됩니다. ChatBedrockConverse의 모든 기능과 구성에 대한 자세한 문서는 API 참조를 참고하세요.

개요

통합 세부 정보

Class	Package	Serializable	PY 지원	Downloads	Version
`ChatBedrockConverse`	`@langchain/aws`	✅	✅

모델 기능

아래 표 헤더의 링크는 특정 기능 사용법에 대한 가이드입니다.

Tool calling	Structured output	Image input	Audio input	Video input	Token-level streaming	Token usage	Logprobs
✅	✅	✅	❌	❌	✅	✅	❌

설정

Bedrock 모델에 접근하려면 AWS 계정을 만들고, Bedrock API 서비스를 설정하고, 액세스 키 ID와 시크릿 키를 받은 뒤 @langchain/aws 통합 패키지를 설치해야 합니다.

자격 증명

AWS 문서로 이동하여 AWS에 가입하고 자격 증명을 설정하세요. 또한 계정에 대해 모델 액세스를 켜야 하는데, 이 지침을 따라 할 수 있습니다.

환경에 Bedrock 자격 증명을 설정하세요:

export BEDROCK_AWS_REGION="us-east-1"
export BEDROCK_AWS_ACCESS_KEY_ID="your-access-key-id"
export BEDROCK_AWS_SECRET_ACCESS_KEY="your-secret-access-key"

또는 API 키 인증을 위해 AWS_BEARER_TOKEN_BEDROCK을 설정할 수 있습니다. AWS Bedrock API 키 문서를 참고하세요.

모델 호출의 자동 추적을 원한다면 아래 주석을 해제하여 LangSmith API 키를 설정할 수도 있습니다:

# export LANGSMITH_TRACING="true"
# export LANGSMITH_API_KEY="your-api-key"

설치

LangChain ChatBedrockConverse 통합은 @langchain/aws 패키지에 포함되어 있습니다:

npm install @langchain/aws @langchain/core

yarn add @langchain/aws @langchain/core

pnpm add @langchain/aws @langchain/core

인스턴스화

이제 모델 객체를 인스턴스화하고 채팅 완성을 생성할 수 있습니다.

AWS로 인증하는 방법은 여러 가지가 있는데, 아래 예시는 환경 변수에 설정된 액세스 키, 시크릿 액세스 키, 리전에 의존합니다:

import { ChatBedrockConverse } from "@langchain/aws";

const llm = new ChatBedrockConverse({
  model: "us.anthropic.claude-sonnet-4-6",
  region: process.env.BEDROCK_AWS_REGION,
  credentials: {
    accessKeyId: process.env.BEDROCK_AWS_ACCESS_KEY_ID!,
    secretAccessKey: process.env.BEDROCK_AWS_SECRET_ACCESS_KEY!,
  },
});

호출

const aiMsg = await llm.invoke([
  [
    "system",
    "You are a helpful assistant that translates English to French. Translate the user sentence.",
  ],
  ["human", "I love programming."],
])
aiMsg

AIMessage {
  "id": "f5dc5791-224e-4fe5-ba2e-4cc51d9e7795",
  "content": "J'adore la programmation.",
  "additional_kwargs": {},
  "response_metadata": {
    "$metadata": {
      "httpStatusCode": 200,
      "requestId": "f5dc5791-224e-4fe5-ba2e-4cc51d9e7795",
      "attempts": 1,
      "totalRetryDelay": 0
    },
    "metrics": {
      "latencyMs": 584
    },
    "stopReason": "end_turn",
    "usage": {
      "inputTokens": 29,
      "outputTokens": 11,
      "totalTokens": 40
    }
  },
  "tool_calls": [],
  "invalid_tool_calls": [],
  "usage_metadata": {
    "input_tokens": 29,
    "output_tokens": 11,
    "total_tokens": 40
  }
}

console.log(aiMsg.content)

J'adore la programmation.

Tool calling

Bedrock 모델의 tool calling은 다른 모델과 유사하게 동작하지만, 모든 Bedrock 모델이 tool calling을 지원하지는 않는다는 점에 유의하세요. 자세한 내용은 AWS 모델 문서를 참고하십시오.

API 참조

ChatBedrockConverse의 모든 기능과 구성에 대한 자세한 문서는 API 참조를 참고하세요.

더 알아보기

출처: 문서