Microsoft 통합

Microsoft 통합

LangChain JavaScript로 Microsoft와 통합하는 방법을 알아봅니다.

Microsoft Azure 및 기타 Microsoft 제품과 관련된 모든 기능을 다룹니다.

출처: 문서

본문

채팅 모델(Chat models)

Azure OpenAI

사용 예시를 참조하세요.

import { AzureChatOpenAI } from "@langchain/openai";

const model = new AzureChatOpenAI({
  temperature: 0.9,
  azureOpenAIApiKey: *** // In Node.js defaults to process.env.AZURE_OPENAI_API_KEY
  azureOpenAIApiInstanceName: "<your_instance_name>", // In Node.js defaults to process.env.AZURE_OPENAI_API_INSTANCE_NAME
  azureOpenAIApiDeploymentName: "<your_deployment_name>", // In Node.js defaults to process.env.AZURE_OPENAI_API_DEPLOYMENT_NAME
  azureOpenAIApiVersion: "<api_version>", // In Node.js defaults to process.env.AZURE_OPENAI_API_VERSION
});

LLM

Azure OpenAI

Microsoft Azure는 흔히 Azure라고 불리며, 전 세계 데이터 센터를 통해 애플리케이션과 서비스에 대한 접근, 관리, 개발을 제공하는 Microsoft가 운영하는 클라우드 컴퓨팅 플랫폼입니다. 소프트웨어 서비스(SaaS), 플랫폼 서비스(PaaS), 인프라 서비스(IaaS)를 포함한 다양한 기능을 제공합니다. Microsoft Azure는 Microsoft 특화 및 제3자 소프트웨어와 시스템을 포함한 많은 프로그래밍 언어, 도구, 프레임워크를 지원합니다.

Azure OpenAI는 OpenAI, Meta 등의 사전 구축·큐레이션된 다양한 모델로 생성형 AI 경험을 빠르게 개발할 수 있게 도와주는 클라우드 서비스입니다.

LangChain.js는 OpenAI SDK의 새로운 Azure 통합을 사용해 Azure OpenAI와의 통합을 지원합니다.

Azure OpenAI와 OpenAI API의 차이점에 대해 더 자세히 알아보려면 이 페이지를 참조하세요. Azure 계정이 없다면 무료 계정을 만들어 시작할 수 있습니다.

Azure OpenAI 인스턴스가 배포되어 있어야 합니다. 이 가이드를 따라 Azure Portal에 버전을 배포할 수 있습니다.

인스턴스가 실행되면 인스턴스 이름과 키가 있는지 확인하세요. 키는 Azure Portal의 인스턴스 "Keys and Endpoint" 섹션에서 찾을 수 있습니다.

Node.js를 사용한다면 다음 환경 변수를 정의해 서비스를 사용할 수 있습니다:

AZURE_OPENAI_API_INSTANCE_NAME=<YOUR_INSTANCE_NAME>
AZURE_OPENAI_API_DEPLOYMENT_NAME=<YOUR_DEPLOYMENT_NAME>
AZURE_OPENAI_API_EMBEDDINGS_DEPLOYMENT_NAME=<YOUR_EMBEDDINGS_DEPLOYMENT_NAME>
AZURE_OPENAI_API_KEY=<YOUR_KEY>
AZURE_OPENAI_API_VERSION="2024-02-01"

지원되는 API 버전 목록은 Azure OpenAI 문서에서 찾을 수 있습니다.

LangChain 패키지 설치에 대한 일반적인 지침은 이 섹션을 참조하세요.

npm install @langchain/openai @langchain/core

사용 예시를 참조하세요.

import { AzureOpenAI } from "@langchain/openai";

const model = new AzureOpenAI({
  azureOpenAIApiKey: *** // In Node.js defaults to process.env.AZURE_OPENAI_API_KEY
  azureOpenAIApiInstanceName: "<your_instance_name>", // In Node.js defaults to process.env.AZURE_OPENAI_API_INSTANCE_NAME
  azureOpenAIApiDeploymentName: "<your_deployment_name>", // In Node.js defaults to process.env.AZURE_OPENAI_API_DEPLOYMENT_NAME
  azureOpenAIApiVersion: "<api_version>", // In Node.js defaults to process.env.AZURE_OPENAI_API_VERSION
});

텍스트 임베딩 모델(Text embedding models)

Azure OpenAI

사용 예시를 참조하세요.

import { AzureOpenAIEmbeddings } from "@langchain/openai";

const model = new AzureOpenAIEmbeddings({
  azureOpenAIApiKey: *** // In Node.js defaults to process.env.AZURE_OPENAI_API_KEY
  azureOpenAIApiInstanceName: "<your_instance_name>", // In Node.js defaults to process.env.AZURE_OPENAI_API_INSTANCE_NAME
  azureOpenAIApiEmbeddingsDeploymentName: "<your_embeddings_deployment_name>", // In Node.js defaults to process.env.AZURE_OPENAI_API_EMBEDDINGS_DEPLOYMENT_NAME
  azureOpenAIApiVersion: "<api_version>", // In Node.js defaults to process.env.AZURE_OPENAI_API_VERSION
});

벡터 스토어(Vector stores)

Azure Cosmos DB for NoSQL

Azure Cosmos DB for NoSQL은 유연한 스키마로 항목을 질의하고 JSON을 기본 지원합니다. 이제 벡터 인덱싱과 검색을 제공합니다. 이 기능은 고차원 벡터를 처리하도록 설계되어 모든 규모에서 효율적이고 정확한 벡터 검색을 가능하게 합니다. 이제 데이터와 함께 문서에 직접 벡터를 저장할 수 있습니다. 데이터베이스의 각 문서에는 전통적인 스키마 없는 데이터뿐 아니라 문서의 다른 속성으로서 고차원 벡터도 포함될 수 있습니다.

npm install @langchain/azure-cosmosdb @langchain/core

사용 예시를 참조하세요.

import { AzureCosmosDBNoSQLVectorStore } from "@langchain/azure-cosmosdb";

Azure DocumentDB

Azure DocumentDB(이전 Azure Cosmos DB for MongoDB vCore)는 완전한 네이티브 MongoDB 지원으로 데이터베이스를 쉽게 만들 수 있게 합니다. 애플리케이션을 연결 문자열로 지정해 MongoDB 경험을 적용하고 선호하는 MongoDB 드라이버, SDK, 도구를 계속 사용할 수 있습니다. Azure DocumentDB에서 벡터 검색을 사용해 Azure DocumentDB에 저장된 데이터와 AI 기반 애플리케이션을 원활하게 통합하세요.

npm install @langchain/azure-cosmosdb @langchain/core

사용 예시를 참조하세요.

import { AzureDocumentDBVectorStore } from "@langchain/azure-cosmosdb";

의미 캐시(Semantic cache)

Azure Cosmos DB NoSQL 의미 캐시

의미 캐시(Semantic Cache) 기능은 Azure Cosmos DB for NoSQL 통합으로 지원되며, 사용자 입력과 이전에 캐시된 결과 사이의 의미적 유사성에 기반해 캐시된 응답을 검색할 수 있게 합니다. 캐시된 프롬프트의 벡터 임베딩을 저장하는 AzureCosmosDBNoSQLVectorStore를 활용합니다. 이러한 임베딩은 유사성 기반 검색을 가능하게 하여 관련 캐시 결과를 검색할 수 있게 합니다.

npm install @langchain/azure-cosmosdb @langchain/core

사용 예시를 참조하세요.

import { AzureCosmosDBNoSQLSemanticCache } from "@langchain/azure-cosmosdb";

도구(Tools)

Azure Container Apps 동적 세션(dynamic sessions)

Azure Container Apps dynamic sessions은 다른 워크로드와의 강한 격리를 요구하는 코드나 애플리케이션을 실행하는 데 이상적인 안전한 샌드박스 환경에 빠르게 접근할 수 있게 합니다.

npm install @langchain/azure-dynamic-sessions @langchain/core

사용 예시를 참조하세요.

import { SessionsPythonREPLTool } from "@langchain/azure-dynamic-sessions";

더 알아보기 (Learn more)