LangDB 프로바이더

LangDB 프로바이더

LangDB 는 AI 트래픽을 관리·보안·최적화하기 위해 설계된 Rust로 구축된 고성능 엔터프라이즈 AI 게이트웨이예요.

LangDB는 OpenAI 호환 API를 제공해, 개발자가 코드 두 줄만 바꾸면 여러 LLM에 연결할 수 있게 해줘요. LangDB로 다음과 같은 일을 할 수 있어요:

  • 모든 주요 LLM에 대한 접근 제공
  • Langchain, Vercel AI SDK, CrewAI 등 어떤 프레임워크든 사용하는 플러그 앤 플레이 기능 지원으로 손쉬운 도입
  • 트레이싱·비용 최적화 기능의 간단한 구현으로 원활한 운영 보장
  • 미리 정의된 파라미터에 따라 요청을 가장 적합한 LLM으로 동적으로 라우팅

참고: 이 커뮤니티 프로바이더는 아직 AI SDK 5와 호환되지 않아요. 프로바이더가 업데이트될 때까지 기다리거나 AI SDK 5 호환 프로바이더를 고려해 주세요.

출처: 문서

본문

설정 (Setup)

LangDB 프로바이더는 @langdb/vercel-provider 모듈에서 사용할 수 있어요. 다음과 같이 설치할 수 있어요:

프로바이더 인스턴스 (Provider Instance)

LangDB 프로바이더 인스턴스를 만들려면 createLangDB 함수를 사용하세요:

import { createLangDB } from '@langdb/vercel-provider';

const langdb = createLangDB({
  apiKey: proces...KEY, // 필수
  projectId: 'your-project-id', // 필수
  threadId: uuidv4(), // 선택
  runId: uuidv4(), // 선택
  label: 'code-agent', // 선택
  headers: { 'Custom-Header': 'value' }, // 선택
});

LangDB API 키는 LangDB 대시보드에서 찾을 수 있어요.

예시 (Examples)

LangDB를 generateText 또는 streamText 함수와 함께 사용할 수 있어요:

generateText

import { createLangDB } from '@langdb/vercel-provider';
import { generateText } from 'ai';

const langdb = createLangDB({
  apiKey: proces...KEY,
  projectId: 'your-project-id',
});

export async function generateTextExample() {
  const { text } = await generateText({
    model: langdb('openai/gpt-4o-mini'),
    prompt: 'Write a Python function that sorts a list:',
  });

  console.log(text);
}

generateImage

import { createLangDB } from '@langdb/vercel-provider';
import { generateImage } from 'ai';
import fs from 'fs';
import path from 'path';

const langdb = createLangDB({
  apiKey: proces...KEY,
  projectId: 'your-project-id',
});

export async function generateImageExample() {
  const { images } = await generateImage({
    model: langdb.image('openai/dall-e-3'),
    prompt: 'A delighted resplendent quetzal mid-flight amidst raindrops',
  });

  const imagePath = path.join(__dirname, 'generated-image.png');
  fs.writeFileSync(imagePath, images[0].uint8Array);
  console.log(`Image saved to: ${imagePath}`);
}

embed

import { createLangDB } from '@langdb/vercel-provider';
import { embed } from 'ai';

const langdb = createLangDB({
  apiKey: proces...KEY,
  projectId: 'your-project-id',
});

export async function generateEmbeddings() {
  const { embedding } = await embed({
    model: langdb.embeddingModel('text-embedding-3-small'),
    value: 'sunny day at the beach',
  });

  console.log('Embedding:', embedding);
}

지원 모델 (Supported Models)

LangDB는 250개 이상의 모델을 지원해 폭넓은 AI 기능과 원활하게 상호작용할 수 있어요.

더 자세한 내용은 모델 목록을 확인하세요.

자세한 정보는 LangDB 문서를 참고하세요.

더 알아보기 (Learn more)

전체 사이트맵