`LanguageModelV4Middleware`

LanguageModelV4Middleware

경고: 언어 모델 미들웨어는 실험적 기능입니다.

언어 모델 미들웨어는 언어 모델에 대한 호출을 가로채고 수정하여 언어 모델의 동작을 향상시키는 방법을 제공합니다. 가드레일, RAG, 캐싱, 로깅 같은 기능을 언어 모델에 독립적인 방식으로 추가하는 데 사용할 수 있습니다. 자세한 내용은 Language Model Middleware를 참고하세요.

출처: 문서

본문

Import

import { LanguageModelV4Middleware } from "ai"

API Signature

  • specificationVersion: 'v4' — 미들웨어의 스펙 버전입니다. 반드시 "v4"여야 합니다.
  • transformParams: ({ type: "generate" | "stream", params: LanguageModelV4CallOptions, model: LanguageModelV4 }) => PromiseLike<LanguageModelV4CallOptions> (선택) — 파라미터가 언어 모델로 전달되기 전에 변환합니다.
  • wrapGenerate: ({ doGenerate: () => PromiseLike<LanguageModelV4GenerateResult>, doStream: () => PromiseLike<LanguageModelV4StreamResult>, params: LanguageModelV4CallOptions, model: LanguageModelV4 }) => PromiseLike<LanguageModelV4GenerateResult> (선택) — 언어 모델의 generate 작업을 감쌉니다. doGenerate와 doStream 함수를 모두 받습니다.
  • wrapStream: ({ doGenerate: () => PromiseLike<LanguageModelV4GenerateResult>, doStream: () => PromiseLike<LanguageModelV4StreamResult>, params: LanguageModelV4CallOptions, model: LanguageModelV4 }) => PromiseLike<LanguageModelV4StreamResult> (선택) — 언어 모델의 stream 작업을 감쌉니다. doGenerate와 doStream 함수를 모두 받습니다.
  • overrideProvider: (options: { model: LanguageModelV4 }) => string (선택) — 모델의 프로바이더 ID를 재정의합니다.
  • overrideModelId: (options: { model: LanguageModelV4 }) => string (선택) — 모델의 모델 ID를 재정의합니다.
  • overrideSupportedUrls: (options: { model: LanguageModelV4 }) => PromiseLike<Record<string, RegExp[]>> | Record<string, RegExp[]> (선택) — 모델의 지원 URL을 재정의합니다.

더 알아보기 (Learn more)