SAP AI Core Provider

SAP AI Core Provider

jerome-benoit/sap-ai-provider는 공식 @sap-ai-sdk/orchestration 및 @sap-ai-sdk/foundation-models 패키지 위에 구축된 SAP AI Core용 커뮤니티 프로바이더예요.

이 저장소에서 두 개의 npm 패키지가 게시돼 있어요:

  • @jerome-benoit/sap-ai-provider - AI SDK 5.x & 6.x용 Language Model V4 (권장)
  • @jerome-benoit/sap-ai-provider-v2 - AI SDK 5.x용 Language Model V2

출처: 문서

본문

기능

두 프로바이더 모두 다음을 제공해요:

  • 이중 API 지원: Orchestration API(데이터 마스킹, 콘텐츠 필터링, 문서 근거(grounding), 번역 포함) 또는 Foundation Models API(logprobs, seed, dataSources) 중 선택할 수 있어요.
  • 도구 호출 및 멀티모달 입력 (이미지)
  • 실시간 텍스트 생성을 위한 스트리밍 지원
  • RAG 및 시맨틱 검색을 위한 텍스트 임베딩

설정

@jerome-benoit/sap-ai-provider (권장)

npm install @jerome-benoit/sap-ai-provider

@jerome-benoit/sap-ai-provider-v2

npm install @jerome-benoit/sap-ai-provider-v2

인증은 AICORE_SERVICE_KEY 환경 변수(로컬) 또는 VCAP_SERVICES(SAP BTP)를 통해 자동으로 처리돼요.

프로바이더 인스턴스

@jerome-benoit/sap-ai-provider에서 기본 프로바이더 인스턴스 sapai를 import 할 수 있어요:

import { sapai } from '@jerome-benoit/sap-ai-provider';

커스텀 설정이 필요하다면 createSAPAIProvider를 import 해서 설정과 함께 프로바이더 인스턴스를 만들 수 있어요:

import { createSAPAIProvider } from '@jerome-benoit/sap-ai-provider';

const sapai = createSAPAIProvider({
  resourceGroup: 'default',
  api: 'orchestration', // or 'foundation-models'
});

SAP AI 프로바이더 인스턴스를 커스터마이즈하기 위해 다음의 선택적 설정을 사용할 수 있어요:

  • resourceGroup string

    SAP AI Core 리소스 그룹. 기본값은 'default'예요.

  • deploymentId string

    특정 배포 ID. 제공하지 않으면 SDK가 배포를 자동으로 해석해요.

  • api 'orchestration' | 'foundation-models'

    사용할 API. 기본값은 'orchestration'이에요. 모델별 또는 호출별로 providerOptions를 통해 재정의할 수 있어요.

  • name string

    providerOptions에서 키로 사용되는 프로바이더 이름. 기본값은 'sap-ai'예요.

  • defaultSettings object

    modelParams, masking, filtering, grounding, translation을 포함한 기본 모델 설정.

언어 모델

프로바이더 인스턴스를 사용해 SAP AI Core API를 호출하는 모델을 만들 수 있어요. 첫 번째 인자는 모델 ID예요. 모델 이름은 벤더 접두사와 함께 SAP AI Core 규칙을 따르며, 다음과 같아요:

const model = sapai('gpt-4.1');
const claudeModel = sapai('anthropic--claude-3.5-sonnet');
const geminiModel = sapai('gemini-2.0-flash');

모델 가용성은 SAP AI Core 테넌트 구성과 리전에 따라 달라져요.

임베딩 모델

.embeddingModel() 팩토리 메서드를 사용해 SAP AI Core 임베딩 API를 호출하는 모델을 만들 수 있어요:

const model = sapai.embeddingModel('text-embedding-3-small');

더 알아보기 (Learn more)