AI SDK용 Azure 커스텀 프로바이더
AI SDK용 Azure 커스텀 프로바이더
Quail-AI/azure-ai-provider 는 표준 OpenAI API 형식 대신 Azure의 네이티브 API를 사용하는 Azure 호스팅 언어 모델을 비공식적으로 연동할 수 있게 해주는 프로바이더예요.
출처: 문서
본문
언어 모델 (Language Models)
이 프로바이더는 Azure-Rest AI-inference API와 호환되는 Azure AI Foundry의 어떤 모델이든 동작해요.
테스트된 모델 (Models Tested):
- DeepSeek-R1
- LLama 3.3-70B Instruct
- Cohere-command-r-08-2024
설정 (Setup)
설치 (Installation)
npm으로 프로바이더를 설치해요:
npm i @quail-ai/azure-ai-provider
프로바이더 인스턴스 (Provider Instance)
Azure AI 리소스를 만들고 엔드포인트 URL과 API 키를 설정해요. .env 파일에 다음을 추가하세요:
AZURE_API_ENDPOINT=https://<your-resource>.services.ai.azure.com/models
AZURE_API_KEY=<your-api-key>
패키지에서 createAzure를 임포트해 프로바이더 인스턴스를 만들어요:
import { createAzure } from '@quail-ai/azure-ai-provider';
const azure = createAzure({
endpoint: process.env.AZURE_API_ENDPOINT,
apiKey: proces...KEY,
});
기본 사용법 (Basic Usage)
Azure 커스텀 프로바이더로 텍스트를 생성해요:
import { generateText } from 'ai';
const { text } = await generateText({
model: azure('your-deployment-name'),
prompt: 'Write a story about a robot.',
});
상태 (Status)
✅ 채팅 완성 (Chat Completions): 스트리밍·비스트리밍 응답 모두 동작
⚠️ 도구 호출 (Tool Calling): 기능이 모델 선택에 크게 의존
⚠️ 임베딩 (Embeddings): 구현은 있지만 테스트되지 않음