PremAI 임베딩

PremAI는 생성형 AI로 구동되는 견고하고 프로덕션 준비 완료된 애플리케이션을 손쉽게 만들 수 있게 해주는 올인원 플랫폼이에요. 개발 프로세스를 간소화함으로써 PremAI는 사용자 경험 향상과 앱의 전반적인 성장에 집중할 수 있게 해줘요. 여기에서 플랫폼을 빠르게 시작할 수 있어요.

이 섹션에서는 LlamaIndex에서 PremEmbeddings로 다양한 임베딩 모델에 접근하는 방법을 다룰게요.

출처: 문서

본문

설치와 설정 (Installation and setup)

먼저 llama-index와 premai-sdk를 설치해요. 다음 명령을 입력하면 돼요.

Terminal window

pip install premai llama-index

계속 진행하기 전에 PremAI에 계정을 만들고 이미 프로젝트를 생성했는지 확인하세요. 아직이라면 quick start 가이드를 참고해 PremAI 플랫폼을 시작해 보세요. 첫 프로젝트를 만들고 API 키를 발급받으세요.

%pip install llama-index-llms-premai

from llama_index.embeddings.premai import PremAIEmbeddings

LlamaIndex에서 PremAIEmbeddings 인스턴스 설정하기

필요한 모듈을 import했다면 클라이언트를 설정할게요. 지금은 project_id가 8이라고 가정할게요. 하지만 반드시 자기 project-id를 사용해야 해요. 그렇지 않으면 오류가 발생해요.

LlamaIndex를 PremAI와 함께 사용할 때 chat-client에 모델 이름을 전달하거나 파라미터를 설정할 필요가 없어요. 기본적으로 LaunchPad에서 사용한 모델 이름과 파라미터를 사용해요.

우리는 최신 임베딩 모델을 많이 지원해요. 지원하는 LLM과 임베딩 모델 목록은 여기에서 볼 수 있어요. 이 예시에서는 text-embedding-3-large 모델을 사용할게요.

import os
import getpass


if os.environ.get("PREMAI_API_KEY") is None:
    os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:")


prem_embedding = PremAIEmbeddings(
    project_id=8, model_name="text-embedding-3-large"
)

임베딩 모델 호출하기

이제 준비가 끝났어요. 단일 쿼리와 여러 쿼리(문서라고도 함)로 임베딩 모델을 사용해 볼게요.

query = "Hello, this is a test query"
query_result = prem_embedding.get_text_embedding(query)

print(f"Dimension of embeddings: {len(query_result)}")

Dimension of embeddings: 3072

query_result[:5]

[-0.02129288576543331,
 0.0008162345038726926,
 -0.004556538071483374,
 0.02918623760342598,
 -0.02547479420900345]

PremAI 임베딩