DeepInfra 임베딩

DeepInfra의 임베딩 모델로 텍스트 데이터의 임베딩을 얻는 방법을 다루는 통합 가이드예요. 사이트에 가입해 API 토큰을 받고, 모델 카드에서 model_ids를 복사해 코드에서 사용해요.

출처: 문서

본문

이 통합을 사용하면 DeepInfra 임베딩 모델로 텍스트 데이터의 임베딩을 얻을 수 있어요. 여기에 임베딩 모델 링크가 있어요.

먼저 DeepInfra 웹사이트에 가입하고 API 토큰을 받아야 해요. 모델 카드에서 model_ids를 복사해서 코드에서 사용하면 돼요.

설치 (Installation)

!pip install llama-index llama-index-embeddings-deepinfra

초기화 (Initialization)

from dotenv import load_dotenv, find_dotenv
from llama_index.embeddings.deepinfra import DeepInfraEmbeddingModel


_ = load_dotenv(find_dotenv())


model = DeepInfraEmbeddingModel(
    model_id="BAAI/bge-large-en-v1.5",  # 사용자 지정 모델 ID 사용
    api_token="YOUR_API_TOKEN",  # 여기에 토큰을 선택적으로 제공
    normalize=True,  # 선택적 정규화
    text_prefix="text: ",  # 선택적 텍스트 접두사
    query_prefix="query: ",  # 선택적 쿼리 접두사
)

동기 요청 (Synchronous Requests)

텍스트 임베딩 가져오기

response = model.get_text_embedding("hello world")
print(response)

배치 요청

texts = ["hello world", "goodbye world"]
response_batch = model.get_text_embedding_batch(texts)
print(response_batch)

쿼리 요청

query_response = model.get_query_embedding("hello world")
print(query_response)

비동기 요청 (Asynchronous Requests)

텍스트 임베딩 가져오기

async def main():
    text = "hello world"
    async_response = await model.aget_text_embedding(text)
    print(async_response)




if __name__ == "__main__":
    import asyncio


    asyncio.run(main())

질문이나 피드백이 있으면 [email protected]로 연락해 주세요.