litellm.aembedding() — 비동기 임베딩
litellm.aembedding() — 비동기 임베딩
LiteLLM은 임베딩 함수의 비동기(asynchronous) 버전인 aembedding을 제공해요. await 구문과 함께 사용하면 블로킹 없이 효율적으로 임베딩을 호출할 수 있답니다.
출처: 문서
본문
LiteLLM은 aembedding이라는 임베딩 함수의 비동기 버전을 제공합니다.
사용 방법 (Usage)
from litellm import aembedding
import asyncio
async def test_get_response():
response = await aembedding('text-embedding-ada-002', input=["good morning from litellm"])
return response
response = asyncio.run(test_get_response())
print(response)
aembedding은 코루틴을 반환하므로 await로 기다려야 해요. 위 예시처럼 asyncio.run()으로 비동기 함수를 실행하면 됩니다.