embedchain 개요

embedchain 개요

embedchain은 '문서에 대해 답하는 챗봇 만들기'를 몇 줄로 줄여주는 프레임워크예요. 지식 소스를 추가하고 질문만 하면, LLM이 그 지식을 바탕으로 답해줘요.

출처: embedchain/embedchain

embedchain은 어떤 데이터셋이든 LLM 기반 봇을 쉽게 만들 수 있게 해 주는 프레임워크예요. 자바스크립트 버전은 embedchain-js로 따로 있어요.

가장 큰 특징은 사용 절차가 두 단계뿐이라는 거예요. 지식 소스를 추가(add) 하고 질문을 던지면(query) 끝이에요.

from embedchain import App

app = App()
app.add("https://www.youtube.com/watch?v=...")  # 또는 PDF, 블로그, 텍스트 등
answer = app.query("What is this video about?")

테크 스택을 보면 구조가 이해돼요. LangChain이 LLM 프레임워크로 문서를 로드·청킹·인덱싱하고, OpenAI의 Ada 임베딩 모델이 임베딩을, OpenAI ChatGPT API가 문맥을 바탕으로 답을 생성해요. 벡터 저장소로는 Chroma를, 오픈소스 LLM으로는 gpt4all을, 오픈소스 임베딩 모델로는 sentence-transformers를 쓸 수 있죠.

RAG(Retrieval Augmented Generation)의 핵심을 '추가와 질의 두 단계'로 압축한 프레임워크라고 보면 이해가 빨라져요.

더 알아보기