챗봇 만들기

챗봇 만들기

챗봇도 LLM의 아주 인기 있는 유스 케이스예요. 한 번에 하나의 질문에 답하는 단발성 질의응답과 달리, 챗봇은 여러 번의 질문-답변을 오가며 명확화(설명 요청)를 하거나 후속 질문에 답할 수 있어요.

LlamaIndex는 지식이 더해진 챗봇과 에이전트를 만들 수 있는 도구를 제공해요. 이 유스 케이스는 Q&A 유스 케이스 위에서 확장되는 구조라, 먼저 그 페이지를 확인해 두는 게 좋아요.

출처: 공식문서

핵심 리소스

가장 먼저 보면 좋을 중심 모듈 가이드는 Chat Engines예요.

풀스택 챗봇 앱을 만드는 데 도움이 되는 추가 리소스도 함께 소개할게요.

  • Building a chatbot 튜토리얼
  • create-llama — 풀스택 챗봇 애플리케이션을 자동 생성해주는 커맨드라인 도구
  • SECinsights.ai — LlamaIndex로 SEC 서류에 대한 질문에 답하는 챗봇을 만든 오픈소스 애플리케이션
  • RAGs — OpenAI의 GPTs에서 영감을 받아 Streamlit으로 데이터 위의 로우코드 챗봇을 만들게 해주는 프로젝트
  • OpenAI agents는 모두 본질적으로 챗봇 형태예요.

더 알아보기

지식이 더해진 챗봇을 제대로 만들려면 Q&A(질의응답)부터 다지고, 대화 상태를 어떻게 유지할지는 Chat Engines 모듈 가이드에서 깊게 파고들면 좋아요.