프롬프팅으로 LLM 애플리케이션 시작하기

LLM에게 프롬프트를 주는 일은 모든 LLM 애플리케이션의 기본 단위예요. 프롬프팅만으로 애플리케이션 전체를 만들 수도 있고, 검색(retrieval) 같은 다른 모듈과 엮어 RAG나 에이전트를 만들 수도 있죠.

LlamaIndex는 LLM 추상화와 단순한 수준부터 고급 수준까지의 프롬프트 추상화를 지원해서, 복잡한 프롬프트 워크플로를 가능하게 해줘요.

출처: 공식문서

LLM 통합

LlamaIndex는 40개 이상의 LLM 통합을 지원해요. OpenAI·Anthropic 같은 상용 모델 프로바이더부터 Mistral·Ollama·Replicate 같은 오픈소스 모델/프로바이더까지 폭넓게 다뤄요. async, 스트리밍, 함수 호출(function calling)을 포함한 흔한 LLM 사용 패턴 주변의 인터페이스를 표준화하는 도구를 모두 갖추고 있죠. 전체 모듈 가이드는 LLMs를 참고하세요.

프롬프트

LlamaIndex는 LLM과의 흔한 상호작용 패턴을 모두 담아내는 튼튼한 프롬프트 추상화를 갖추고 있어요. 전체 모듈 가이드는 Prompts를 참고하세요.

기본 프롬프트

텍스트 완성 프롬프트(Text Completion Prompts)
채팅 프롬프트(Chat Prompts)

고급 프롬프트

변수 매핑, 함수, 부분 적용(Variable Mappings, Functions, Partials)
RichPromptTemplate 기능

프롬프트 체인과 파이프라인

LlamaIndex는 순차적인 프롬프트 체인뿐 아니라, 프롬프트를 다른 어떤 컴포넌트와도 오케스트레이션하는 일반 DAG를 만드는 데도 튼튼한 추상화를 제공해요. 덕분에 멀티홉 쿼리 이해 계층이 있는 RAG나 에이전트를 포함한 복잡한 워크플로를 만들 수 있어요. 이런 파이프라인은 관측성(observability) 파트너와 기본적으로 통합돼 있어요.

더 알아보기

프롬프트 템플릿을 내 방식대로 다듬고 싶다면 Prompts 모듈 가이드를 추천해요. 프롬프트를 여러 단계로 엮어 복잡한 흐름을 만드는 법은 Workflows 모듈 가이드에서 이어 설명할게요.