Llama Packs — 준비된 템플릿으로 빠르게 시작하기

Llama Packs — 준비된 템플릿으로 빠르게 시작하기

LLM 앱을 만들 때마다 똑같은 고민을 하게 돼요 — 사용 사례마다 커스텀 컴포넌트를 조합하고, 튜닝하고, 개발 시간을 쏟아야 한다는 거요. Llama Packs는 바로 이 고통을 해결하려는 커뮤니티 주도의 사전 패키징된 모듈/템플릿 허브예요. "내가 만들려던 바로 그 시작점"을 다운로드받아 뼈대를 잡고 재료를 바꿔 끼우면 개발 속도가 확 달라져요.

출처: 공식문서

개념 — 팩을 쓰는 두 가지 방법

Llama Packs는 두 가지 방식으로 활용할 수 있어요.

  • 사전 패키징된 모듈 — 파라미터로 초기화하고 바로 실행해 특정 사용 사례(전체 RAG 흐름, 애플리케이션 템플릿 등)를 달성하는 형태. 사용할 하위 모듈(LLM, 쿼리 엔진 등)만 import해서 직접 쓰는 것도 가능해요.
  • 템플릿 — 안을 열어보고, 수정하고, 사용하는 형태.

모든 팩은 LlamaHub에서 찾을 수 있어요. 드롭다운 메뉴에서 "LlamaPacks"를 선택해 팩 단위로 필터링하면 돼요.

각 팩의 사용법은 팩의 README를 반드시 확인해주세요. 예시 팩을 참고해요.

사용 패턴

CLI 또는 Python으로 Llama Packs를 사용할 수 있어요.

CLI:

llamaindex-cli download-llamapack <pack_name> --download-dir <pack_directory>

Python:

from llama_index.core.llama_pack import download_llama_pack


# 팩 다운로드 및 의존성 설치
pack_cls = download_llama_pack("<pack_name>", "<pack_directory>")

팩은 모듈을 살펴보거나 e2e로 실행하거나 템플릿을 커스터마이즈하는 등 다양한 방식으로 쓸 수 있어요.

# 모든 팩은 서로 다른 인자로 초기화된다
pack = pack_cls(*args, **kwargs)


# 모듈 가져오기
modules = pack.get_modules()
display(modules)


# 실행하기 (팩마다 인자 다름)
output = pack.run(*args, **kwargs)

중요한 점은 pack_directory에 들어가 소스 파일을 직접 열어보고 커스터마이즈하는 것도 권장된다는 거예요. 그것이 팩의 존재 이유 중 하나니까요!

모듈 가이드

아래는 몇 가지 예시 모듈 가이드예요. 전체 팩 목록은 LlamaHub에서 확인하세요.

더 알아보기