llama.cpp 명령줄 완성

llama.cpp 명령줄 완성 (Completions)

llama.cpp는 일부 환경에서 명령줄 완성(command-line completion)을 지원해요. 탭 키를 눌렀을 때 명령과 옵션을 자동 완성해 주는 기능이에요. Bash 셸에서 가장 잘 동작해요.

이 기능을 쓰면 llama-cli, llama-server 같은 실행 파일의 옵션을 하나씩 기억하지 않아도 되고, 실수를 줄일 수 있어요.

출처: llama.cpp Completions 문서

Bash 완성 설정

llama-completion 실행 파일로 완성 스크립트를 만들어 적용하면 돼요.

$ build/bin/llama-cli --completion-bash > ~/.llama-completion.bash
$ source ~/.llama-completion.bash

이렇게 하면 현재 셸 세션에서 바로 완성이 동작해요. 새 터미널을 열 때마다 자동으로 적용되게 하려면 .bashrc나 .bash_profile에 등록해 두면 돼요.

$ echo "source ~/.llama-completion.bash" >> ~/.bashrc

이제 새 셸을 열면 llama-cli 등 을 입력할 때 탭 완성이 자동으로 켜져 있어요.

완성이 가능한 환경

완성 기능은 셸 환경에 따라 지원 여부가 달라요. 공식 문서에서는 Bash 완성을 다루고 있으며, 다른 셸(zsh, fish 등)은 환경에 따라 스크립트를 직접 구성해야 할 수 있어요.

더 알아보기