InstructLab 실전·API — ilab 커맨드라인 레퍼런스

InstructLab 실전·API

InstructLab의 실질적인 작업은 ilab CLI로 이뤄져요. 이 페이지의 문서는 ilab 코드에서 자동 생성된 커맨드라인 레퍼런스예요. 데이터 추가부터 훈련·서빙까지의 워크플로를 CLI로 오케스트레이션할 수 있어요.

ilab 워크플로 개요

InstructLab 워크플로는 크게 다음 단계로 진행돼요.

  1. 환경 준비 — Python 3.10/3.11, C++ 컴파일러, ilab 설치
  2. 데이터 구성 — 택소노미 리포에 스킬·지식 기여 (지식·스킬 폴더에 qna.yaml)
  3. 합성 데이터 생성(Generate) — 택소노미를 바탕으로 훈련 데이터 합성
  4. 훈련(Train) — 합성 데이터로 모델 정렬 튜닝
  5. 서빙·평가(Serve/Test) — 모델을 띄우고 개선 확인

ilab 명령 예시

문서는 ilab의 각 서브커맨드와 옵션을 자동 생성해 보여줘요. 예를 들어 모델을 다운로드하고 구성하는 흐름은 대략 아래와 같아요.

# 설정 생성
ilab config init

# 모델 다운로드
ilab model download

# 위에서 구성한 택소노미로 데이터 생성
ilab data generate

# 훈련
ilab model train

# 서빙
ilab model serve

실제 사용 가능한 서브커맨드와 플래그는 실행 중인 버전의 ilab --help와 각 커맨드의 --help로 확인하는 게 정확해요.

성능 가속

문서에는 ilab을 빠르게 돌리기 위한 내용도 있어요.

  • AMD ROCm GPU용 InstructLab toolbox 컨테이너
  • Intel Gaudi / Habana Labs HPU + SynapseAI 지원
  • 선택사항: 모델을 GGUF로 변환·양자화

더 알아보기