LitGPT — Lightning AI 의 LLM 파인튜닝·서빙 프레임워크

LitGPT 는 Lightning AI 의 오픈소스 LLM 라이브러리로, 20+ 고성능 LLM 을 빠르게 파인튜닝·프리트레이닝·서빙하기 위한 레시피를 제공합니다. 단일 litgpt CLI 로 serve/finetune/pretrain/chat/evaluate 를 실행하고, litgpt.LLM API 로 몇 줄이면 모델을 로드해 추론할 수 있습니다. 파인튜닝·양자화·저메모리 GPU 지원과 생산 규모 최적화를 내세웁니다.