커미터
커미터 (Committers)
이 문서는 vLLM 프로젝트의 현재 커미터들과 그들이 유지보수하는 핵심 영역을 나열해요. 커미터는 vLLM 저장소에 대한 쓰기 접근 권한이 있고, PR 리뷰와 병합의 책임을 져요. 파일 수준의 소유권과 리뷰어에 대해서는 CODEOWNERS 파일을 참고할 수 있습니다. 이 문서와 CODEOWNERS 파일은 둘 다 살아있는 문서로서 서로 보완해요.
활동 중인 커미터 (Active Committers)
각 커미터의 역할을 몇 단어로 요약해요. vLLM 커미터는 넓은 범위의 영역을 다루며 유지보수 과정에서 서로를 도와줍니다. GitHub 핸들로 알파벳 순 정렬돼 있어요.
- @aarnphm: 구조화된 출력 (Structured output)
- @AndreasKaratzas: ROCm / AMD GPU 통합, CI
- @ApostaC: 커넥터, 오프로딩 (offloading)
- @bbrowning: 도구 사용 및 추론 파서
- @benchislett: 엔진 코어 (Engine core) 및 스펙 디코딩
- @bigPYJ1151: Intel CPU/XPU 통합
- @BoyuanFeng: 컴파일, CUDAGraph
- @BugenZhao: Rust 프론트엔드
- @chaunceyjiang: 도구 사용 및 추론 파서
- @DarkLight1337: 멀티모달, API 서버
- @dllehr-amd: AMD 통합
- @esmeetu: 개발자 마케팅, 커뮤니티
- @gshtras: ROCm / AMD GPU 통합
- @Harry-Chen: 빌드, CI, CUDA 아키텍처
- @heheda12345: 하이브리드 메모리 할당자
- @hmellor: Hugging Face 통합, 문서화
- @hongxiayang: AMD GPU / ROCm 통합
- @houseroad: 엔진 코어 및 Llama 모델
- @Isotr0py: 멀티모달, 새 모델 지원
- @ivanium: KV Connector 및 오프로드
- @jeejeelee: LoRA, 새 모델 지원
- @jikunshang: Intel CPU/XPU 통합
- @khluu: CI 인프라
- @LucasWilkinson: 커널 및 성능
- @markmc: 관측성 (Observability)
- @MatthewBonanni: 커널 및 성능
- @mgoin: 양자화 및 성능
- @NickLucche: KV 커넥터
- @njhill: 분산, API 서버, 엔진 코어
- @noooop: Pooling 모델
- @orozery: KV Connector 및 오프로드
- @pavanimajety: NVIDIA GPU 통합
- @ProExpertProg: 컴파일, 시작 UX
- @robertgshaw2-redhat: 코어, 분산, disagg
- @russellb: 구조화된 출력, 엔진 코어, 보안
- @sfeng33: 도구 사용 및 추론 파서
- @shen-shanshan: AMD GPU / ROCm 통합, 멀티모달, ViT CUDA 그래프
- @simon-mo: 프로젝트 리드, API 엔트리포인트, 커뮤니티
- @tdoublep: 상태 공간 모델
- @tjtanaa: AMD GPU 통합
- @tlrmchlsmth: 커널 및 성능, 분산, disagg
- @tomeras91: MoE, Mamba, Ray
- @vadiklyutiy: CI, 성능, 커널
- @WoosukKwon: 프로젝트 리드, 엔진 코어
- @xinli-sw: 양자화 및 모델 지원
- @xuechendi: Intel CPU/XPU 통합, KV 커넥터
- @yaochengji: TPU 통합
- @yewentao256: 커널 및 성능
- @Yikun: 플러그인 가능한 하드웨어 인터페이스
- @youkaichao: 프로젝트 리드, 분산, 컴파일, 커뮤니티
- @ywang96: 멀티모달, 벤치마크
- @zhuohan123: 프로젝트 리드, RL 통합, 수치
- @ZJY0516: 상태 공간 모델, 스펙 디코딩, 새 모델 지원
- @zou3519: 컴파일
- @zyongye: MoE 커널 및 양자화
명예 커미터 (Emeritus Committers)
과거에 vLLM에 크게 기여했지만(감사합니다!) 더 이상 활동하지 않는 커미터들이에요. 예를 들어 @cadedaniel(스페큘레이티브 디코딩), @comaniac(KV cache 관리, 파이프라인 병렬), @pcmoritz(MoE), @KuntaiDu(KV Connector) 등이 있어요. 전체 목록은 위 본문 목록을 참고하세요.
Area Owners
이 섹션은 활동 중인 커미터를 vLLM 컴포넌트별로 나누고 area owner를 나열해요. 해당 영역을 건드리는 PR이 있다면 area owner를 리뷰로 불러도 괜찮아요.
엔진 코어 (Engine Core)
- Scheduler: 핵심 vLLM 엔진 루프가 요청을 다음 배치로 스케줄링하는 역할 — @WoosukKwon, @robertgshaw2-redhat, @njhill, @heheda12345
- KV Cache Manager: 스케줄러 내 메모리 관리 레이어 — @heheda12345, @WoosukKwon
- AsyncLLM: 엔진 코어를 호스팅하는 zmq 기반 프로토콜 — @robertgshaw2-redhat, @njhill, @russellb
- ModelRunner, Executor, Worker: @WoosukKwon, @tlrmchlsmth 등
- KV Connector: KV cache 오프로드/전송용 커넥터 — @robertgshaw2-redhat, @njhill, @NickLucche 등
- 분산, 병렬, 프로세스 관리: @youkaichao, @njhill, @WoosukKwon
모델 구현 (Model Implementations)
- Model Interface: 각종 모델의
nn.Module인터페이스 — @zhuohan123, @mgoin, @simon-mo 등 - Quantization: @mgoin, @Isotr0py, @yewentao256 등
- 멀티모달 입력 처리: @DarkLight1337, @ywang96, @Isotr0py
- 추론 및 도구 호출 파서: @chaunceyjiang, @aarnphm, @sfeng33, @bbrowning
엔트리포인트 (Entrypoints)
- LLM Class: @DarkLight1337
- API Server: OpenAI 호환 API 서버 — @DarkLight1337, @njhill, @aarnphm, @simon-mo
- Rust Frontend: @BugenZhao, @njhill
특징 (Features)
- Spec Decode: @WoosukKwon, @benchislett, @MatthewBonanni
- Structured Output: @russellb, @aarnphm
- RL: @youkaichao, @zhuohan123
- Observability: @markmc, @robertgshaw2-redhat, @simon-mo
코드 베이스 (Code Base)
- Documentation: @hmellor, @DarkLight1337, @simon-mo
- CI, Build, Release: @khluu, @njhill, @simon-mo
- Security: @russellb
하드웨어 (Hardware)
- NVIDIA GPU: @pavanimajety
- AMD GPU: @gshtras, @tjtanaa, @hongxiayang 등
- Intel CPU/GPU: @jikunshang, @bigPYJ1151, @xuechendi
- Google TPU: @yaochengji
커미터 목록과 영역은 시간이 지나면서 바뀌므로, 항상 최신 커미터 페이지를 확인하는 게 좋아요.