모델 체크포인트
모델 체크포인트
Evo 2의 사전훈련 모델 체크포인트는 Hugging Face(arcinstitute)에 호스팅돼 있어요. 크기와 컨텍스트 길이에 따라 다양한 옵션이 있어서, 작업에 맞게 고를 수 있어요.
사용 가능한 체크포인트
| 체크포인트 | 설명 |
|---|---|
evo2_40b |
40B 파라미터, 1M 컨텍스트 |
evo2_20b |
20B 파라미터, 1M 컨텍스트 |
evo2_7b |
7B 파라미터, 1M 컨텍스트 |
evo2_40b_base |
40B 파라미터, 8K 컨텍스트 |
evo2_7b_base |
7B 파라미터, 8K 컨텍스트 |
evo2_1b_base |
더 작은 1B 파라미터, 8K 컨텍스트 |
evo2_7b_262k |
7B 파라미터, 262K 컨텍스트 |
evo2_7b_microviridae |
Microviridae 게놈으로 파인튜닝된 7B 베이스 모델 |
NVIDIA BioNeMo 버전
NVIDIA BioNeMo 프레임워크에도 NeMo2 포맷으로 변환된 Evo 2 모델이 있어요.
evo2/1b-8k:1.0— 8K 컨텍스트 1B 모델 (BF16 변형evo2/1b-8k-bf16:1.0)evo2/7b-8k:1.0— 8K 컨텍스트 7B 모델evo2/7b-1m:1.0— 1M 컨텍스트 7B 모델
Savanna 포맷 체크포인트(arcinstitute/savanna_evo2_40b_base, savanna_evo2_40b 등)는 Hugging Face에서 받아 BioNeMo 파인튜닝 예제를 따라 NeMo2 포맷으로 변환할 수 있어요.