환경 변수
환경 변수 (Environment variables)
Transformers의 동작을 제어하는 환경 변수에 대해 알아봅니다. 불리언 변수는 대소문자와 무관하게 1, on, yes, 또는 true를 허용하며, 그 외의 값(설정되지 않은 경우 포함)은 false로 취급됩니다.
출처: 문서
본문
불리언 변수는 대소문자와 무관하게 1, on, yes, 또는 true를 허용합니다. 그 외의 값(설정되지 않은 경우 포함)은 false입니다.
이 변수 대부분은 Transformers가 import될 때 한 번 읽힙니다. Python을 시작하기 전에 셸에서 설정하거나, import 전에 os.environ으로 설정하세요. 이후에 변경해도 효과가 없습니다.
TRANSFORMERS_VERBOSITY=info python run.py
캐싱과 Hub 접근은 huggingface_hub이 소유한 HF_* 변수(HF_HOME, HF_HUB_OFFLINE 등)로 구성됩니다. 오프라인 워크플로는 Installation을 참고하세요.
Logging
Transformers는 warning 레벨로 로그를 남깁니다. Logging은 logging.set_verbosity()를 포함한 동등한 Python API를 문서화합니다.
| Variable | Values | Description |
|---|---|---|
TRANSFORMERS_VERBOSITY |
detail, debug, info, warning, error, critical |
라이브러리 로그 레벨. detail은 debug와 동일하며 각 메시지에 파일 이름과 줄 번호를 추가. 인식되지 않는 값은 경고를 내고 warning으로 폴백. |
TRANSFORMERS_NO_ADVISORY_WARNINGS |
boolean | 문제를 나타내지 않는 모범 사례 힌트인 권고(advisory) 경고를 무음 처리. |
Model loading
체크포인트 샤드는 기본적으로 병렬로 로드됩니다.
| Variable | Values | Description |
|---|---|---|
HF_DEACTIVATE_ASYNC_LOAD |
boolean | 스레드 풀 대신 메인 스레드에서 샤드를 로드. 더 느리지만 최대 메모리를 추론하기 쉬움. device_map이 디스크로 오프로드하거나 즉석 양자화를 수행할 때는 로딩이 이미 순차적이므로 이 변수는 그 외의 병렬 로드에만 영향을 줌. |
DISABLE_SAFETENSORS_CONVERSION |
boolean | Transformers가 PyTorch .bin 가중치만 제공하는 저장소에 대해 Hub 변환 봇에 safetensors 버전을 요청하는 것을 중지. 요청이 지연과 네트워크 불안정성을 추가하는 CI에서 설정할 가치가 있음. |
Kernels and backends
kernels이 설치되고 하드웨어가 지원하면 최적화된 커널이 Hub에서 다운로드됩니다. 수치적 차이 또는 크래시를 격리하려면 이를 비활성화하세요.
| Variable | Values | Description |
|---|---|---|
USE_HUB_KERNELS |
boolean, 기본 활성화 | false 값으로 설정하면 참조 구현으로 폴백. |
TRANSFORMERS_DISABLE_DEEPGEMM_LINEAR |
1 |
finegrained FP8 양자화에서 FP8 linear 레이어에 DeepGEMM 대신 Triton 폴백을 강제. |
TRANSFORMERS_DISABLE_TORCH_CHECK |
1 |
import 시 최소 PyTorch 버전 검사를 건너뜀. |
[!WARNING]
TRANSFORMERS_DISABLE_TORCH_CHECK는 동작을 바꾸기보다 가드를 제거합니다. 지원되지 않는 PyTorch 버전에서는 명확한 메시지 대신 import 오류나 조용히 잘못된 결과가 발생합니다.