하드웨어

하드웨어 (Hardware)

허브에 어떤 컴퓨트 하드웨어(GPU, CPU, Apple Silicon)를 보유하고 있는지 알려주면, 내 설정에서 동작하는 모델을 찾는 데 도움을 줘요. 이 정보는 공개 프로필에도 표시되어 커뮤니티와 내 구성을 비교할 수 있고, 언제든 비공개로 전환할 수 있어요.

출처: 문서

본문

언제든 하드웨어 설정에서 관리할 수 있어요.

하드웨어 추가하기

하드웨어 설정 페이지에서 보유한 각 하드웨어를 추가하세요:

  1. 유형(type) 선택: GPU, CPU, 또는 Apple Silicon.
  2. **제공사(provider)**와 모델(model) 선택(예: NVIDIA RTX 4090).
  3. 메모리(VRAM, RAM, 또는 unified memory)와 보유 개수(num units) 설정.

원하는 만큼 여러 항목을 추가할 수 있어요. 여러 개를 보유한 경우 하나를 기본(primary) 하드웨어로 표시하면 모델 페이지에서 먼저 표시돼요.

[!TIP] 하드웨어는 기본적으로 공개입니다. Publicly Visible 토글을 꺼서 비공개로 유지하세요.

내 하드웨어에 맞는 모델 확인하기

GGUF 또는 MLX 파일을 제공하는 모델 페이지에는 Hardware compatibility 패널이 있어, 각 양자화(quantization)가 저장된 내 하드웨어에서 실행될지 추정해 줘요. 다운로드 전에 맞는 크기를 고를 수 있게 해 줍니다. Local Apps와 함께 사용하면 몇 번의 클릭으로 바로 실행할 수 있어요.

공유하고 비교하기

하드웨어가 공개인 동안에는:

  • 프로필에 총 추정 컴퓨트 성능을 요약하는 TFLOPS 배지가 표시돼요.
  • 커뮤니티가 무엇을 실행 중인지 탐색하고 GPU, CPU, Apple Silicon 간에 내 구성이 어떻게 비교되는지 볼 수 있어요.

API로 하드웨어 읽기

하드웨어가 공개라면 프로그래밍 방식으로도 접근할 수 있어요:

  • GET https://huggingface.co/oauth/userinfo — 앱에 profile 스코프가 부여된 경우 hardwareItems 클레임을 포함하므로, Sign in with Hugging Face 앱이 추가 호출 없이 로그인한 사용자의 구성을 읽을 수 있어요.
  • GET https://huggingface.co/api/users/{username}/overview — 하드웨어가 공개인 모든 사용자에 대해 hardwareItems 배열을 반환해요.
curl https://huggingface.co/api/users/{username}/overview

{
  "hardwareItems": [
    { "sku": ["GPU", "NVIDIA", "RTX 4090"], "mem": 24, "num": 2, "isPrimary": true }
  ]
}

각 항목은 다음을 포함해요:

  • sku: [type, provider, model] 삼중(triplet) 배열.
  • mem: 메모리(GB)(VRAM, RAM, 또는 unified memory).
  • num: 개수.
  • isPrimary: 기본으로 표시된 항목에만 존재.

사용자가 Publicly Visible 토글을 꺼두면 hardwareItems는 두 응답 모두에서 생략돼요. 전체 응답 스키마는 Hub API 문서를 참고하세요.

다음 단계

더 알아보기 (Learn more)