모델 목록 — 어떤 모델을 쓸 수 있나
모델 목록 — 어떤 모델을 쓸 수 있나
추론 요청을 보내기 전에 ""이 플랫폼이 어떤 모델을 서빙하지?""가 가장 궁금할 거예요. Nebius Token Factory의 모델 목록 API가 이를 알려줘요.
출처: https://docs.tokenfactory.nebius.com/api-reference/models/list-models
Token Factory는 오픈소스 중심의 다양한 모델을 서빙해요. LLaMA 계열처럼 허브 ID로 참조되는 모델이 대표적이고, 요청할 때 모델 이름으로 어떤 것을 골라 쓸지 정하게 돼요. 모델 선택은 OpenAI 호환 요청의 model 필드에 넣는 값으로 결정돼요.
플레이그라운드에서 모델 설정을 보고, 그 구성을 코드로 그대로 내보내는 기능도 있어요. 플레이그라운드에서 'View code'를 누르면 지금 세팅한 모델과 파라미터가 API 호출 코드로 생성되죠. 그래서 실험 단계의 설정을 앱 코드로 옮길 때 타이핑 없이 그대로 사용할 수 있어요.
모델 목록은 플랫폼이 계속 갱신하니, 실제로 어떤 모델을 쓸 수 있는지는 최신 목록 API를 확인하는 게 정확해요. 이 문서도 그 목록을 조회하는 방법을 안내해요.