Llama 3.1 Nemotron Nano 8B — 모델 개요

Llama 3.1 Nemotron Nano 8B — 모델 개요

Llama 3.1 Nemotron Nano 8B v1은 엔비디아가 에이전틱 AI와 긴 컨텍스트 대화를 겨냥해 만든 8B 파라미터 모델이에요. 개발자용 데스크톱·워크스테이션에서 로컬로 돌릴 수 있는 크기와 성능의 균형을 목표로 해요. 모델은 128K 토큰 컨텍스트를 지원하며, 단일 RTX GPU에서 실행할 수 있어요.

출처: nvidia/Llama-3.1-Nemotron-Nano-8B-v1

주요 특징

  • 컨텍스트 길이: 128K 토큰
  • 크기: 8B 파라미터 — 단일 RTX GPU에서 로컬 구동 가능
  • 런타임 엔진: NeMo 24.12 연동 (NVIDIA 문서 기준)
  • 용도: 에이전트 워크플로우, 긴 문서 요약, RAG, 도구 호출(tool-calling)

다단계(multi-phase) 정렬 과정을 거쳐 만들어졌고, 같은 계열의 더 큰 모델(Llama 3.1 Nemotron Super 49B, Ultra 253B)과 함께 에이전틱 AI 제품군을 구성해요.

더 알아보기