NVIDIA · 4b

nemotron-3-nano

Nemotron-3-Nano is a new Standard for Efficient, Open, and Intelligent Agentic Models, now updated with a 4B parameter count model.

许可 unknownQ4 ~4GB舒适 8GB3–9B 入门档本地优先

部署预估(启发式)

默认推荐卡 RTX 4060 8GB · 量化 Q4 · ctx 8k · 并发 1

适配偏紧
需 / 有效显存7.4/8G
吞吐 tok/s~26.5
引擎Ollama / llama.cpp / llama-server

推荐:ollama → llamacpp,量化 Q4,先单流压测再开并发。

下载与部署入口

一键本地拉取

ollama run nemotron-3-nano
参数4b
默认量化Q4
默认上下文8K
发布

推荐引擎

  • Ollama(上手最快)
  • llama.cpp / llama-server

标签:推理 · Agent · 对话 · 家族 NemotronNVIDIA 开放权重;Nano/Super 适合推理栈。

入门阅读:本地部署 · 显存对照 · 量化

同家族

nemotron-3-nano · 开源下载与本地部署 · GrokCode 倍率榜