nemotron
Llama-3.1-Nemotron-70B-Instruct is a large language model customized by NVIDIA to improve the helpfulness of LLM generated responses to user queries.
许可 unknownQ4 ~38.5GB舒适 49GB70B 旗舰本地优先
部署预估（启发式）
默认推荐卡 H100 80GB · 量化 Q4 · ctx 8k · 并发 1
适配偏紧
需 / 有效显存44.4/80G
吞吐 tok/s~26.2
引擎vLLM / SGLang
机房卡优先 vllm / sglang 连续服务；OpenAI 兼容对外暴露。
下载与部署入口
一键本地拉取
ollama run nemotron
参数70b
默认量化Q4
默认上下文8K
发布—
推荐引擎
- Ollama（上手最快）
- llama.cpp / llama-server
标签：Agent · 对话 · 家族 Nemotron：NVIDIA 开放权重；Nano/Super 适合推理栈。
同家族
- nemotron-3-super · 120b/12b · Q4~8GB
- Nemotron 3 Nano · 30B-A3B · Q4~16GB
- Nemotron 3 Super · 120B-A12B · Q4~48GB
- nemotron-3-nano · 4b · Q4~4GB
- nemotron-mini · ~7B · Q4~4GB
- nemotron3 · ~7B · Q4~6GB
站內推薦
同系工具：Clavue CLI / imux IDE / clavue-2.1
Clavue · CLI 与 Agent 平台
CLI / GUI Agent 运行时、设备登录、会员额度与 OpenAI 兼容 API（api.clavue.com）。开发脚本、CI 与本地工具一条链路。
打开 Clavue ↗imux · 原生 macOS AI IDE
Clavue 平台的原生 IDE：多 Agent 分屏、Ghostty 级终端、Agent Chat、浏览器自动化与 Supervisor——不是又一个 Electron 壳。
了解 imux ↗Clavue 2.1 · 产品级大模型
旗舰模型 clavue-2.1（及 fast / pro / rev）：适合复杂推理与长程 Agent 循环。Chat、imux、API 共用会员额度。
查看模型 ↗