DeepSeek-R1 Distill 32B
蒸馏 32B;24GB 卡推理能力明显强于 8B。
许可 MITQ4 ~18GB舒适 24GB32–34B 单卡甜点本地优先
部署预估(启发式)
默认推荐卡 RTX 4090 24GB · 量化 Q4 · ctx 8k · 并发 1
适配偏紧
需 / 有效显存22.2/24G
吞吐 tok/s~29.5
引擎Ollama / vLLM
消费级单卡跑 32B:推荐 ollama + Q4;Agent 长上下文建议 concurrent=1。
下载与部署入口
一键本地拉取
ollama run deepseek-r1:32b
参数32B distill
默认量化Q4
默认上下文8K
发布2025
推荐引擎
- Ollama(上手最快)
- vLLM(高吞吐 OpenAI 兼容)
- llama.cpp / llama-server
标签:推理 · 数学 · 代码 · 家族 DeepSeek:推理 / 代码 / V3 系;大 MoE 需机房或多卡。
同家族
- DeepSeek-V3 · 671B MoE · Q4~200GB
- DeepSeek-R1 Distill Llama/Qwen 8B · 8B distill · Q4~6GB
- DeepSeek-Coder-V2 · 236B MoE · Q4~48GB
- deepseek-coder · ~7B · Q4~4GB
- deepseek-llm · ~7B · Q4~4GB
- deepseek-v2 · ~7B · Q4~4GB
站内推荐
同系工具:Clavue CLI / imux IDE / clavue-2.1
Clavue · CLI 与 Agent 平台
CLI / GUI Agent 运行时、设备登录、会员额度与 OpenAI 兼容 API(api.clavue.com)。开发脚本、CI 与本地工具一条链路。
打开 Clavue ↗imux · 原生 macOS AI IDE
Clavue 平台的原生 IDE:多 Agent 分屏、Ghostty 级终端、Agent Chat、浏览器自动化与 Supervisor——不是又一个 Electron 壳。
了解 imux ↗Clavue 2.1 · 产品级大模型
旗舰模型 clavue-2.1(及 fast / pro / rev):适合复杂推理与长程 Agent 循环。Chat、imux、API 共用会员额度。
查看模型 ↗