DeepSeek-V3
超大 MoE；机房多卡 / 云推理，不适合单消费卡。
许可 DeepSeekQ4 ~200GB舒适 400GB100B+ / 大 MoE
部署预估（启发式）
默认推荐卡 H100 80GB · 量化 Q4 · ctx 8k · 并发 1
适配舒适
需 / 有效显存59.1/80G
吞吐 tok/s~14.2
引擎vLLM / SGLang
机房卡优先 vllm / sglang 连续服务；OpenAI 兼容对外暴露。
下载与部署入口
无官方 Ollama slug 时：从 HF GGUF 下载后用 llama.cpp / LM Studio，或 ollama create 自定义。
参数671B MoE
激活约37B
默认量化Q4
默认上下文8K
发布2024
推荐引擎
- vLLM（高吞吐 OpenAI 兼容）
- SGLang
标签：对话 · 代码 · MoE · Agent · 家族 DeepSeek：推理 / 代码 / V3 系；大 MoE 需机房或多卡。
同家族
- DeepSeek-R1 Distill Llama/Qwen 8B · 8B distill · Q4~6GB
- DeepSeek-R1 Distill 32B · 32B distill · Q4~18GB
- DeepSeek-Coder-V2 · 236B MoE · Q4~48GB
- deepseek-coder · ~7B · Q4~4GB
- deepseek-llm · ~7B · Q4~4GB
- deepseek-v2 · ~7B · Q4~4GB
Related tools
Clavue CLI / imux IDE / clavue-2.1
Clavue · CLI 与 Agent 平台
CLI / GUI Agent 运行时、设备登录、会员额度与 OpenAI 兼容 API（api.clavue.com）。开发脚本、CI 与本地工具一条链路。
打开 Clavue ↗imux · 原生 macOS AI IDE
Clavue 平台的原生 IDE：多 Agent 分屏、Ghostty 级终端、Agent Chat、浏览器自动化与 Supervisor——不是又一个 Electron 壳。
了解 imux ↗Clavue 2.1 · 产品级大模型
旗舰模型 clavue-2.1（及 fast / pro / rev）：适合复杂推理与长程 Agent 循环。Chat、imux、API 共用会员额度。
查看模型 ↗