Qwen3.6-35B-A3B-MTP
Hugging Face GGUF · downloads ~636,347. Repo: unsloth/Qwen3.6-35B-A3B-MTP-GGUF
许可 unknownQ4 ~24.5GB舒适 42GB视觉 / OCR本地优先
部署预估(启发式)
默认推荐卡 RTX A6000 48GB · 量化 Q4 · ctx 8k · 并发 1
适配舒适
需 / 有效显存9.9/48G
吞吐 tok/s~57.4
引擎vLLM / TGI
推荐:vllm → tgi,量化 Q4,先单流压测再开并发。
下载与部署入口
无官方 Ollama slug 时:从 HF GGUF 下载后用 llama.cpp / LM Studio,或 ollama create 自定义。
参数~35B
默认量化Q4
默认上下文8K
发布2026-05-11
推荐引擎
- llama.cpp / llama-server
- Ollama(上手最快)
标签:视觉 · MoE · 对话 · 家族 Qwen:中文与 coding 强;体积档齐全,Ollama/HF 生态完整。
同家族
- Qwen2.5 7B Instruct · 7B · Q4~5GB
- qwen2.5-coder · ~7B · Q4~4GB
- Qwen3 32B · 32B · Q4~18GB
- Qwen2.5 32B Instruct · 32B · Q4~18GB
- Qwen3 8B · 8B · Q4~6GB
- Qwen2.5 72B Instruct · 72B · Q4~38GB
站内推荐
同系工具:Clavue CLI / imux IDE / clavue-2.1
Clavue · CLI 与 Agent 平台
CLI / GUI Agent 运行时、设备登录、会员额度与 OpenAI 兼容 API(api.clavue.com)。开发脚本、CI 与本地工具一条链路。
打开 Clavue ↗imux · 原生 macOS AI IDE
Clavue 平台的原生 IDE:多 Agent 分屏、Ghostty 级终端、Agent Chat、浏览器自动化与 Supervisor——不是又一个 Electron 壳。
了解 imux ↗Clavue 2.1 · 产品级大模型
旗舰模型 clavue-2.1(及 fast / pro / rev):适合复杂推理与长程 Agent 循环。Chat、imux、API 共用会员额度。
查看模型 ↗