Zhipu · 32B

GLM-4-32B

更大 GLM;24GB+ 量化。

许可 otherQ4 ~18GB舒适 24GB32–34B 单卡甜点本地优先

部署预估(启发式)

默认推荐卡 RTX 4090 24GB · 量化 Q4 · ctx 8k · 并发 1

适配偏紧
需 / 有效显存22.2/24G
吞吐 tok/s~29.5
引擎Ollama / vLLM

消费级单卡跑 32B:推荐 ollama + Q4;Agent 长上下文建议 concurrent=1。

下载与部署入口

无官方 Ollama slug 时:从 HF GGUF 下载后用 llama.cpp / LM Studio,或 ollama create 自定义。

许可说明:以智谱开源协议为准

参数32B
默认量化Q4
默认上下文8K
发布2025

推荐引擎

  • vLLM(高吞吐 OpenAI 兼容)
  • SGLang

标签:对话 · Agent · 代码 · 家族 GLM / ChatGLM智谱开源线;中文对话与工具调用。

入门阅读:本地部署 · 显存对照 · 量化

同家族

GLM-4-32B · 开源下载与本地部署 · GrokCode 倍率榜