Gemma-4-31B-it-abliterated
Hugging Face GGUF · downloads ~348,360. Repo: paperscarecrow/Gemma-4-31B-it-abliterated
许可 unknownQ4 ~17.1GB舒适 24GB32–34B 单卡甜点本地优先
部署预估（启发式）
默认推荐卡 RTX 4090 24GB · 量化 Q4 · ctx 8k · 并发 1
适配偏紧
需 / 有效显存22.2/24G
吞吐 tok/s~29.5
引擎Ollama / vLLM
消费级单卡跑 32B：推荐 ollama + Q4；Agent 长上下文建议 concurrent=1。
下载与部署入口
无官方 Ollama slug 时：从 HF GGUF 下载后用 llama.cpp / LM Studio，或 ollama create 自定义。
参数~31B
默认量化Q4
默认上下文8K
发布2026-04-02
推荐引擎
- llama.cpp / llama-server
- Ollama（上手最快）
标签：对话 · 家族 Gemma：Google 开放权重；小体积本地友好。
同家族
- gemma4 · ~7B · Q4~6GB
- gemma · ~7B · Q4~4GB
- Gemma 3 12B · 12B · Q4~9GB
- Gemma 3 27B · 27B · Q4~16GB
- Gemma 2 9B · 9B · Q4~7GB
- Gemma 2 27B · 27B · Q4~16GB
Related tools
Clavue CLI / imux IDE / clavue-2.1
Clavue · CLI 与 Agent 平台
CLI / GUI Agent 运行时、设备登录、会员额度与 OpenAI 兼容 API（api.clavue.com）。开发脚本、CI 与本地工具一条链路。
打开 Clavue ↗imux · 原生 macOS AI IDE
Clavue 平台的原生 IDE：多 Agent 分屏、Ghostty 级终端、Agent Chat、浏览器自动化与 Supervisor——不是又一个 Electron 壳。
了解 imux ↗Clavue 2.1 · 产品级大模型
旗舰模型 clavue-2.1（及 fast / pro / rev）：适合复杂推理与长程 Agent 循环。Chat、imux、API 共用会员额度。
查看模型 ↗