Mistral AI · Small 22–24B

Mistral Small

中型开源；24GB 可 Q4/Q5。

许可 Apache-2.0Q4 ~14GB舒适 24GB32–34B 单卡甜点本地优先

部署预估（启发式）

默认推荐卡 RTX 4090 24GB · 量化 Q4 · ctx 8k · 并发 1

适配偏紧

需 / 有效显存22.2/24G

吞吐 tok/s~29.5

引擎Ollama / vLLM

消费级单卡跑 32B：推荐 ollama + Q4；Agent 长上下文建议 concurrent=1。

完整计算器 · 改卡/多卡/费用去 Ollama 拉取下载权重

下载与部署入口

Hugging Face 权重 Ollama Library 站内价格/能力打开部署计算器（预填）同家族再选一个对比

一键本地拉取

ollama run mistral-small

参数Small 22–24B

默认量化Q4

默认上下文8K

发布2025

推荐引擎

Ollama（上手最快）
vLLM（高吞吐 OpenAI 兼容）

标签：对话 · 代码 · 多语 · 家族 Mistral：欧洲开源；Small/Large/Mixtral/Devstral 覆盖。

入门阅读：本地部署 · 显存对照 · 量化

同家族

関連ツール

Clavue CLI / imux IDE / clavue-2.1

Clavue 平台 ↗

Clavue · CLI 与 Agent 平台

CLI / GUI Agent 运行时、设备登录、会员额度与 OpenAI 兼容 API（api.clavue.com）。开发脚本、CI 与本地工具一条链路。

打开 Clavue ↗

imux · 原生 macOS AI IDE

Clavue 平台的原生 IDE：多 Agent 分屏、Ghostty 级终端、Agent Chat、浏览器自动化与 Supervisor——不是又一个 Electron 壳。

了解 imux ↗

Clavue 2.1 · 产品级大模型

旗舰模型 clavue-2.1（及 fast / pro / rev）：适合复杂推理与长程 Agent 循环。Chat、imux、API 共用会员额度。

查看模型 ↗

Mistral Small · 开源下载与本地部署 · GrokCode 倍率榜