Mistral AI · 24b

devstral-small-2

24B model that excels at using tools to explore codebases, editing multiple files and power software engineering agents.

许可 unknownQ4 ~16.8GB舒适 28.8GB视觉 / OCR本地优先

部署预估(启发式)

默认推荐卡 RTX A6000 48GB · 量化 Q4 · ctx 8k · 并发 1

适配舒适
需 / 有效显存9.9/48G
吞吐 tok/s~57.4
引擎vLLM / TGI

推荐:vllm → tgi,量化 Q4,先单流压测再开并发。

下载与部署入口

一键本地拉取

ollama run devstral-small-2
参数24b
默认量化Q4
默认上下文8K
发布

推荐引擎

  • Ollama(上手最快)
  • llama.cpp / llama-server

标签:视觉 · 代码 · Agent · 对话 · 家族 Mistral欧洲开源;Small/Large/Mixtral/Devstral 覆盖。

入门阅读:本地部署 · 显存对照 · 量化

同家族

devstral-small-2 · 开源下载与本地部署 · GrokCode 倍率榜