Community · 24b

lfm2

LFM2 is a family of hybrid models designed for on-device deployment. LFM2-24B-A2B is the largest model in the family, scaling the architecture to 24 billion parameters while keeping inference efficient.

许可 unknownQ4 ~14GB舒适 24GB32–34B 单卡甜点本地优先

部署预估(启发式)

默认推荐卡 RTX 4090 24GB · 量化 Q4 · ctx 8k · 并发 1

适配偏紧
需 / 有效显存22.2/24G
吞吐 tok/s~29.5
引擎Ollama / vLLM

消费级单卡跑 32B:推荐 ollama + Q4;Agent 长上下文建议 concurrent=1。

下载与部署入口

一键本地拉取

ollama run lfm2
参数24b
默认量化Q4
默认上下文8K
发布

推荐引擎

  • Ollama(上手最快)
  • llama.cpp / llama-server

标签:Agent · 对话 · 家族 Other openCommand-R、Solar、RWKV、MiniCPM 等。

入门阅读:本地部署 · 显存对照 · 量化

同家族

lfm2 · 开源下载与本地部署 · GrokCode 倍率榜