RWKV · 7.2B

RWKV-7 7B

RNN 式架构;长上下文与低 KV 特性。

许可 Apache-2.0Q4 ~5GB舒适 10GB3–9B 入门档本地优先

部署预估(启发式)

默认推荐卡 RTX 4060 Ti 16GB · 量化 Q4 · ctx 16k · 并发 1

适配舒适
需 / 有效显存8.7/16G
吞吐 tok/s~33.1
引擎Ollama / llama.cpp / llama-server

推荐:ollama → llamacpp,量化 Q4,先单流压测再开并发。

下载与部署入口

无官方 Ollama slug 时:从 HF GGUF 下载后用 llama.cpp / LM Studio,或 ollama create 自定义。

参数7.2B
默认量化Q4
默认上下文16K
发布2025

推荐引擎

  • llama.cpp / llama-server
  • Ollama(上手最快)

标签:对话 · 家族 Other openCommand-R、Solar、RWKV、MiniCPM 等。

入门阅读:本地部署 · 显存对照 · 量化

同家族

RWKV-7 7B · 开源下载与本地部署 · GrokCode 倍率榜