PaddleOCR-VL
文档 OCR / 版面；低显存。
许可 Apache-2.0Q4 ~4GB舒适 8GB视觉 / OCR本地优先
部署预估（启发式）
默认推荐卡 RTX 4060 8GB · 量化 FP16 · ctx 4k · 并发 1
适配放不下
需 / 有效显存17.9/8G
吞吐 tok/s~15.3
引擎Ollama / llama.cpp / llama-server
单卡仍不够（约需 17.9GB）：更小量化 / 降上下文，或加卡 TP、换大显存。首选 ollama。
下载与部署入口
无官方 Ollama slug 时：从 HF GGUF 下载后用 llama.cpp / LM Studio，或 ollama create 自定义。
参数VL OCR
默认量化FP16
默认上下文4K
发布2025
推荐引擎
- vLLM（高吞吐 OpenAI 兼容）
- TGI
标签：OCR · 视觉 · 家族 Embedding / VL / OCR：RAG 与多模态本地必备。
同家族
- BGE-M3 · 0.6B · Q4~2GB
- minicpm-v · ~7B · Q4~6GB
- mxbai-embed-large · ~1B · Q4~0.8GB
- Qwen2-VL 7B · 7B VL · Q4~8GB
- Nomic Embed Text · 137M · Q4~1GB
- all-minilm · ~1B · Q4~0.8GB
Related tools
Clavue CLI / imux IDE / clavue-2.1
Clavue · CLI 与 Agent 平台
CLI / GUI Agent 运行时、设备登录、会员额度与 OpenAI 兼容 API（api.clavue.com）。开发脚本、CI 与本地工具一条链路。
打开 Clavue ↗imux · 原生 macOS AI IDE
Clavue 平台的原生 IDE：多 Agent 分屏、Ghostty 级终端、Agent Chat、浏览器自动化与 Supervisor——不是又一个 Electron 壳。
了解 imux ↗Clavue 2.1 · 产品级大模型
旗舰模型 clavue-2.1（及 fast / pro / rev）：适合复杂推理与长程 Agent 循环。Chat、imux、API 共用会员额度。
查看模型 ↗