Alibaba · 7B VL

Qwen2-VL 7B

本地截图/文档视觉问答。

许可 Apache-2.0Q4 ~8GB舒适 16GB视觉 / OCR本地优先

部署预估(启发式)

默认推荐卡 RTX 4060 Ti 16GB · 量化 Q4 · ctx 8k · 并发 1

适配舒适
需 / 有效显存9.9/16G
吞吐 tok/s~23.6
引擎Ollama / llama.cpp / llama-server

推荐:ollama → llamacpp,量化 Q4,先单流压测再开并发。

下载与部署入口

一键本地拉取

ollama run qwen2-vl
参数7B VL
默认量化Q4
默认上下文8K
发布2024

推荐引擎

  • vLLM(高吞吐 OpenAI 兼容)
  • Ollama(上手最快)
  • llama.cpp / llama-server

标签:视觉 · 对话 · OCR · 家族 Embedding / VL / OCRRAG 与多模态本地必备。

入门阅读:本地部署 · 显存对照 · 量化

同家族

Qwen2-VL 7B · 开源下载与本地部署 · GrokCode 倍率榜