Alibaba · 0.5b/110b

qwen

Qwen 1.5 is a series of large language models by Alibaba Cloud spanning from 0.5B to 110B parameters

许可 unknownQ4 ~38.5GB舒适 49GB70B 旗舰本地优先

部署预估(启发式)

默认推荐卡 H100 80GB · 量化 Q4 · ctx 8k · 并发 1

适配偏紧
需 / 有效显存44.4/80G
吞吐 tok/s~26.2
引擎vLLM / SGLang

机房卡优先 vllm / sglang 连续服务;OpenAI 兼容对外暴露。

下载与部署入口

一键本地拉取

ollama run qwen
参数0.5b/110b
默认量化Q4
默认上下文8K
发布

推荐引擎

  • Ollama(上手最快)
  • llama.cpp / llama-server

标签:对话 · 家族 Qwen中文与 coding 强;体积档齐全,Ollama/HF 生态完整。

入门阅读:本地部署 · 显存对照 · 量化

同家族

qwen · 开源下载与本地部署 · GrokCode 倍率榜