Community · ~1B

paraphrase-multilingual

Sentence-transformers model that can be used for tasks like clustering or semantic search.

许可 unknownQ4 ~0.8GB舒适 2GBEmbedding本地优先

部署预估(启发式)

默认推荐卡 RTX 4060 8GB · 量化 FP16 · ctx 8k · 并发 1

适配放不下
需 / 有效显存9.2/8G
吞吐 tok/s~61.2
引擎Ollama / llama.cpp / llama-server

单卡仍不够(约需 9.2GB):更小量化 / 降上下文,或加卡 TP、换大显存。首选 ollama。

下载与部署入口

一键本地拉取

ollama run paraphrase-multilingual
参数~1B
默认量化FP16
默认上下文8K
发布

推荐引擎

  • Ollama(上手最快)
  • llama.cpp / llama-server

标签:向量 · 多语 · 家族 Other openCommand-R、Solar、RWKV、MiniCPM 等。

入门阅读:本地部署 · 显存对照 · 量化

同家族

paraphrase-multilingual · 开源下载与本地部署 · GrokCode 倍率榜