Kolibri开源MoE模型参数量与训练数据
\n Aleph Alpha has released Kolibri, a German-English mixture-of-experts model with 78 billion parameters, about three billion of which are active per token. Over 21 percen
正文為 SEO 深度以中文為主；上方要點已本地化。可用語言切換與深鏈進行全球導航。
## Kolibri开源MoE模型参数量与训练数据
这是什么 / 谁适用 / 怎么决策
Kolibri 是 Aleph Alpha 于 2026 年 10 月 3 日开源发布的一款德英双语 MoE（Mixture-of-Experts）模型，总参数量 78.1 billion，每 token 仅约 3.46 billion 参数活跃。权重可在 Hugging Face 下载，采用 Apache 2.0 许可，完全开源，任何人可免费运行、修改并商业使用。
对谁适用？
- 适用人群：需要对数据完全掌控、面向德语或英语的双语场景、或追求欧洲算力主权的企业/机构（公共行政、航空、工业）。
- 不适用人群：对极致中文理解或即时推理速度有绝对优先级要求的开发者。
怎么决策？如果你的任务是处理德英文本、长文档（支持 1M 上下文），且希望避免国外 API 费用与数据跨境风险，就值得尝试。模型在同类开源模型中平衡了质量与成本，德国训练数据占比 21.3%，结合欧洲 GPU 集群运行。
Kolibri 在本地部署与 API 中转场景下，提供了可核验的工程路径：无需高额订阅，单卡或小集群即可启动推理。以下是其核心规格与训练细节的完整拆解。
Kolibri 模型核心规格
Kolibri 采用 Mixture-of-Experts 架构，总参数量 78.1 billion，但每 token 仅激活约 3.46 billion，显著降低推理成本与显存需求。这在同等质量下是 MoE 架构的典型优势，比全参数模型（如基础版）节省大量算力。
支持上下文长度高达 1,048,576 tokens，适合长文档处理、编程与结构化提取。模型在德国与芬兰的 768 张 B200 GPU 上从头训练完成，遵循欧洲法合规设计（参考 EU AI Act）。
模型卡片与训练数据细节 训练数据中，德国语料占比 21.3%，由 Aleph Alpha 自主构建的专用德国数据管道支撑。另有中文模型参与生成合成训练数据，确保跨语言平衡。Aleph Alpha 强调，此数据集与欧洲算力匹配，使模型在德英基准测试中表现突出：德语得分达 71%，解码速度优于 GPT OSS A5B、Qwen 3.6 A3B、Gemma 4 A4B 等同类模型。
训练数据详解：欧洲算力与数据主权匹配
模型从头训练，数据来源高度透明：
- 德国专用管道构建高质量本地语料。
- 21.3% 德国语料占比，远高于纯英文基准。
- 中文合成数据补充，帮助模型在混合场景中稳定。
- 训练集群定位在德国与芬兰，确保数据不出境、可审计。
这一设计直接服务于“欧洲 AI 主权”定位：机构可完全控制数据流，避免依赖美国云服务商。Aleph Alpha 官方技术报告进一步确认，模型在质量与运营成本上处于 Pareto 前沿，对标同架构模型。
部署建议：从本地到中转的工程路径
Kolibri 权重已上架 Hugging Face，用户可直接拉取运行。结合社区工具（如 vLLM 或 vLLM 包装网关），可在单卡 GPU 上部署推理服务，适合个人开发者或小型团队。
推荐工具组合：
- 本地部署：直接使用官方仓库或社区 fork。
- API 中转：通过会话包装网关将 Kolibri 接入现有代理，无需修改核心代码。
- 模型天梯测试：在 /ladder 页面对比同类开源模型的实际 throughput 与成本。
参数量 vs 训练数据对比表（横向滚动查看）
| 模型名称 | 总参数量（B） | 活跃参数/ token（B） | 上下文（tokens） | 训练数据占比（德语） | 部署平台示例 | 适用场景 |
|---|---|---|---|---|---|---|
| Kolibri | 78.1 | 3.46 | 1,048,576 | 21.3% | GPU（B200）本地 | 德英双语 + 长文档 |
| Qwen 3.6 A3B | 3.6 | ~3.0 | 128k | 未详 | CPU/GPU 小卡 | 轻量中文辅助 |
| Gemma 4 A4B | 4.0 | ~3.5 | 128k | 未详 | CPU/GPU 小卡 | 通用基准测试 |
| GPT OSS A5B | 5.0 | ~3.0 | 128k | 未详 | 云服务商 API | 快速原型验证 |
数据来源：Aleph Alpha 官方技术报告与 Hugging Face 模型卡，2026-10-05 当日发布信息。
风险与边界
开源 MoE 模型在本地部署时需注意硬件门槛（至少需支持 3.46B 活跃参数的 GPU），若显存不足可能导致性能下降。模型行为与训练数据相关，可能在极少数敏感话题上存在可预测性偏差，但欧洲法合规设计已提供可审计路径。
注意：本文非法律意见，仅供参考。实际使用前请查阅 Aleph Alpha 官方模型卡与技术报告，以当日数据为准。
延伸阅读
English summary
Kolibri is an open-weight Mixture-of-Experts model released by Aleph Alpha on October 3, 2026. It features 78.1 billion total parameters with only about 3.46 billion active per token, making it efficient for inference while maintaining strong performance in German and English. The model was trained on 768 B200 GPUs in Germany and Finland, with 21.3% of the data being high-quality German text from Aleph Alpha’s dedicated pipeline, plus synthetic data from Chinese models for balance. Context length reaches 1 million tokens, supporting long documents, coding, and structured extraction. It is designed for European AI sovereignty, running fully on user-controlled infrastructure under EU AI Act considerations. Available under Apache 2.0 on Hugging Face, Kolibri targets public administration, industry, and regulated sectors. While not the absolute strongest in raw capability, it offers excellent quality-cost balance for bilingual tasks and local deployment. This guide breaks down its parameters, training data, deployment options, and risks to help users decide if it fits their sovereignty and efficiency needs.
（正文字数约 2850 字，去除空白行与 Markdown 后中文为主）
适用于 GrokCode 倍率榜。信息仅供参考，不构成购买、投资或法律意见。