Newshot

欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B

Summary

IT之家 11 月 17 日消息,欧洲云服务企业 OVHcloud 当地时间今日宣布推出其首个 AI 模型家族 Olala,同时公布了该系列的首个成员 Olala mini 7A1B。 Olala mini 7A1B 采用结合了 Differential-TPA 和 Mamba-3 的混合注意力机制,总参数 70 亿、激活参数 10 亿,使用 BF16 数据格式。 该模型将以 Apache 2.0 许可开源发布在 Hugging Face 上 。 其 可在 8GB 显存的 GPU 上运行 ,在 RTX A4500 上可实现 160 TPS 的词元吞吐量,仅 CPU 平台也能实现 50 TPS。 OVH 表示,Olala mini 7A1B 在三台欧洲公共超级计算机上利用 NVIDIA 的 GH200、A100、H100 训练而成, 总开销达到 700 万欧元 (IT之家注:现汇率约合 5,142.8 万元人民币) 。 Olala mini 7A1B 模型初始版本上下文长度为 32K,预计今年底推出的 1.1 版本将扩展至 128K 上下文并具备更好的数学能力。OVH 后续将持续开发 AI 模型, Olala 2.0 的参数规模将>100B 。

Original text(via IT之家)

欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B

IT之家 11 月 17 日消息,欧洲云服务企业 OVHcloud 当地时间今日宣布推出其首个 AI 模型家族 Olala,同时公布了该系列的首个成员 Olala mini 7A1B。

Olala mini 7A1B 采用结合了 Differential-TPA 和 Mamba-3 的混合注意力机制,总参数 70 亿、激活参数 10 亿,使用 BF16 数据格式。该模型将以 Apache 2.0 许可开源发布在 Hugging Face 上。

其可在 8GB 显存的 GPU 上运行,在 RTX A4500 上可实现 160 TPS 的词元吞吐量,仅 CPU 平台也能实现 50 TPS。

OVH 表示,Olala mini 7A1B 在三台欧洲公共超级计算机上利用 NVIDIA 的 GH200、A100、H100 训练而成,总开销达到 700 万欧元(IT之家注:现汇率约合 5,142.8 万元人民币)。

Olala mini 7A1B 模型初始版本上下文长度为 32K,预计今年底推出的 1.1 版本将扩展至 128K 上下文并具备更好的数学能力。OVH 后续将持续开发 AI 模型,Olala 2.0 的参数规模将>100B。

相关文章

  • 宇树王兴兴称机器人模型泛化是当下最棘手问题:希望到千家万户能立马干活,而不用重新训练
  • AI 大模型周榜:谷歌 Gemini 4 Carbon 首秀强势登顶,国产模型稳居视频榜前五阵营
  • 国际中文教育垂直大模型亮相,为全球中文学习者等群体提供智能化服务
  • 不用显卡:玩家靠停产傲腾内存跑通 2.8 万亿参数 Kimi K3 AI 模型,每秒输出 1.5 词元
  • 谷歌发布 Gemini 4 Hydrogen 模型:主打日常编程与智能体工作流,百万 Token 输入 1.5 美元
  • 百度李彦宏发布大模型的交易所“词元所”:宣称中立、可信,给模型提供商打分

The text above was extracted automatically from the source page and may miss images, tables or code blocks. The original is authoritative.

Published by IT之家
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗