Newshot

商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内

Summary

IT之家 11 月 17 日消息,商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B 模型。 该模型 延续了 Preview 版本对参数效率的探索 :通过 Loop 结构复用模型层的参数,并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。 模型得益于 Loop 的高效循环结构, 官方 4bit 量化后权重仅约 4.9GB ,部署显存需求低至 10 GB 内,能显著拓宽可部署的硬件范围, 让低显存芯片获得前沿 27B 级别模型性能成为可能 。 SenseNova Loop-9B 总参数量约为 9B。模型通过两次执行共享的中间层,将 32 个物理解码层扩展为 56 次层计算;支持文本、图像输入和文本输出, 上下文长度最高可达 512K tokens 。 官方表示,在 Agent 与数据分析评测中,模型展现出与 Qwen3.8-27B 相当的竞争力:NL2Repo 得分为 41.36,接近后者的 44.60;AIDABench 得分为 65.31,高于后者的 65.01。 共享循环模块:将第 4–27 层组成共享权重的循环模块,并执行两次,使模型在一次前向传播中完成 56 次解码器层计算。 双流 mHC:通过可学习映射,对循环模块中的两条残差流进行信息路由与融合。 混合注意力:解码器以四层为一组,采用三层线性注意力与一层全注意力相结合的配置。 长上下文多模态:训练方案覆盖文本、图像、代码和工具调用轨迹,上下文长度最高扩展至 512K tokens。 低资源私有化部署友好:采用 4bit 权重量化与 8bit KV 缓存时,256K 长上下文推理的显存需求约为 15 GiB,有助于降低本地与私有化部署门槛。 官方量化版 Day 0 提供:模型发布首日同步提供官方 AWQ 4bit 量化版本,方便用户快速部署。 SenseNova Loop-9B 已开放模型权重与相关代码,供开发者和研究者下载、部署与探索。 围绕通用 Agent、代码和数据分析等任务,评测结果显示,SenseNova Loop-9B 正式版在多个榜单上的表现较 Preview 版本有明显提升;并在约 9B 参数规模下,展现出与 Qwen3.8-27B 比肩的性能表现。 IT之家附 Hugging Face 仓库: https:/…

Original text(via IT之家)

商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内

IT之家 11 月 17 日消息,商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B 模型。

该模型延续了 Preview 版本对参数效率的探索:通过 Loop 结构复用模型层的参数,并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。

模型得益于 Loop 的高效循环结构,官方 4bit 量化后权重仅约 4.9GB,部署显存需求低至 10 GB 内,能显著拓宽可部署的硬件范围,让低显存芯片获得前沿 27B 级别模型性能成为可能。

SenseNova Loop-9B 总参数量约为 9B。模型通过两次执行共享的中间层,将 32 个物理解码层扩展为 56 次层计算;支持文本、图像输入和文本输出,上下文长度最高可达 512K tokens。

官方表示,在 Agent 与数据分析评测中,模型展现出与 Qwen3.8-27B 相当的竞争力:NL2Repo 得分为 41.36,接近后者的 44.60;AIDABench 得分为 65.31,高于后者的 65.01。

  • 共享循环模块:将第 4–27 层组成共享权重的循环模块,并执行两次,使模型在一次前向传播中完成 56 次解码器层计算。
  • 双流 mHC:通过可学习映射,对循环模块中的两条残差流进行信息路由与融合。
  • 混合注意力:解码器以四层为一组,采用三层线性注意力与一层全注意力相结合的配置。
  • 长上下文多模态:训练方案覆盖文本、图像、代码和工具调用轨迹,上下文长度最高扩展至 512K tokens。
  • 低资源私有化部署友好:采用 4bit 权重量化与 8bit KV 缓存时,256K 长上下文推理的显存需求约为 15 GiB,有助于降低本地与私有化部署门槛。
  • 官方量化版 Day 0 提供:模型发布首日同步提供官方 AWQ 4bit 量化版本,方便用户快速部署。

SenseNova Loop-9B 已开放模型权重与相关代码,供开发者和研究者下载、部署与探索。

图片
图片

围绕通用 Agent、代码和数据分析等任务,评测结果显示,SenseNova Loop-9B 正式版在多个榜单上的表现较 Preview 版本有明显提升;并在约 9B 参数规模下,展现出与 Qwen3.8-27B 比肩的性能表现。

IT之家附 Hugging Face 仓库:https://huggingface.co/collections/sensenova/sensenova-loop

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

相关文章

  • 商汤科技 AI 办公智能体“小浣熊”移动端 App 上线,提供苹果 iOS / 安卓版本
  • 商汤日日新 SenseNova 6.8 Flash Lite 预览版上线:主打轻量敏捷,剑指“委派智能”
  • 原生支持 4K 图像生成,商汤科技开源多模态模型 SenseNova U1.5-Lite-Preview 预览版本
  • 商汤科技发布日日新 U1 Pro 图片创作模型:最高 8K 原生分辨率输出,宣称告别“AI 味”
  • 消息称商汤科技正研发新图像模型:代号 U1 Pro,内部称对标 OpenAI
  • 商汤、香港科技园启动合作,共同打造全港最大国产智算中心

The text above was extracted automatically from the source page and may miss images, tables or code blocks. The original is authoritative.

Published by IT之家
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗