搜索历史清空

港股动态

瑞财经原创专栏,汇总香港上市公司动态。

商汤科技发布SenseNovaLoop-9B大模型,部署显存需求低至10GB内

瑞财经 刘治颖 2026-11-18 11:49 1.5w阅读

瑞财经 刘治颖 11月17日晚,商汤科技正式发布SenseNova Loop-9B正式版。

据官方介绍,该模型延续了Preview版本对参数效率的探索:通过Loop结构复用模型层的参数,并结合流形约束超连接(mHC),在约9B参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。

模型得益于Loop的高效循环结构,官方4bit量化后权重仅约4.9GB,部署显存需求低至10GB内,能显著拓宽可部署的硬件范围,让低显存芯片获得前沿27B级别模型性能成为可能。

SenseNova Loop-9B总参数量约为9B。模型通过两次执行共享的中间层,将32个物理解码层扩展为56次层计算;支持文本、图像输入和文本输出,上下文长度最高可达512Ktokens。在Agent与数据分析评测中,模型展现出与Qwen3.8-27B相当的竞争力:NL2Repo得分为41.36,接近后者的44.60;AIDABench得分为65.31,高于后者的65.01。

模型亮点如下:

共享循环模块:将第4–27层组成共享权重的循环模块,并执行两次,使模型在一次前向传播中完成56次解码器层计算。

双流mHC:通过可学习映射,对循环模块中的两条残差流进行信息路由与融合。

混合注意力:解码器以四层为一组,采用三层线性注意力与一层全注意力相结合的配置。

长上下文多模态:训练方案覆盖文本、图像、代码和工具调用轨迹,上下文长度最高扩展至512Ktokens。

低资源私有化部署友好:采用4bit权重量化与8bitKV缓存时,256K长上下文推理的显存需求约为15GiB,有助于降低本地与私有化部署门槛。

官方量化版Day0提供:模型发布首日同步提供官方AWQ4bit量化版本,方便用户快速部署。

据查阅,商汤科技成立于2014年,是人工智能软件公司,业务涵盖生成式AI、视觉AI和创新业务。公司已在港交所上市,业务覆盖十余个国家和地区。

2026年上半年,商汤实现收入为29.11亿元,同比增长23.4%;期内利润为6.17亿元,同比扭亏为盈。

资料显示,徐立,1982年出生,为商汤联合创始人、董事会执行主席、执行董事及首席执行官,主要负责集团的远景战略、业务发展及日常运营。

徐立拥有上海交通大学计算机科学与工程学士学位、上海交通大学计算机工程硕士学位及香港中文大学计算机科学与工程博士学位。他还曾于香港中文大学任博士后研究员。加入商汤前,徐立曾任联想集团有限公司的研究科学家。自2018年12月起,徐立担任上海交通大学的兼职教授。

重要提示: 本文仅代表作者个人观点,并不代表瑞财经立场。 本文著作权,归瑞财经所有。未经允许,任何单位或个人不得在任何公开传播平台上使用本文内容;经允许进行转载或引用时,请注明来源。联系请发邮件至ruicaijing@rccaijing.com

相关文章

24小时热门文章

最新文章