商汤开源SenseNova Loop-9B-Preview 9B参数媲美27B
商汤科技10月30日宣布开源日日新SenseNova Loop-9B-Preview模型,基于Looped Transformer架构引入循环计算与mHC机制扩展有效计算深度,官方称9B参数规模下性能媲美27B模型,并在多项基准测试中超越Qwen3.5-27B。
驱动中国11月1日消息,商汤科技于10月30日宣布开源日日新SenseNova Loop-9B-Preview模型。该模型采用Looped Transformer架构,通过引入循环计算机制扩展有效计算深度,在9B参数规模下实现与27B参数模型相当的性能表现。
SenseNova Loop-9B-Preview以9B尺度模型为基座,保留首尾各4层原始解码器模块,将中间层改造为参数共享的循环计算模块,借助多轮迭代扩展有效计算深度。在此基础上,该模型探索循环计算中的信息传递机制,引入mHC(Manifold-Constrained Hyper-Connections),利用多路残差连接与受约束的信息混合,增强特征交互并维持信号传播的稳定性。
商汤方面表示,在当前评测设置下,该模型在代码生成、办公场景和智能体任务等多个方向上均优于其他模型,并在WorkBuddy Bench、RaccoonPPT Bench和AutomationBench等评测中进一步超过Qwen3.5-27B。上述结果初步展现了通过扩展有效计算深度提升小参数模型复杂任务处理能力的潜力。
商汤还通过消融实验评估了mHC机制的实际收益。采用该机制后,模型取得明显性能提升,其中GPQA Diamond和TeamBench分别提高了4.42分和13.34分,展现出在复杂推理任务以及多步骤Agent任务中的应用潜力。后续还将继续探索DSA、自适应迭代次数等机制,以提升模型的推理效率与任务表现。
目前,SenseNova Loop-9B-Preview已在GitHub和Hugging Face平台开源发布。