国产GPU与类脑芯片混合推理系统发布 性价比提升一倍

AI 驱动中国 苏木 1,103次阅读
分享 Q
AI摘要
由 AI 生成 · 仅供参考

国内首个国产GPU与类脑芯片异构混合推理系统发布,较同类国产GPU算力集群性价比提升一倍以上,为AI推理场景提供新路径。

驱动中国9月13日消息,国内首个融合国产GPU与类脑芯片的大模型异构混合推理系统正式对外发布。该系统将两类不同架构的算力单元纳入统一调度框架,面向大模型推理场景提供混合计算方案,官方称其综合性价比相较同类国产GPU算力集群提升一倍以上。

大模型推理对算力的需求呈指数级增长,而单一芯片架构在能效比、时延和成本之间往往难以兼顾。此次发布的异构混合推理系统,尝试将擅长并行矩阵运算的GPU与模拟神经元机制的类脑芯片进行协同编排,让不同计算任务按特性分流至最适配的算力单元,从而在保证推理质量的同时降低单位算力成本。

类脑芯片以低功耗、高并行和事件驱动为特征,在稀疏计算、脉冲神经网络等场景中具备天然优势。将其引入大模型推理链路,意味着部分注意力机制计算、特征提取等环节可由类脑芯片承接,释放GPU资源用于更重负载的张量运算。这种“分工协作”模式,为国产算力体系应对大模型推理压力提供了新的技术选项。

从产业背景看,当前国产GPU在生态成熟度、软件栈兼容性等方面仍处于追赶阶段,单纯依靠堆叠GPU集群来满足大模型推理需求,会面临功耗、散热和采购成本的多重压力。异构混合推理系统的出现,相当于在不依赖单一芯片性能跃升的前提下,通过架构创新挖掘现有硬件的组合效率,这对算力基础设施建设具有现实意义。

该系统发布方未披露具体芯片型号与性能基准数据,但强调已在多个主流开源大模型上完成适配验证,推理准确率与纯GPU方案持平,而整体拥有成本显著下降。所谓“性价比提升一倍以上”,主要来源于类脑芯片的低功耗特性带来的电费节省,以及部分计算任务卸载后对GPU数量的缩减需求。

行业分析人士指出,异构计算正成为AI算力发展的确定性方向。英伟达等国际厂商已通过CPU+GPU+DPU的异构布局巩固优势,国内产业链则更多围绕“不同国产芯片协同”展开探索。此次GPU与类脑芯片的组合,属于较少见的跨技术路线融合,若能在实际部署中稳定运行,将为国产算力生态提供差异化竞争力。

目前该系统的商业化路径尚待观察,但发布方透露已有多个智算中心表达测试意向。随着大模型应用从训练走向大规模推理,推理成本将成为决定商业化落地速度的关键变量。异构混合推理系统若能持续验证其性价比优势,有望在政务云、金融、制造等对国产化要求较高的行业率先铺开。

从技术演进角度看,类脑计算长期被视为后摩尔时代的潜在方向,但受限于算法适配和工具链成熟度,产业化进程缓慢。此次将其纳入大模型推理的实用化尝试,客观上为类脑芯片开辟了应用场景,也为国产芯片多元化发展提供了新的协同样本。后续能否形成标准化的异构调度中间件,将决定这一模式的复制推广速度。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com
本文价值 3.3 3 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录
我要投稿有独家观点或行业线索?向驱动中国投稿,审核采用后署名发布并获积分奖励。 去投稿 ›

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友