国产GPU与类脑芯片混合推理系统发布 性价比提升一倍
国内首个国产GPU与类脑芯片异构混合推理系统发布,较同类国产GPU算力集群性价比提升一倍以上,为AI推理场景提供新路径。
驱动中国9月13日消息,国内首个融合国产GPU与类脑芯片的大模型异构混合推理系统正式对外发布。该系统将两类不同架构的算力单元纳入统一调度框架,面向大模型推理场景提供混合计算方案,官方称其综合性价比相较同类国产GPU算力集群提升一倍以上。
大模型推理对算力的需求呈指数级增长,而单一芯片架构在能效比、时延和成本之间往往难以兼顾。此次发布的异构混合推理系统,尝试将擅长并行矩阵运算的GPU与模拟神经元机制的类脑芯片进行协同编排,让不同计算任务按特性分流至最适配的算力单元,从而在保证推理质量的同时降低单位算力成本。
类脑芯片以低功耗、高并行和事件驱动为特征,在稀疏计算、脉冲神经网络等场景中具备天然优势。将其引入大模型推理链路,意味着部分注意力机制计算、特征提取等环节可由类脑芯片承接,释放GPU资源用于更重负载的张量运算。这种“分工协作”模式,为国产算力体系应对大模型推理压力提供了新的技术选项。
从产业背景看,当前国产GPU在生态成熟度、软件栈兼容性等方面仍处于追赶阶段,单纯依靠堆叠GPU集群来满足大模型推理需求,会面临功耗、散热和采购成本的多重压力。异构混合推理系统的出现,相当于在不依赖单一芯片性能跃升的前提下,通过架构创新挖掘现有硬件的组合效率,这对算力基础设施建设具有现实意义。
该系统发布方未披露具体芯片型号与性能基准数据,但强调已在多个主流开源大模型上完成适配验证,推理准确率与纯GPU方案持平,而整体拥有成本显著下降。所谓“性价比提升一倍以上”,主要来源于类脑芯片的低功耗特性带来的电费节省,以及部分计算任务卸载后对GPU数量的缩减需求。
行业分析人士指出,异构计算正成为AI算力发展的确定性方向。英伟达等国际厂商已通过CPU+GPU+DPU的异构布局巩固优势,国内产业链则更多围绕“不同国产芯片协同”展开探索。此次GPU与类脑芯片的组合,属于较少见的跨技术路线融合,若能在实际部署中稳定运行,将为国产算力生态提供差异化竞争力。
目前该系统的商业化路径尚待观察,但发布方透露已有多个智算中心表达测试意向。随着大模型应用从训练走向大规模推理,推理成本将成为决定商业化落地速度的关键变量。异构混合推理系统若能持续验证其性价比优势,有望在政务云、金融、制造等对国产化要求较高的行业率先铺开。
从技术演进角度看,类脑计算长期被视为后摩尔时代的潜在方向,但受限于算法适配和工具链成熟度,产业化进程缓慢。此次将其纳入大模型推理的实用化尝试,客观上为类脑芯片开辟了应用场景,也为国产芯片多元化发展提供了新的协同样本。后续能否形成标准化的异构调度中间件,将决定这一模式的复制推广速度。