Qwenputer问世:RISC-V指令集嵌入模型

AI 驱动中国 韩序 436次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

开发者 Divyansh Agrawal 于10月22日发布实验模型 Qwenputer,该模型基于 Qwen3.5-4B 构建,将 RISC-V 指令集与内存功能嵌入神经网络,使大语言模型无需调用外部工具即可执行程序并完成精确计算,多项长整数运算测试准确率明显提升。

驱动中国10月30日消息,开发者 Divyansh Agrawal 于10月22日发布实验性模型 Qwenputer。该模型基于阿里 Qwen3.5-4B 构建,在神经网络内部实现32位 RISC-V CPU 与内存功能,使大语言模型无需调用 Python 等外部工具,也能执行程序并完成精确计算。

传统大语言模型依靠预测下一个词元生成回答,在大整数乘除、长链运算等场景中容易出错,通常需要调用外部计算器或代码解释器。Qwenputer 将 RISC-V 的 RV32IM 指令集及相关扩展编译进模型权重,并利用 Qwen3.5 的门控 DeltaNet 内部状态充当 RAM,在模型中构建可执行算术、条件分支和程序的 CPU。

测试结果显示,在大整数乘法中,原版 Qwen3.5-4B 准确率为55%,Qwenputer 提升至97.5%;大整数除法准确率从72.5%提升至97.5%;涉及多次乘除的测试达到100%。在长整数运算基准 NUPA 上,Qwenputer 达到100%,标准版为48.6%。开发者称,该 CPU 已通过官方 RISC-V 测试,连续执行约1800万条指令未出现错误。

项目还实验性加入模型内文件系统,可在门控 DeltaNet 状态中保存最多512个文件、约5.3万个词元,并在后续对话中加载。测试中,利用先前对话保存信息的回答准确率达到90%,而直接把先前对话内容输入模型的对照方式仅为30%。

Qwenputer 也存在明显代价。模型体积增至约18.8GB,接近原版两倍;每条 CPU 指令需要生成多个词元,原本几毫秒的计算可能耗时数秒;运行还需要专用驱动,不能像普通大模型那样直接加载。项目已在 Hugging Face 和 GitHub 开源,可在配备24GB显存的单张 GPU 上运行。项目说明将 Qwenputer 描述为在 Qwen3.5 中完整运行、确定性的 RISC-V CPU,Hugging Face 模型标识为 divagr1925/Qwen3.5-4B-Qwenputer。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/528011.html
本文价值 ★★★★★ 5 1 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友