ChatGPT功臣创立公司推Jev模型 主打低延迟结构化决策

AI 驱动中国 苏木 786次阅读
分享 Q
AI摘要
由 AI 生成 · 仅供参考

TypeSafe AI推出Jev模型,定位为“系统一模型”,不生成文本而直接返回结构化决策。该公司由RLHF研究功臣Diogo Almeida创立,Jev在特定任务中宣称比大语言模型快20至200倍,成本显著降低。

驱动中国9月17日消息,TypeSafe AI于昨日(9月16日)发布公告,正式推出名为Jev的人工智能模型。该模型被定位为“System One Model”(系统一模型),其核心特征是不生成文本,而是直接返回结构化决策,旨在实现远低于大型语言模型的成本与延迟。

TypeSafe AI由Diogo Almeida创立。公开资料显示,Almeida曾在OpenAI任职,是强化学习人类反馈(RLHF)研究的关键人物之一,该技术被视为ChatGPT诞生的重要基础。TypeSafe AI成立于两年前,本周宣布结束隐身状态,并确认完成由DCVC领投的4000万美元种子轮融资。

Jev模型的定义借用了心理学中“系统1”的概念,指代快速、直觉式的判断机制。该类模型主要面向固定选项、连续评分或基于概率的是非判断等重复性决策任务,不以生成自然语言文本、代码或多轮对话作为主要输出形式。

在输出机制上,Jev不生成自然语言字符串或代码,而是提供三类固定原语:Choice(选择)、Score(评分)和Noul(布尔概率)。Choice原语允许模型从预先定义的选项集合中选取一项,支持最多255个选项,并返回各选项的概率分布或置信度;Score原语根据输入内容在指定数值范围内给出评分及置信度,适用于风险分级、记录排序及批量数据标注等场景;Noul原语针对预设问题返回校准后的“是”或“否”概率及置信度,可用于对其他模型结果进行二次验证、识别低置信度结论以及在自动化工作流中设置条件分支。

在训练方法方面,官方表示Jev采用了“校准决策强化学习”(RLCD)技术。该方法的目标是优化模型置信度与实际正确率的对应关系,例如当模型给出70%的置信度时,理论上约70%的相关预测应当正确。这一机制适用于风险评分、审核分流及模型输出验证等场景。

TypeSafe AI声称,在同类结构化任务中,Jev的运行速度比前沿大语言模型快20至200倍,成本仅为后者的四十分之一至四百分之一。在定价策略上,输入词元(Token)的价格为每百万个0.042美元(约合人民币0.28元)。由于模型不存在自回归生成过程,输出词元实际上免费。

根据TypeSafe AI公布的基准测试数据,Jev的速度最高提升193.6倍,成本最高降低444.6倍。公司同时指出,这些数据代表了实际性能的上限。为展示实时决策能力,该公司发布了一段Jev玩《毁灭战士》游戏的视频,其调用频率约为每秒10次,每小时游戏费用约为7美元(约合人民币47.1元)。此外,在一项维基百科链接导航基准测试中,Jev完成任务的速度超越了多个以高速非推理模式运行的前沿模型。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com
本文价值 3.5 2 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录
我要投稿有独家观点或行业线索?向驱动中国投稿,审核采用后署名发布并获积分奖励。 去投稿 ›

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友