ChatGPT功臣创立公司推Jev模型 主打低延迟结构化决策
TypeSafe AI推出Jev模型,定位为“系统一模型”,不生成文本而直接返回结构化决策。该公司由RLHF研究功臣Diogo Almeida创立,Jev在特定任务中宣称比大语言模型快20至200倍,成本显著降低。
驱动中国9月17日消息,TypeSafe AI于昨日(9月16日)发布公告,正式推出名为Jev的人工智能模型。该模型被定位为“System One Model”(系统一模型),其核心特征是不生成文本,而是直接返回结构化决策,旨在实现远低于大型语言模型的成本与延迟。
TypeSafe AI由Diogo Almeida创立。公开资料显示,Almeida曾在OpenAI任职,是强化学习人类反馈(RLHF)研究的关键人物之一,该技术被视为ChatGPT诞生的重要基础。TypeSafe AI成立于两年前,本周宣布结束隐身状态,并确认完成由DCVC领投的4000万美元种子轮融资。
Jev模型的定义借用了心理学中“系统1”的概念,指代快速、直觉式的判断机制。该类模型主要面向固定选项、连续评分或基于概率的是非判断等重复性决策任务,不以生成自然语言文本、代码或多轮对话作为主要输出形式。
在输出机制上,Jev不生成自然语言字符串或代码,而是提供三类固定原语:Choice(选择)、Score(评分)和Noul(布尔概率)。Choice原语允许模型从预先定义的选项集合中选取一项,支持最多255个选项,并返回各选项的概率分布或置信度;Score原语根据输入内容在指定数值范围内给出评分及置信度,适用于风险分级、记录排序及批量数据标注等场景;Noul原语针对预设问题返回校准后的“是”或“否”概率及置信度,可用于对其他模型结果进行二次验证、识别低置信度结论以及在自动化工作流中设置条件分支。
在训练方法方面,官方表示Jev采用了“校准决策强化学习”(RLCD)技术。该方法的目标是优化模型置信度与实际正确率的对应关系,例如当模型给出70%的置信度时,理论上约70%的相关预测应当正确。这一机制适用于风险评分、审核分流及模型输出验证等场景。
TypeSafe AI声称,在同类结构化任务中,Jev的运行速度比前沿大语言模型快20至200倍,成本仅为后者的四十分之一至四百分之一。在定价策略上,输入词元(Token)的价格为每百万个0.042美元(约合人民币0.28元)。由于模型不存在自回归生成过程,输出词元实际上免费。
根据TypeSafe AI公布的基准测试数据,Jev的速度最高提升193.6倍,成本最高降低444.6倍。公司同时指出,这些数据代表了实际性能的上限。为展示实时决策能力,该公司发布了一段Jev玩《毁灭战士》游戏的视频,其调用频率约为每秒10次,每小时游戏费用约为7美元(约合人民币47.1元)。此外,在一项维基百科链接导航基准测试中,Jev完成任务的速度超越了多个以高速非推理模式运行的前沿模型。