Safeworld获1200万美元种子轮押注机器人安全

驱动中国10月6日消息 据TechCrunch报道，机器人安全初创公司Safeworld于当地时间10月5日宣布结束隐身状态，并完成超过1200万美元种子轮融资。本轮融资由Shine Capital与a16z Speedrun领投，Box Group等机构参与投资。该公司由卡内基梅隆大学(Carnegie Mellon University)安全AI实验室主任赵丁(Ding Zhao)联合创立，试图解决生成式AI驱动机器人时的安全预测与信任问题。

报道指出，当前机器人行业的重要趋势之一，是将控制权限交给生成式AI模型。与传统算法相比，这类架构具有概率性，行为不像过去那样可预测。随着人形机器人逐步走向真实环境，如何证明其不会伤害人类，成为部署前必须回答的问题。

Safeworld正构建“数字人类”，用于验证机器人不会伤害真实人类。公司从隐身状态转向公开，意味着其把机器人安全验证作为主要切入点，面向生成式AI进入机器人控制层后出现的新风险。

赵丁表示，Safeworld所面对的安全挑战包含两个层面：一是针对先进生成式AI的概率性评估，即如何为概率系统的风险提供可承担的依据；二是信任问题。他强调，机器人要完成部署，这两方面缺一不可。

在团队构成上，赵丁长期研究安全AI，此次与资深创业高管黄凯尔(Kyle Wong)、机器学习工程师西莫·拉奇迪(Simo Rachidi)共同创立Safeworld。报道同时提到，该公司此前处于隐身状态，本轮融资为其公开亮相的一部分。

从行业角度看，生成式AI正从文本、图像等数字场景扩展到机器人控制，安全评估也从实验室研究转为产品落地前置条件。Safeworld的融资与公开亮相，反映机器人安全验证能力正成为产业链关注的新环节。