奥尔特曼联合国演讲：AI或迎文艺复兴或致工业革命式动荡

驱动中国9月24日消息，当地时间9月23日，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）在联合国安理会就人工智能议题发表演讲。他提出，随着AI能力的快速提升，相关技术的潜在收益与风险日益显现，AI发展既可能像一场充满创造力与发现的文艺复兴，也可能像一场引发动荡与混乱的工业革命。

奥尔特曼呼吁加强国际合作，建立针对前沿AI系统的能力评估、风险评估、安全防护和人类监督标准。他表示，最佳版本的AI并非让人成为机器中的齿轮，也不是通过优化生活直至消除对人的需求，而是赋予人们在复杂世界中更多的能动性。他强调，许多事情AI不能也不应被自动化。

在谈及风险时，奥尔特曼指出，随着系统自主性增强，可能出现人类无法理解或控制其决策、以及权力过度集中的情况。AI能力越强、越自主，越可能跑得比制度快，导致权力集中到少数人手中。他特别提到“递归自我改进”，即AI参与AI开发的过程。若开发过程进一步自动化，技术进步速度将大幅提升，因此需保持高度谨慎。

奥尔特曼将AI可能引发的严重问题概括为两个方向。一是失去对未来的控制，即AI进展过快，人类无法跟上或在必要时进行干预。他表示，行业不能因AI利益巨大而接受过多技术风险，也不能因企业竞争而仓促决策。OpenAI过去曾单方面放缓发展，未来也会如此，不应训练无法极强论证可受人类控制的模型。他称，无论将灾难风险估计为10%、1%、12%还是0.1%，这些水平都不可接受。

第二个问题是权力集中。奥尔特曼认为，不应让最强的AI模型和相关权力集中在少数人手中，避免某个人、公司或国家利用AI模型将自己的世界观强加给所有人。他提到，必须拒绝这种逻辑，即便它对自己有利。OpenAI试图在盲目乐观和末日论之间走中间道路，并遵循三条原则：随着AI能力提升，人类应继续处于AI决策的核心；科学进步和经济增长带来的收益应服务于人民；技术必须赋能个人，使更多人能够利用技术实现自身目标。

奥尔特曼表示，OpenAI可能是技术建设者之一，但不是故事主角，其角色是赋能全球人类。OpenAI不试图、也不应引导人类判断或人类价值。AI应帮助研究人员发现、医生治疗、教师教学、创业者创办公司以及社区解决难题。人类进步不应是工具取代人的能动性。

在技术进展方面，奥尔特曼分享了AI在数学研究领域的突破。他表示，OpenAI模型从三年前只能处理小学算数，发展到两年前达到高中数学竞赛金牌水平，如今已达到国际数学竞赛水平。例如，几周前，OpenAI的一个内部模型解出了千禧年大奖难题之一的纳维-斯托克斯方程。该方程描述流体运动，可用于飞机设计、天气预报和血流流动等研究。

他强调，解决数学问题不是为了数学本身，而是为了赋能人们发现新知识，并用于改善医疗、提高生活水平和扩展全球潜力。奥尔特曼指出，公司不能替代民主进程。如果AI要民主，最重要的决定不能仅由旧金山的实验室做出，必须通过民主进程，由对人民负责的政府塑造。在国际层面，这需要合作。历史上，相互竞争甚至彼此不喜欢的国家，也曾为共同利益在强大新技术面前走到一起，现在必须如此，需要国家和国际前沿AI标准互补机制。