麻省理工科技评论探讨AI灭绝风险与生物武器威胁

驱动中国9月20日消息，《麻省理工科技评论》（MIT Technology Review）近日发布其每日通讯“The Download”的特刊，重点探讨了人工智能（AI）的灭绝风险及其在生物武器领域的应用威胁。该报道基于上周三举行的一场名为“AI真的会杀死我们所有人吗？”的圆桌直播活动，以及相关的深度调查，揭示了科技界对AI潜在灾难性后果的担忧与分歧。

在针对AI灭绝风险的讨论中，资深AI编辑Will Douglas Heaven和AI记者Grace Huckins回答了公众关注的核心问题，包括AI是否真的构成致命威胁、其危险性的来源，以及如何确保AI受到有效的控制、监控和监管。报道指出，除了对AI本身能力的担忧，公众也质疑这是否仅是科技公司为制造舆论而进行的营销炒作。文章强调，尽管存在监管呼吁，但关于AI风险严重程度的观点在科学界和业界仍存在显著分歧。

关于AI与生物武器的关联，《麻省理工科技评论》援引其生物技术通讯“The Checkup”的报道指出，AI辅助设计生物武器已成为生物技术的警钟。2022年的一项研究发现，利用原本用于药物开发的AI“分子生成器”，研究人员在不到六小时内就生成了40,000种可能作为化学战剂的分子。这一发现表明，通过AI技术设计致命病原体的门槛正在降低。

报道分析称，当前的AI工具已能回答几乎所有科学领域的问题，加之基因编辑和合成生物学技术的进步，使得生物技术工具更加普及。虽然目前存在相应的安全措施，但没有任何措施是绝对无懈可击的。尽管科学家们对这一风险的严重程度意见不一，但AI在生物武器设计中的潜在能力已被视为一个需要严肃对待的行业挑战。

除了前沿风险探讨，该通讯还汇总了近期科技领域的多项重要动态。据404 Media、《纽约时报》等外媒报道，微软（Microsoft）和OpenAI的员工在《纽约时报》版权诉讼案的评论中透露，AI正在破坏互联网生态。他们担心AI抓取内容会蚕食网站的点击量，从而摧毁维持新鲜内容产生的商业模式，甚至认为这可能削弱OpenAI和微软的法律辩护立场。

在安全与技术突破方面，英国《金融时报》（FT）报道，安全研究人员利用Anthropic公司的工具成功入侵了OpenAI，获取了一名员工的ChatGPT账户及内部代码，这一事件是通过利用第三方论坛实现的。此外，《The Information》和Gizmodo等媒体报道称，OpenAI预计将很快解决另一个著名的数学难题——霍奇猜想（Hodge Conjecture），但业界关注其在宣布成果时是否会引发新的争议。

《麻省理工科技评论》还简要提及了太空探索领域的文化讨论，指出在“阿尔忒弥斯二号”（Artemis II）任务之后，多本新书探讨了人类进入太空的动机，从地缘政治声望到纯粹的好奇心，反映了宇航员角色在商业化和探索精神交织下的演变。这些内容共同构成了当前科技行业在AI风险、网络安全、内容生态及前沿探索方面的复杂图景。