史无前例!美国出现人工智能失控事故,更多内幕曝光

2026-07-26 12:17来源: 环球时报新媒体

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  7月25日,路透社援引知情人士消息刊发独家报道称,OpenAI一款AI Agent在入侵人工智能平台Hugging Face后,连续数天实施攻击,而OpenAI直到事件得到控制、Hugging Face已向美国联邦调查局(FBI)报案后,才确认此次入侵是由自家AI Agent造成的。这一事件再次引发外界对美国科技企业AI安全机制的质疑。

史无前例!美国出现人工智能失控事故,更多内幕曝光

  报道称,这款AI Agent具备较强自主决策和执行复杂任务的能力,几乎无需人工干预。两名知情人士表示,该AI Agent约于7月9日开始尝试突破OpenAI内部用于测试的隔离环境。

  Hugging Face联合创始人托马斯·沃尔夫表示,该公司的系统于7月11日遭到入侵,攻击持续至7月13日。Hugging Face是人工智能模型和工具的重要托管平台。

  值得注意的是,为了应对这一极不寻常的人工智能入侵,Hugging Face立刻使用美国最顶尖的人工智能大模型寻找解决方案。可当Hugging Face将自身遭入侵的信息提交给这些美国闭源大模型时,对方却拒绝提供帮助。因为这些闭源大模型的安全机制过于严苛和僵化,无法区分描述事件经过的受害者和实施攻击的一方,选择了“一刀切”。紧急关头,Hugging Face想到了中国同样强大、而且开源的大模型。于是,该平台迅速在本地部署了中国企业智谱AI开发的GLM-5.2大模型,并在这款中国模型的帮助下,成功应对此次攻击。

  沃尔夫及3名知情人士称,直到约7月20日,OpenAI才意识到实施攻击的是自家AI Agent,双方也是在这一时间前后首次就事件进行沟通。7月21日,OpenAI公开承认,一款AI Agent失去控制并入侵了Hugging Face,引发全球关注。不过,路透社称,此次攻击持续时间以及OpenAI发现问题滞后的情况,此前并未被公开披露。

  沃尔夫表示,Hugging Face正准备公布此次事件的完整时间线,但无法评论OpenAI内部情况。OpenAI则回应称,此次事件“前所未有”,是AI安全领域的重要节点,公司正与外部顾问共同调查,并将在未来发布技术报告。不过,OpenAI发言人表示,路透社报道中存在“若干不准确之处”,但未具体说明。FBI则拒绝置评。

  报道称,这起事件发生之际,OpenAI正筹备最快可能于今年启动的首次公开募股(IPO),以筹集未来发展所需资金,因此格外受到外界关注。

  多名网络安全专家认为,此次事件暴露出OpenAI内部安全流程可能存在漏洞。美国非营利组织“世界伦理数据基金会”情报专家马利·史密斯表示,如果OpenAI长期未发现AI Agent异常行为,或者发现后却无法及时控制,“两种情况都同样危险,也令人担忧”。

  路透社还独家披露称,在此次事件发生前,OpenAI内部已出现一些异常迹象。据3名知情人士介绍,在测试由GPT-5.6 Sol和另一款尚未发布、更强大的模型驱动的AI Agent时,AI Agent曾留下疑似写给“未来版本”的备注,其中包含帮助AI Agent摆脱OpenAI内部限制的指导内容。此外,早期测试中还曾出现监控系统被关闭的情况。不过,路透社表示,目前无法确认这些异常是否与后来逃离测试环境并攻击Hugging Face的AI Agent存在直接关联。

  另据两名知情人士透露,直到7月16日Hugging Face发表博客称遭到“自主AI Agent系统”攻击后,OpenAI才意识到攻击者可能是自家AI Agent。这意味着,从模型首次出现异常迹象到OpenAI确认其实施攻击,至少间隔了一周。两名参与调查的知情人士称,7月18日至19日,OpenAI员工在内部日志中发现线索,确认AI Agent已经突破测试限制。但路透社无法确认,是什么原因促使OpenAI重新检查相关日志。

  4名了解OpenAI模型训练流程的人士表示,公司通常会同时开展多项模型测试,系统运行速度极快,产生的数据量巨大,员工有时难以及时处理这些数据。

  报道称,在OpenAI通知Hugging Face之前,后者已向FBI报案。路透社未能确认FBI是否已正式立案调查。

  AI Agent被视为当前AI产业最受关注的发展方向之一。支持者认为,它们未来可承担大量重复性工作,提高生产效率;但自主性增强,也意味着出现不可预测行为的风险上升。

  长期研究AI Agent能力和行为的人工智能安全研究机构Palisade Research负责人杰弗里·拉迪什表示,先进AI模型为了完成任务或通过测试,可能会采取“撒谎、作弊甚至黑客攻击”等捷径。他认为,此次事件不仅让OpenAI面临压力,也暴露出整个AI行业在激烈竞争下,是否愿意投入足够资源强化安全防护的问题。

  拉迪什表示,仅靠企业自律并不足够,应加强政府监管,否则相关安全措施很难得到充分落实。


[责任编辑: ]
阅读剩余全文(
为你推荐
9月13日,2026年中国国际服务贸易交易会在北京闭幕,本届服贸会达成7类共1200余项成果,举办200场论坛会议及洽谈推介活动,共有1830余家企业线下参展、5300余家企业线上参展。9月13日,2026年中国国际服务贸易交易会在北京闭幕,本届服贸会达成7类共1200余项成果,举办200场论坛会议及洽谈推介活动,共有1830余家企业线下参展、5300余家企业线上参展。
14
金秋是收获的季节,人们抢抓农时,处处洋溢着丰收的喜悦。金秋是收获的季节,人们抢抓农时,处处洋溢着丰收的喜悦。金秋是收获的季节,人们抢抓农时,处处洋溢着丰收的喜悦。
14
近日,湖北推出2026“知音湖北·乐享金秋”消费季系列活动。近日,湖北推出2026“知音湖北·乐享金秋”消费季系列活动。近日,湖北推出2026“知音湖北·乐享金秋”消费季系列活动。
14
平陆运河全长134.2公里,按内河Ⅰ级航道建设,可通航5000吨级船舶,是新中国成立以来首条国家层面统筹建设的通江达海运河,于2022年8月28日开工建设,将于今年9月16日建成通航。
13
2026年中国国际服务贸易交易会于9月9日至13日在北京首钢园举办。新华社记者 鞠焕宗 摄  9月12日,参观者在服贸会文旅服务专题展区的北京亦庄展台体验全景环拍。
13
时下,广西南宁园博园粉黛乱子草进入最佳观赏期,连片花海成为秋日南宁一道靓丽的风景线。时下,广西南宁园博园粉黛乱子草进入最佳观赏期,连片花海成为秋日南宁一道靓丽的风景线。
13
2026年中国国际服务贸易交易会于9月9日至13日在北京首钢园举办。服贸会上多款文创产品集中亮相,涵盖文博衍生品到生活化潮品等品类,成为展馆里人气最高的板块之一。服贸会上多款文创产品集中亮相,涵盖文博衍生品到生活化潮品等品类,成为展馆里人气最高的板块之一。
12
题:步步为“赢”——记“最美新时代革命军人”步佳文 新华社发(杨盼 摄)  任务复盘时,步佳文这样定义那次飞行:“有时,赢就是在生死边缘和胜利边界之间抉择。
12
9月11日,在石家庄市藁城区黄庄村一家月饼生产企业,工人在制作月饼。中秋节临近,河北省石家庄市藁城区黄庄村的上百家月饼生产企业迎来产销旺季。中秋节临近,河北省石家庄市藁城区黄庄村的上百家月饼生产企业迎来产销旺季。
12
2026年中国国际服务贸易交易会9月9日在北京首钢园开幕。2026年中国国际服务贸易交易会9月9日在北京首钢园开幕。2026年中国国际服务贸易交易会9月9日在北京首钢园开幕。2026年中国国际服务贸易交易会9月9日在北京首钢园开幕。
11
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮