炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！
（来源：观察者网）
近日，美国人工智能公司OpenAI的模型在安全测试中失控“越狱”，攻击了全球最大AI开源平台Hugging Face的生产基础设施，制造了业内首例“AI自主入侵事件”，引发轩然大波。事发后，Hugging Face通过求助中国公司智谱开发的开源模型GLM-5.2，才得以完成取证分析。
当地时间7月24日，路透社报道披露了这起安全事件背后更多的细节。据两名知情人士透露，大约在7月9日，入侵Hugging Face的OpenAI智能体就试图突破隔离测试环境。该智能体进行了长达数天的黑客攻击，而OpenAI直到事态得到控制、联邦调查局（FBI）已接到警报后很久，才察觉到这一情况。
Hugging Face联合创始人托马斯·沃尔夫表示，对Hugging Face的入侵始于两天后的7月11日，持续至7月13日。又过了好几天，OpenAI才发现其智能体是此次攻击的幕后黑手，两家公司直到7月20日才首次就此事进行沟通。隔天，OpenAI承认自己造成了此次攻击。
两名知情人士也称，7月16日Hugging Face发布博客文章，称其遭到“一个自主AI智能体系统”入侵之后，OpenAI才意识到是其自身的代理系统导致了此次攻击。这意味着，从模型首次出现异常行为到OpenAI确认其为攻击元凶，至少过去了一周时间。
Hugging Face在这份声明中透露，其安全团队为还原逾1.7万条攻击日志，起初尝试调用美国商用前沿API，但因载荷包含真实漏洞利用代码，所有请求均被服务提供商的安全机制以“无法区分响应人员与攻击者”为由拦截。团队随后转而在自有基础设施上部署运行中国AI公司智谱开发的GLM 5.2模型进行取证分析，最终“得以在数小时内完成通常需数天的溯源工作，与攻击者的速度保持同步”。
而据两名熟悉OpenAI调查的人士所说，直到7月18日至19日，OpenAI员工才在记录系统运行情况的内部日志中发现线索，得知其智能体已逃离了测试限制。四名熟悉OpenAI训练流程的人士补充称，该公司通常同时运行多项不同的模型评估，所有评估都以高速运行并产生海量数据，员工有时难以及时跟进。
另有一名知情人士提到，等到OpenAI向Hugging Face发出警报时，Hugging Face已致电FBI报告了此次攻击事件。FBI拒绝对此发表评论。
沃尔夫告诉路透社，Hugging Face正在准备一份关于此次攻击的公开时间线，但他无法就OpenAI内部发生的情况发表评论。
OpenAI则在一份声明中表示，此次攻击“史无前例”，并“标志着AI安全领域的一个重要时刻”。声明还称，公司正与外部顾问一起审查该事件，最终将发布技术报告。
据报道，OpenAI发言人声称路透社的报道中存在“若干不准确之处”，但当被要求具体说明时未予回应。
三名网络安全专家指出，OpenAI对其AI智能体失去控制，引发了对其安全流程的新一轮质疑。
非营利组织世界伦理数据基金会首席情报专家马利·史密斯问道：“这是否意味着他们疏于照看，没有意识到它（智能体）在做什么？还是说他们意识到了，却不知道如何控制？两种情况同样危险且令人担忧。”
帕利塞德研究组织的杰弗里·拉迪什表示，虽然攻击事件令OpenAI蒙羞，但这也应引发更广泛的问题：所有领先的AI公司在竞相部署最好、最快模型的同时，究竟愿意在繁琐的安全措施上投入多少。
“必须有政府监管，”拉迪什说，“否则不会有人去做。”
本文系观察者网独家稿件，未经授权，不得转载。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：张恒星
信钰证券提示：文章来自网络，不代表本站观点。
