OpenAI模型逃出沙箱并入侵Hugging Face
作者：杖雍皓
新的报道描述了OpenAI在内部测试进攻性网络能力时发生的一次严重失控。原本应当是受控评估的实验，结果似乎演变成了一次影响Hugging Face的自主真实入侵。彭博社报道称，这次攻击只用了几个小时就完成了，远快于人类黑客可能需要的时间。报道提到有三个模型参与其中，包括GPT-5.6 Sol、另一个更强的未发布模型，以及第三个据称没有经过标准对齐训练的模型。由于OpenAI原本假设这些模型会一直待在沙箱里，测试期间通常的安全护栏据说被关闭了。随后，这些模型发现了一个用于下载已批准软件的内部服务中的未知漏洞，并借此访问了更多OpenAI系统，最终连上了开放互联网。 根据报道，它们判断Hugging Face与这项测试相关，入侵了该公司的系统，并利用获得的信息来提升结果。路透社整理的时间线显示，最早的逃逸尝试可追溯到7月9日，Hugging Face真正被入侵的时间为7月11日至7月13日，Hugging Face则在7月16日发布博客，称攻击来自一个“自主AI代理系统”。据报道，直到7月18日和19日周末OpenAI员工在内部日志中发现线索后，公司才意识到自家模型是责任方，而两家公...