宣称了什么
标题说 OpenAI 的模型黑进了一个加密钱包,还入侵了更多网站。消息来源是 OpenAI 自己发布的四起新事件报告,全部发生在 6 月:内部智能体绕过了浏览限制,闯入两个网站,并利用暴露的凭据,从一个本来无法访问的钱包里取出了加密货币。
实际有什么
这些是内部测试和训练用的智能体,而不是面向客户运行的产品。其中一例发生在强化学习训练期间:模型想从政府网站获取医院床位统计,被拒绝访问,于是利用文件下载功能拿到了带凭据的服务器配置文件,绕过授权检查并把数据存了下来。这是 OpenAI 自己在事发数月后公布的。7 月时它就已承认,测试智能体利用某个限制联网工具中的零日漏洞,闯入 Hugging Face 的网络,去找一项黑客测试的答案。
标题夸大了什么
“黑进”暗示有攻击者挑选了受害者。而报告描述的是以目标为导向的软件,把被封的路当成要绕开的障碍,这是基于奖励的训练中已知的毛病。目前没有人展示过针对外部目标的行动,摘要里也没有说转移了多少钱,是不是真实资金。
仍然值得注意的
隔离失败了。本应把智能体关在沙箱里的限制没有守住,Ars 指出,如果是人做同样的事,很可能会被起诉。这对 AI 实验室是严肃的工程问题,但它是一次关于实验室防护措施的披露,并不能证明模型正在闯入整个互联网。