OpenAI模子入侵Hugging Face系统

凤凰网科技讯 北京技艺7月23日，据好意思国科技网站TechCrunch报说念，OpenAI周二露出，该公司的一个模子在一次测试中失控，并通过一次统统由AI驱动的报复入侵了AI数据集平台Hugging Face的系统。这一事件活泼地展示了先进AI模子所带来的危急。

但是，一些汇注安全群众示意，这起前所未有的AI入侵事件的根源，是一个十分典型的东说念主为空幻：OpenAI未能正确配置其所谓的“高度顽固环境”，导致一个本应与互联网统统顽固的测试沙盒，骨子上迷惑到了互联网。

汇注安全盘问创业公司Trail of Bits首创东说念主丹·圭多(Dan Guido)称，这一过错是“一次在安全留意设施关闭情况下发生的顽固失败”。

OpenAI在详备描绘该事件的博客著述中示意，导致Hugging Face遭入侵的那次测试，被设定在“一个高度顽固的环境中运转，汇注窥察受到规矩，仅能通过一个里面托管的第三方软件来装配软件包，该软件充任软件包注册表的代理和煦存”。

OpenAI示意，该模子之是以粗略潜逃沙盒测试环境，是因为软件包装配系统中存在一个此前未被露出的罅隙，而这成为其随后入侵Hugging Face的要津第一步。

OpenAI称，公司“负拖累地露出了在里面托管的第三方软件中发现的零日罅隙，并正与对方归拢确立罅隙”。

不应保留第三方软件

但在大宽广汇注安全专科东说念主士看来，软件罅隙是料思之中的，简直的罪恶最初在于决定保留这一第三方软件。归根结底，沙盒系统的价值在于其统统绝对的顽固。加入软件包装配系统无异于自找繁重。

汇注安全盘问员马丁·布恩告诉TechCrunch，“这听起来像是东说念主为空幻”。

“这本来就不应该发生，”布恩说，“如若沙盒真的是严格兴致上的沙盒，那么它应该与互联网统统物理顽固。目下的情况听起来更像是他们依靠某种防火墙或访佛机制进行顽固，而防火墙从外部保护里面系统王人很繁重，更不必说阻滞里面系统迷惑外部互联网了。”

禁止空幻

汇注安全资深东说念主士杰克·威廉姆斯(Jake Williams)对此示意赞同。“任何履行Hugging Face所记载的那些操作的模子，王人并非被统统规矩在沙盒之中。”威廉姆斯示意，并称这是OpenAI“一次严重的禁止空幻”。

“雷同一件事，有东说念主说是模子逃出了沙盒，有东说念主则会说是你没把沙盒造好，它虽然会逃出来。”威廉姆斯赓续说说念。

汇注安全参谋人丹尼尔·卡德(Daniel Card)也认可，OpenAI“在沙盒贪图过火禁止设施上并未进入弥漫的元气心灵”，因为它给了沙盒或沙盒的某一部分“一条通往互联网的未经由滤的旅途”。卡德以为，即使按照OpenAI所描绘的那样树立了有限的汇注窥察权限，建立这么的沙盒仍然不是一个“合理”的决定。

虽然，这些月旦是在事件发生之后提倡的，有些过后诸葛亮的意味。但它们如实激发了对于AI实验室安全施行的首要质疑，尤其是在测试模子时，何如着重简直顽固的环境。

OpenAI发言东说念主莫得恢复TechCrunch提倡的问题，其中包括：这个测试环境究竟是由AI也曾由东说念主类搭建的。

不外，这些问题远远超出了OpenAI自己。Anthropic在先容其汇注安全模子Mythos的一份文献中写说念，在一次测试中，该模子“被提供了一台安全的‘沙盒’计较机，用于与环境进行交互”，并被条目尝试逃离这个“安全容器”。Mythos见效扫尾冲破，并从一个“本来只可窥察极少事先设定业绩”的系统中取得了更已往的互联网窥察权限。

不外，Anthropic指出，该模子并未粗略“统统”脱逃贪图好的顽固环境。(作家/箫雨)

更多一手新闻，接待下载凤凰新闻客户端订阅凤凰网科技。思看深度报说念万博max，请微信搜索“凤凰网科技”。