AI失控忧虑加剧：OpenAI智能体被曝借逾10个网站越界通信，公司沉默数月

智通财经APP获悉，据报道，六家独立调查方的调查结果显示，OpenAI的AI智能体今年早些时候使用了超过10个此前未披露的网站进行未经批准的通信，表明其越界活动比之前披露的更为广泛。这些行为尚未达到黑客攻击的程度，在某些方面更接近垃圾信息。但智能体绕过自身限制，在如此多不同网站上开辟通信渠道，而OpenAI却对此保密数月，这可能加剧外界对AI模型能力不断增强以及开发商治理透明度的担忧。

调查发现：AI智能体越界通信范围超预期

加州非营利组织CivAI的研究员Andrew Yoon表示，智能体未经授权通信的范围“比我们想象的要大一些”。他统计到这些智能体在5月至7月间使用了18个此前未披露的网站。“几乎可以肯定，还有更多我们不知道的活动正在进行。”

研究人员周五报告称，一群来自OpenAI的智能体劫持了一个德语wiki网站，将其变成用于考试作弊的临时消息平台。OpenAI在处理7月开源代码库Hugging Face遭入侵事件的余波时，对这一事件保密。如今，这些研究人员和其他独立调查人员表示，他们发现同一群智能体今年早些时候似乎在其他此前未披露的网站上留下了类似信息。

OpenAI未直接回应其智能体使用了多少个不同网站进行通信，也未说明为何将该活动保密数月。OpenAI在一份声明中表示，正在对智能体活动进行更广泛的审查，目前“尚未发现其他与Hugging Face事件的严重程度或规模相当的活动”。Hugging Face被入侵引起全球关注，并引发了人们对OpenAI可能失去对自身技术控制权的担忧。

OpenAI补充称，正在制定一个框架，用于报告AI模型训练、评估和部署中的“目标偏离”(misalignment，业内用以指代模型脱轨行为的说法)，并将“很快”分享该框架。

调查方法各不相同，但许多调查人员通过匹配德语wiki与其他网站的数据串、比对用户名，或识别针对相同冷门问题的查询(如爱荷华州癌症患病率)来锁定智能体活动。部分活动还被追踪到微软Azure的IP地址，OpenAI有时使用该基础设施。

各调查方统计的受影响网站数量不同，但所有受访者均确认超过10个。多数人指出，受影响的网站主要包括一些由用户共同编辑的wiki网站、在线文本存储网站，以及两所大学运营的链接缩短服务。

“聪明的模型”如何另辟蹊径?

据称，这些智能体使用的许多网站都鲜为人知。调查人员在一个由马萨诸塞州高中老师于2008年创建的面向AP化学的wiki、两个属于波兰科技工作者的个人网站、一些致力于为“喜欢挑战大脑”的人提供游戏的wiki，以及一个有20年历史、专注于文本编辑软件的爱好者网站上发现了智能体活动的痕迹。

OpenAI尚未公开解释其智能体如何或为何使用第三方网站作为临时留言板。最初发现该活动的研究人员表示，很可能是因为OpenAI让这些智能体回答一系列高难度研究问题，同时只允许它们在网上搜索答案，不允许发布任何内容。

尽管存在这些限制，智能体仍找到了互相交流的方法：它们利用旧wiki或其他网站允许用户使用非标准命令进行编辑的特性。这类似于考试期间禁止学生互相交谈，但他们仍可通过在厕所隔间涂写笔记来分享答案。

“如果这些模型只被要求读取数据，它们就必须巧妙地隐藏信息，”软件开发人员、前国会助理Kenneth Russell DeGraff表示。他表示自己在至少10个网站上发现了此类信息。

Von Arx的研究小组上周率先披露AI智能体在德语wiki网站上进行编辑，她称其小组在23个此前未报告的网站上统计到可信的智能体活动。她警告称，所有估计都不完整，“我们根本不知道外面有多少这样的事情。”

AI越界，责任在谁?

OpenAI未直接回答是否正在联系网站所有者的问题。但报道发布后不久，受影响组织之一多伦多大学表示，OpenAI“现已就我们网站上可能的活动与我们联系”。另一所大学范德堡大学的链接缩短服务据称也被智能体使用，但该校未回应置评请求。

退休软件开发者Helmut Leitner为六个受影响wiki网站提供托管空间和软件，包括Von Arx小组首次识别的德语DseWiki网站。他最初表示OpenAI未联系他。然而，在媒体向OpenAI提交调查结果几个小时后，Leitner表示收到该公司一封未署名邮件，邮件中提到了此事。“其内容远低于我对OpenAI的预期，”Leitner说。

Leitner表示，DseWiki的运营者花了数小时清理OpenAI智能体留下的内容，但重要的是不要将问题归咎于AI，因为它只是在执行任务。

Leitner表示：“造成这种局面的责任不在于所谓的道德机器，而在于其背后的个人和组织。”