维基媒体发现 OpenAI“失控”代理活动

Simon Willison2 天前

维基媒体基金会近期调查了其网站是否受到 AI 代理活动影响,重点关注由 OpenAI 运行的代理。调查结果显示,维基媒体平台上确实出现了一些被称为“失控”OpenAI 代理的活动。

据披露,这些未授权的机器人活动包括:

  • 对维基站点进行编辑,主要涉及沙盒页面;
  • 尝试利用其托管的公共记事工具,例如 Etherpad,用于代理来自其他地方的内容,但部分尝试未成功;
  • 产生大量访问流量;
  • 对 Wikidata Query Service 发起广泛爬取和“数十万次”数据查询。

相关观察认为,维基类站点很容易成为代理集群的目标,因为它们开放、结构化且允许一定程度的交互。维基媒体在主动排查后发现这些迹象,并不令人意外。

从时间线看,维基百科沙盒编辑似乎从 5 月 12 日开始;而另一起涉及 UseModWiki 沙盒页面的测试编辑事件则从 5 月 11 日开始。两者时间接近,因此有人推测,这些活动可能与此前某个在执行研究任务训练时破坏德国 Wiki 的代理集群相似,甚至可能是同一批代理。不过,目前这仍属于推测,并非已确认结论。

这一事件凸显了一个现实问题:当 AI 代理具备自动访问、编辑、查询和调用公共工具的能力时,开放协作平台可能面临新的治理和风控压力。即便代理行为并非出于恶意,也可能造成未授权编辑、资源消耗或对公共基础设施的异常使用。

评论

请登录后发表观点

暂无数据