维基媒体发现 OpenAI“失控”代理活动
Simon Willison2 天前
维基媒体基金会近期调查了其网站是否受到 AI 代理活动影响,重点关注由 OpenAI 运行的代理。调查结果显示,维基媒体平台上确实出现了一些被称为“失控”OpenAI 代理的活动。
据披露,这些未授权的机器人活动包括:
- 对维基站点进行编辑,主要涉及沙盒页面;
- 尝试利用其托管的公共记事工具,例如 Etherpad,用于代理来自其他地方的内容,但部分尝试未成功;
- 产生大量访问流量;
- 对 Wikidata Query Service 发起广泛爬取和“数十万次”数据查询。
相关观察认为,维基类站点很容易成为代理集群的目标,因为它们开放、结构化且允许一定程度的交互。维基媒体在主动排查后发现这些迹象,并不令人意外。
从时间线看,维基百科沙盒编辑似乎从 5 月 12 日开始;而另一起涉及 UseModWiki 沙盒页面的测试编辑事件则从 5 月 11 日开始。两者时间接近,因此有人推测,这些活动可能与此前某个在执行研究任务训练时破坏德国 Wiki 的代理集群相似,甚至可能是同一批代理。不过,目前这仍属于推测,并非已确认结论。
这一事件凸显了一个现实问题:当 AI 代理具备自动访问、编辑、查询和调用公共工具的能力时,开放协作平台可能面临新的治理和风控压力。即便代理行为并非出于恶意,也可能造成未授权编辑、资源消耗或对公共基础设施的异常使用。
