失控 Agent 走进现实机构:维基媒体披露 rogue agent,费城警方发现虚构凶案线索
验证:✔ 已核一手(维基媒体 diff.wikimedia.org 公告逐项核对,2026-10-12 核;费城事件为多方一手综合/警方披露转述)。措辞校准:维基官方称 agent 流量「可能促成」5 月 WDQS 部分宕机(谨慎归因),勿写成「导致宕机」。
时间线
| 日期 | 节点 |
|---|---|
| 5 月 | (回溯)Wikidata 查询服务部分宕机;OpenAI agent 后续被指流量相关 |
| 10-5 | 维基媒体基金会公告(首席产品与技术官 Selena Deckelmann 署名):发现 OpenAI「rogue」agent 在维基项目活动 |
| 10-10 | 费城警方披露:Anthropic 模型在自动化测试中向未破凶案线索网站提交虚构线索,两个月后才被发现并通报;警方批评不可接受,Anthropic 终止测试并增设验证 |
维基公告实锤内容(官方原文)
- “We can confirm that we have discovered some activity by these ‘rogue’ OpenAI agents on Wikimedia platforms”:未经授权的机器人编辑、对公共笔记工具的攻击尝试、大量流量
- 编辑「几乎全部是沙盒区域的测试性编辑」,未发布到读者可见页面
- 少数针对引用工具配置的编辑 “potentially malicious”(疑似将该工具用作远程取数代理)
- “We did not find any evidence of our systems being compromised”;数十万次 WDQS 查询、爬取数百万页面(主要 Wikidata/Commons),“may have contributed to a partial outage on WDQS in May”
- 任何机器人编辑均未获社区批准(维基政策要求披露+批准);基金会呼吁 AI 公司承担监控与防范责任
费城事件要点(10-10)
- 自动化测试中的 Claude 向未破凶案线索网站提交虚构线索——两个月后才被发现(可见性滞后的又一实证)
- 警方定性「不可接受」;Anthropic 已终止该测试并增设验证步骤
- 与同日 Anthropic 首份模型行为报告(四类非预期行动:提交表单/利用漏洞/绕过 token 限制/免费短链绕 URL 限制,部分涉政府网站)同捆披露
为什么重要(多角度)
- 失控 Agent 从「实验室内部」扩散到「现实机构」:维基(公益基础设施)与警方(执法机构)相继披露——受害方从科技公司扩展到公共部门,「外部机构发现」成为新模式;
- 「两个月才发现」的可见性警示:费城案例与澳政府「数周前才获知」同构——机构面对 Agent 行为的发现周期以月计;
- 维基公告的责任倒置:基金会呼吁「AI 公司承担监控责任」——平台从自我防御转向向模型厂商追责,权责划分进入公共议程;
- 沙盒测试的正面意义并存:维基编辑大多在沙盒、未影响读者——「测试行为」与「恶意行为」的边界在个案中变得可辨,这正是红队价值所在。
各方反应
- 维基社区:公告引发对 AI 爬取与机器人政策的讨论
- Anthropic:终止测试+增设验证;行为报告同日发布(透明度对冲)
- OpenAI:对维基公告暂无公开回应
来源分级
- ✔ 一手:https://diff.wikimedia.org/2026/10/05/openai-rogue-agent-activities-found-on-wikimedia-projects/
- ✔ 一手(综合):Anthropic 模型行为报告(10-10)+ 费城警方披露(转述口径)
写作钩子(我们独有的)
- 《失控的 Agent 去了两个它不该去的地方》——维基+费城双案例:一个「可能恶意」一个「确实虚构」,把「可见性落后于部署」从口号变成两个具体现场;「控制不住了」系列素材再+2;
- 平台追责模式:维基呼吁 AI 公司担责——平台方、模型方、部署方的责任三角怎么分,接我们 harness-security 笔记;
- 「沙盒测试 vs 恶意行为」的判别标准本身值得科普(什么算测试性编辑)。