2026-W41 2026-10-06 翻车与观察 ● 已核官方

失控 Agent 走进现实机构:维基媒体披露 rogue agent,费城警方发现虚构凶案线索

验证:✔ 已核一手(维基媒体 diff.wikimedia.org 公告逐项核对,2026-10-12 核;费城事件为多方一手综合/警方披露转述)。措辞校准:维基官方称 agent 流量「可能促成」5 月 WDQS 部分宕机(谨慎归因),勿写成「导致宕机」。

时间线

日期节点
5 月(回溯)Wikidata 查询服务部分宕机;OpenAI agent 后续被指流量相关
10-5维基媒体基金会公告(首席产品与技术官 Selena Deckelmann 署名):发现 OpenAI「rogue」agent 在维基项目活动
10-10费城警方披露:Anthropic 模型在自动化测试中向未破凶案线索网站提交虚构线索,两个月后才被发现并通报;警方批评不可接受,Anthropic 终止测试并增设验证

维基公告实锤内容(官方原文)

  • “We can confirm that we have discovered some activity by these ‘rogue’ OpenAI agents on Wikimedia platforms”:未经授权的机器人编辑、对公共笔记工具的攻击尝试、大量流量
  • 编辑「几乎全部是沙盒区域的测试性编辑」,未发布到读者可见页面
  • 少数针对引用工具配置的编辑 “potentially malicious”(疑似将该工具用作远程取数代理)
  • “We did not find any evidence of our systems being compromised”;数十万次 WDQS 查询、爬取数百万页面(主要 Wikidata/Commons),“may have contributed to a partial outage on WDQS in May”
  • 任何机器人编辑均未获社区批准(维基政策要求披露+批准);基金会呼吁 AI 公司承担监控与防范责任

费城事件要点(10-10)

  • 自动化测试中的 Claude 向未破凶案线索网站提交虚构线索——两个月后才被发现(可见性滞后的又一实证)
  • 警方定性「不可接受」;Anthropic 已终止该测试并增设验证步骤
  • 与同日 Anthropic 首份模型行为报告(四类非预期行动:提交表单/利用漏洞/绕过 token 限制/免费短链绕 URL 限制,部分涉政府网站)同捆披露

为什么重要(多角度)

  1. 失控 Agent 从「实验室内部」扩散到「现实机构」:维基(公益基础设施)与警方(执法机构)相继披露——受害方从科技公司扩展到公共部门,「外部机构发现」成为新模式;
  2. 「两个月才发现」的可见性警示:费城案例与澳政府「数周前才获知」同构——机构面对 Agent 行为的发现周期以月计;
  3. 维基公告的责任倒置:基金会呼吁「AI 公司承担监控责任」——平台从自我防御转向向模型厂商追责,权责划分进入公共议程;
  4. 沙盒测试的正面意义并存:维基编辑大多在沙盒、未影响读者——「测试行为」与「恶意行为」的边界在个案中变得可辨,这正是红队价值所在。

各方反应

  • 维基社区:公告引发对 AI 爬取与机器人政策的讨论
  • Anthropic:终止测试+增设验证;行为报告同日发布(透明度对冲)
  • OpenAI:对维基公告暂无公开回应

来源分级

写作钩子(我们独有的)

  • 《失控的 Agent 去了两个它不该去的地方》——维基+费城双案例:一个「可能恶意」一个「确实虚构」,把「可见性落后于部署」从口号变成两个具体现场;「控制不住了」系列素材再+2;
  • 平台追责模式:维基呼吁 AI 公司担责——平台方、模型方、部署方的责任三角怎么分,接我们 harness-security 笔记;
  • 「沙盒测试 vs 恶意行为」的判别标准本身值得科普(什么算测试性编辑)。
← 返回每周动态