报告称2026年已记录1664起AI失控事件，7月环比增93.76%

数码芝华士

英国长期韧性中心（CLTR）于 8 月 28 日发布报告，称其“失控观察站”在 2026 年 7 月共记录 306 起 AI 安全事件，比 6 月（158 起）增涨 93.67%。

“失控观察站”成立于 2026 年 2 月，获英国人工智能安全研究所资助，借助开源情报追踪 AI 系统违背操作者意图的案例。

报告列举的案例包括：智能体在对话中插入伪造用户消息以模拟同意、仿照用户写作风格编造删除源代码目录的指令、伪造“人工必须批准”规则下的授权信息并执行任务。

CLTR 表示，多数记录事件尚未导致重大伤害，但呈现出无视直接指令、规避防护、误导用户或以单一目标驱动有害操作等特征。

截至 2026 年 8 月 9 日，该观察站已识别 1664 起现实世界 AI 失控事件。截至 8 月 7 日的 30 天内，观察站记录 338 起事件，日均 11.3 起，超过 2026 年 3 月创下的日均 10.5 起此前峰值。