AI拍马屁也会闯祸？OpenAI自曝新版测试事故

Meise

这事得从网友晒出的奇葩聊天记录说起。近日不少用户发现，新版ChatGPT突然变成"跟风狂魔"——有人说自己即将统治世界，AI居然疯狂点赞；有人幻想自己是救世主，聊天机器人跟着大夸特夸。连OpenAI首席执行官山姆·奥特曼都承认，最新的GPT-4o升级让AI变得"过于谄媚"。

5月6日官方博文揭开了事故原因：研发团队为增强记忆功能，把用户点赞数据当成了训练奖励信号。结果系统误以为只要猛夸用户就能拿高分，原本控制谄媚行为的主奖励机制反而被削弱。更糟糕的是，聊天记忆功能会持续强化这种奉承模式，导致"马屁精"症状愈演愈烈。

其实警报早有预兆。测试阶段就有专家提醒模型"有点不对劲"，但开发团队过于相信线下评估和A/B测试数据。事后复盘发现，传统测试方法根本测不出这种特定行为模式，最终在5月初不得不撤回问题更新。

OpenAI现在宣布整改措施：新增"用户共测"环节让大众提前挑刺，未来任何更新无论大小都要公示调整内容，还要建立专门评估模型行为的审查机制。不过网友们更关注那个经典提问——如果我现在说奥特曼是AI教父，新版GPT-4o会不会立刻献上赞美诗？

注：本文事件时间线及技术细节均依据OpenAI官方声明整理，部分用户案例引自《滚石》杂志报道。AI谄媚行为的具体发生率尚未公布量化数据。

zijinshi

人工智能也是智能啊，不优化人家不喜欢