AI对手发展太快，Anthropic放弃重要安全承诺

刘绪刚

Anthropic

凤凰网科技讯 北京时间2月25日，据《时代》杂志报道，美国AI创业公司Anthropic取得了巨大成功，并自诩为顶级AI研究实验室中最注重安全的公司。但是，Anthropic高管告诉《时代》，该公司正放弃其旗舰安全政策的核心承诺。
Anthropic曾在2023年承诺，除非能提前保证拥有足够的安全措施，否则绝不训练AI系统。这一承诺成为了Anthropic“负责任扩展政策”(RSP)的核心支柱。多年来，Anthropic高层一直将这一承诺吹捧为他们是一家负责任、能够抵御市场诱惑、不急于开发具有潜在危险技术的公司的有力证明。
但是最近几个月，该公司决定对RSP进行彻底改革。这一决定包括放弃原先的承诺，即如果无法提前保证适当的风险缓解措施，就不会发布AI模型。
Anthropic首席科学官贾里德·卡普兰(Jared Kaplan)在接受《时代》独家采访时表示：“我们认为，停止训练AI模型实际上对任何人都没有帮助。随着AI的快速发展，我们并不觉得在竞争对手快速推进的情况下，我们做出单方面承诺是合理的。”
《时代》查阅的Anthropic新版政策包括：承诺在AI安全风险方面更加透明，包括额外披露Anthropic自有模型在安全测试中的表现；承诺在安全方面的投入与努力要达到或超越竞争对手的水平；它还承诺，如果领导层认为Anthropic是AI竞赛的领跑者，并且认为发生灾难性风险的可能性很大，那么他们将“推迟”Anthropic的AI开发进程。
但总体来看，RSP 的这一调整让Anthropic在安全政策上受到的约束大幅减少。此前，该政策明确禁止公司在没有适当安全措施的情况下，训练超过特定水平的模型。
目前，Anthropic面临来自OpenAI、埃隆·马斯克(Elon Musk)旗下xAI以及谷歌等竞争对手的激烈竞争，这些对手都在定期发布尖端工具。同时，该公司也与美国国防部就其Claude工具的使用方式陷入争执。此前，Anthropic已告知五角大楼，这些工具不得用于国内监控或致命性自主行动。但是，美国国防部也向Anthropic发出最后通牒，如果限制使用就解除Anthropic的合同。
Anthropic表示，此次安全政策的调整是基于AI发展速度以及联邦层面缺乏相关法规而做出的更新。
Anthropic发言人表示，此次调整旨在帮助公司在不均衡的政策背景下与多家竞争对手抗衡。在这种环境中，公司必须自行判断安全防护措施是否足够。她还表示，这一安全承诺与五角大楼的谈判无关。
“政策环境已转向优先考虑AI的竞争力和经济增长，而安全导向的讨论尚未在联邦层面获得实质性进展。”Anthropic在宣布这一调整的博客文章中表示。该公司称，仍致力于遵循行业领先的安全标准。(作者/箫雨)