未发布先警告 OpenAI：新AI模型或构成高级别网络安全风险

刘绪刚

OpenAI

凤凰网科技讯 北京时间12月11日，据路透社报道，OpenAI周三警告称，随着性能的快速提升，公司即将推出的新AI模型可能带来“高级别”网络安全风险。
OpenAI周三在博客文章中表示，这些AI模型可能会自行开发出可对防护严密的系统发动攻击的零日远程漏洞利用程序，或协助旨在产生现实影响的复杂企业或工业入侵行动。
OpenAI表示，随着模型性能的不断提升，公司正“投入资源强化模型在防御性网络安全任务中的能力，并开发工具帮助防御者更便捷地执行代码审计与漏洞修复等工作流程”。
为应对网络安全风险，OpenAI将依赖多种措施的组合，包括访问控制、基础设施强化、出口流量控制以及监测。OpenAI称，公司即将启动一项计划，探索为从事网络防御的合格用户和客户提供分级访问权限，以使用加强功能。
OpenAI还将成立名为“前沿风险委员会”的咨询小组，邀请经验丰富的网络防御专家与安全从业者与其团队开展紧密协作。该小组初期将聚焦网络安全领域，未来将逐步拓展至其他前沿能力领域。(作者/箫雨)