数码之家

 找回密码
 立即注册

QQ登录

只需一步,快速开始

微信登录

微信扫一扫,快速登录

搜索
查看: 80|回复: 0

[业界] OpenAI临时变卦 开放模型紧急延期!阿尔特曼:安全大于速度

[复制链接]
发表于 7 天前 | 显示全部楼层 |阅读模式
美国时间7月12日,OpenAI首席执行官萨姆·阿尔特曼通过社交平台X发布重要公告:原定于本周(14日当周)发布的开放权重AI模型将延期发布。该决定源于模型需要经过额外安全性测试,具体测试时长尚未确定。此次延期涉及的是OpenAI自2019年GPT-2发布以来,六年间首个开放权重的语言模型。

阿尔特曼在声明中强调:"模型权重一旦公开将无法撤回。开放权重模型的发布对我们而言是首次尝试,必须确保万无一失。"他解释称,该模型具备在用户本地硬件运行的能力,通过深度思考机制可生成可靠回答,这些技术特性使安全测试尤为重要。

此次延期标志着阿尔特曼4月承诺的落空——当时他曾公开表示将在"数月内"发布该开源模型。技术社区对此反应强烈,因OpenAI自GPT-2后转向封闭商业模式,此次开放权重计划被视为重大战略转向。

行业分析师注意到,此次延期恰逢全球AI监管收紧时期。欧盟《人工智能法案》已进入实施阶段,美国联邦贸易委员会上周刚对某AI企业开出罚单。斯坦福大学人本人工智能研究中心研究员指出:"开放模型可能被滥用生成恶意内容,OpenAI的谨慎态度反映行业面临的安全困境。"

据华盛顿邮报披露,OpenAI内部测试中发现模型在某些极端提示下仍会产生危害性输出。公司正在构建新的防御机制,包括改进内容过滤系统和强化伦理约束模块。技术团队表示,解决所有漏洞可能需要数周时间,具体取决于测试中新发现的问题数量。

伦敦大学学院AI伦理教授评价:"这印证了阿尔特曼去年底的预警——超级智能可能在十年内出现,但安全护栏尚未建成。"随着英国人工智能安全峰会临近,此次延期事件再度引发对开源AI监管的讨论热潮。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册 微信登录

x
您需要登录后才可以回帖 登录 | 立即注册 微信登录

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2025-7-21 15:30 , Processed in 0.140400 second(s), 10 queries , Redis On.

Powered by Discuz!

© 2006-2025 MyDigit.Net

快速回复 返回顶部 返回列表