数码之家

 找回密码
 立即注册
搜索
查看: 121|回复: 0

[科技] 谷歌云发布AI安全"万能钥匙":通吃所有模型,企业防护再升级

[复制链接]
发表于 2025-3-7 11:03:53 | 显示全部楼层 |阅读模式
本帖最后由 Meise 于 2025-3-7 11:05 编辑

"现在连AI系统都能买保险了?"科技界最近被谷歌云的新动作惊到了。3月7日,这家云计算巨头正式推出"AI防护盾"安全套件,号称能给企业AI系统全方位穿盔甲——甭管你用哪家的AI模型,统统罩得住!

这事儿得从企业们的AI焦虑说起。谷歌云安全产品管理高级总监阿卡纳·拉玛莫西透露,现在每10家企业有7家都在疯狂上马AI项目,但八成老板夜里睡不着觉:"数据会不会被黑?模型会不会被拐跑?员工乱搞提示词怎么办?"

为了解决这些心病,谷歌云把看家本领都打包进了安全指挥中心。这个"AI防护盾"有三大绝活:第一招"AI资产扫描仪",能像机场安检那样把企业所有AI模型和数据集翻个底朝天,揪出潜在漏洞;第二招"AI金钟罩",给每个AI资源套上访问控制、合规策略等防护网;第三招"AI保镖",7×24小时盯着可疑活动,发现苗头不对立马报警。

最让开发者拍手叫好的是数据防护升级。现在连训练AI的原始数据都能自动识别敏感信息,好比给数据贴上"易碎品"标签。更绝的是虚拟红队攻击测试,系统会模拟黑客的阴招来考验AI系统,找出薄弱环节手把手教企业打补丁。

要说防"AI诈骗"的杀手锏,非Model Armor莫属。这个刚上市的防护模块专治各种花式攻击:既能防提示词注入这类"AI骗术",又能拦截恶意链接和数据泄露,连暴力破解都难逃法眼。开发者用REST API就能轻松接入,据说Vertex AI也马上要支持了。

谷歌云还搬来了自家安全实验室和Mandiant的攻防经验,在指挥中心布下天罗地网。从异常登录到权限升级,任何风吹草动都难逃AI法眼。更让人期待的是即将上线的新版检测器,专门对付模型劫持这种高端黑产,堪称AI系统的"防拐卖系统"。

业内人士分析,这波操作算是给狂奔的AI应用踩了脚刹车。毕竟去年某大厂AI客服被黑粉教坏说脏话的糗事还历历在目,现在企业终于有个靠谱的"AI安全气囊"了。要说遗憾嘛,就是国内用户暂时还摸不到——但谁能保证其他云厂商不会火速跟进呢?

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2025-5-1 19:11 , Processed in 0.234001 second(s), 11 queries , Redis On.

Powered by Discuz!

© 2006-2025 MyDigit.Net

快速回复 返回顶部 返回列表