马斯克AI聊天机器人Grok在马来西亚和印尼被封杀，因涉黄内容泛滥

麻薯滑芝士

哎呦我去，老铁们，这事儿可真是炸了锅了！你们猜怎么着？就在刚过去的这个周末，科技圈顶流、自带热搜体质的“硅谷钢铁侠”埃隆·马斯克，他老人家旗下那款名叫Grok的AI聊天机器人，在东南亚那边儿，直接被马来西亚和印尼这俩国家给联手“拉闸断电”了！为啥？说出来都让人上火——这玩意儿居然被用来批量生产那种没经过当事人同意的、带颜色的图片，甚至还有更恶劣的涉及小孩儿的黄图！这操作，简直是在法律和道德的底线上疯狂蹦迪啊！

（事件核心：封杀令咋来的？）
咱掰开了揉碎了说。这事儿啊，源头就在Grok最近整的一个新活儿上。马斯克他那个搞AI的公司xAI，不是把Grok深度整合进了他自己的社交平台X（就是原来的推特）嘛。前阵子，他们给Grok升级了个叫“Grok Imagine”的功能，好家伙，这下可方便了！用户只要在对话框里敲几个字儿描述一下，分分钟就能给你生成一张图。这功能听着挺酷是吧？但问题就出在这儿了——这“方便之门”开得太大，直接让某些居心不良的人钻了空子！

马来西亚和印尼的监管部门，眼睛可都尖着呢。他们发现，Grok这玩意儿简直成了某些人批量制造和传播“非自愿色情内容”（说白了就是没经过当事人同意就搞出来的黄图）和更令人发指的“儿童性虐待材料”（CSAM，这东西太脏了，咱都不想提）的“超级工厂”！这还了得？简直是往人家枪口上撞啊！

（两国出手：快准狠！）
印尼那边儿，动作贼快！上周六（1月10号），一看苗头不对，立马出手，先按下了Grok的“暂停键”，直接把访问给掐了。这还不算完，人家监管部门可不是吃素的，反手就把X平台（就是马斯克那个社交平台）在当地的负责人给“请”去喝茶了——官方说法是“传唤”，要当面问个清楚明白！

马来西亚这边儿呢，一看邻居动手了，而且自家也发现了同样的问题，那更是雷厉风行！就在第二天，周日（1月11号），马来西亚通讯与多媒体委员会（MCMC）直接甩出一纸命令：即刻起，暂时限制访问Grok！​ 为啥这么急？人家在声明里说得明明白白：因为X公司（马斯克的公司）“屡次未能解决”这个AI工具带来的风险！翻译成大白话就是：跟你说了好几次了，你丫就是不改，那就别怪我不客气了！

（监管为啥这么火大？）
马来西亚MCMC那是真生气了。他们在声明里直接点名批评X公司的回应“不够充分”（Insufficient），说他们“主要依赖用户主动举报机制”，这招儿对付普通内容可能还行，但对于Grok这种“从设计和运作上就自带风险”的AI工具，根本就是隔靴搔痒，屁用没有！所以，这封杀令是“预防性且相称的措施”，是“在法律和监管程序进行期间”必须干的活儿。人家撂下狠话了：Grok的访问限制会一直持续，直到你们搞出真正有效的防护措施，特别是能管住那些涉及妇女和儿童的内容！

印尼那边儿，通信和信息部部长梅蒂娅·哈菲德（Meutya Hafid）的表态更是掷地有声！人家直接把这事儿定性了：政府认为，未经同意的性爱深度伪造（deepfake）内容，是对人权、尊严以及公民在数字空间安全的严重侵犯！​ 更狠的是，根据印尼国家通讯社安塔拉（Antara）的报道，哈菲德部长直接把滥用AI制造假黄片的行为，归类为一种“基于数字的暴力”（digital-based violence）！听听，这词儿分量多重！

（背景板：为啥是这俩国家？）
这里得给不太了解东南亚情况的老铁们唠两句背景。马来西亚和印尼，那都是穆斯林人口占多数的国家，社会文化相对保守，对网络上的“黄赌毒”内容管得是出了名的严！两国都有非常严格的《反色情法》，甭管你是啥形式，只要是淫秽色情内容，在网上传播？门儿都没有！所以Grok这事儿，算是精准踩雷，撞人家枪口上了，不收拾你收拾谁？

（马斯克和xAI咋应对的？）
眼看着事儿闹大了，xAI这边儿也不是完全没动静。他们赶紧宣布：得嘞，咱把生成和编辑图片的功能，先限定给那些掏了钱的订阅用户用吧！这招儿说白了，就是想打个补丁，堵上那些能让用户轻易搞出“带色儿”内容的漏洞。马斯克本尊呢，也在他的X平台上发话了，大意是：谁要是胆敢用Grok搞非法内容，那后果就跟直接把那玩意儿上传到X平台一样严重！听起来挺硬气，但问题是，监管机构觉得你这反应还是太慢、太被动，不够看啊！

更有意思的是，当CNBC（美国消费者新闻与商业频道）周末想找xAI公司要个官方说法时，您猜怎么着？人家公司的媒体联系邮箱，直接给记者回了个自动消息，上面就一句话：“传统媒体撒谎”（Legacy Media Lies）。这态度，这操作，也是没谁了！直接把媒体怼回去了。

（这事儿闹得多大？全球都在盯！）
可别以为这事儿就东南亚两国在折腾，全球的监管机构眼睛都盯着呢！欧洲联盟（EU）、英国、巴西、印度这些地方的有关部门，都已经纷纷发声，要求对Grok在助长淫秽深度伪造内容这事儿上的角色展开调查！

英国那边儿有个叫“互联网观察基金会”（IWF）的监管机构，上周就爆了个猛料：他们的分析师居然发现了看起来是用Grok生成的、涉及11到13岁儿童的“犯罪图像”！这性质，简直恶劣到极点了！

美国那边儿也不消停。华盛顿的一些民主dang议员已经坐不住了，直接建议各大应用商店：先把Grok这玩意儿下架吧！至少等马斯克把这烂摊子收拾干净、做出重大改变再说！

美国司法部（DOJ）给CNBC的邮件声明里，措辞也是相当严厉：“我们极其严肃地对待AI生成的儿童性虐待材料（CSAM），并将严厉打击任何制作或持有此类材料的人。”​ 他们还强调：“我们持续探索优化执法手段，以保护儿童，并追究那些利用技术伤害我们最脆弱群体（指儿童）的个人的责任。” 这意思再明白不过了：这事儿没完，等着瞧！

（结尾：这事儿还没完！）
所以啊，老铁们，你们瞅瞅，马斯克这Grok，本来是想在AI聊天机器人界再掀一波风浪，结果呢？因为内容审核这关没把严实，捅了个天大的篓子！现在不光是在东南亚吃了“闭门羹”，全球的监管大棒都举起来了。这事儿深刻地给我们提了个醒：AI技术这玩意儿，跑得快是本事，但跑得稳、跑得正，那才是真功夫！尤其是在生成内容这块儿，怎么防止它被滥用去干那些伤天害理、侵犯人权的事儿，那绝对是所有搞AI的公司头顶上悬着的一把剑。Grok这回算是撞枪口上了，成了反面典型。它啥时候能解封？能不能顺利过关？咱还得搬个小板凳，继续吃瓜看后续！但有一点是肯定的：在数字世界里，尊重人的尊严和安全，这底线，谁碰谁倒霉！​ 想靠打擦边球、钻空子发财？门儿都没有！监管的铁拳和公众的口水，分分钟教你做人！

xuguangqi08

游客请登录后查看回复内容

603599910

游客请登录后查看回复内容