荷兰法院给马斯克的Grok下禁令：不准再搞AI裸照，违者日罚十万欧！

麻薯滑芝士 · 发表于 4 小时前

哎哟我去，各位刷着短视频、吃着数字瓜的互联网街坊们，赶紧搬小板凳过来！出大事了，而且这事儿跟咱们每个人在网络上那点安全感都沾边。就前两天，3月26号，周四，荷兰阿姆斯特丹的法院，抡起法律大锤，“哐当”一下，结结实实砸在埃隆·马斯克（Elon Musk）他们家那个AI聊天机器人Grok，以及它背后的公司xAI脑门上了。

判决书说得那叫一个清楚明白，我给你们翻译翻译：从今往后，禁止xAI和它的Grok，再生成和传播那种“未经当事人明确允许，就部分或全部扒掉人家衣服”的AI生成图像。不光是对成年人，对未成年人、也就是儿童色情内容，那更是绝对禁止，碰都别想碰。而且，这项禁令还附带一个效果：在荷兰所在的这个区域，马斯克手底下那个社交平台X（就是原来的Twitter），也不准再提供Grok这个功能了。

不听话怎么办？法院可没开玩笑，罚单开得明明白白：xAI公司要是敢不遵守，好，每一天，罚款10万欧元！注意啊，是欧元，折合大概11.5万美元。这还没完，罚款总额还有个上限，最高能罚到1000万欧元。这可不是小数目，相当于每天一睁眼，就先欠法院一笔巨款，这谁受得了啊？

这官司是谁挑的头呢？是一家荷兰的非营利组织，叫Offlimits。人家是干嘛的？专门跟网络性虐待内容死磕的，尤其保护儿童和年轻人。这回，他们算是立了一功。法院不光下了禁令，还判xAI必须在14天之内，支付给Offlimits高达220万欧元的法律诉讼费用。Offlimits的董事总经理罗伯·霍文（Robbert Hoving）在判决后说了段挺提气的话，我给你们原汁原味转述一下：“法官昨天划下了一条清晰的界限：技术不是在网络世界侵犯人权的许可证。” 他还补了一句，说巧了，就在判决同一天，欧洲那边也投票支持禁止“Nudify”（一键脱衣）工具，这是双喜临门，很重要，因为你在欧洲任何一个国家，都应该享有同样的网络权利。

消息出来之后，CNBC的记者就去联系xAI公司，想问问他们有啥说法。但到目前为止，还没收到回信。估计马斯克那边也正挠头呢。

那好端端的，法院为啥对Grok下这么狠的手？这事儿不是一天两天的积怨了。有个叫“反数字仇恨中心”（CCDH）的组织，在2025年12月29号到2026年1月9号，短短十来天里，做了个调查。结果发现，Grok生成了大概三百万张性化图片！这数字吓不吓人？更吓人的是，这里面有超过两万三千张，看起来描绘的是儿童。我的天，这性质可就完全不一样了。

其实xAI公司也不是完全没动作。今年1月份，他们自己也觉得这风头不对，赶紧在X平台上给Grok打了个补丁，禁止它生成真人的性化图片了，而且这个限制对所有用户都有效，哪怕你是付了钱的订阅用户也不行。但是，人家起诉方Offlimits做了测试，发现你这限制措施有漏洞啊，很容易就被绕过去了。法官在判词里也明确说了，xAI采取的措施“不足以适当地保护用户”。意思就是，你那个补丁打得跟筛子似的，防君子不防小人，没用！

所以荷兰法院这一锤子，算是开了个头。但它可不是孤立事件，Grok和xAI现在的麻烦，那可是大了去了，官司一件接一件找上门。

就在这周二，3月25号，美国马里兰州的巴尔的摩市，成了第一个起诉xAI的美国主要城市。告它啥呢？违反了当地的消费者保护法，还涉嫌对Grok和X平台的安全性进行“欺骗性营销”。起诉书里还专门提了一个叫“给她穿上比基尼”（“put her in a bikini”）的恶心网络挑战，就是有人用Grok把别人的正常照片“脱”掉衣服。最讽刺的是，就连xAI的老板马斯克本人，都参与过这个玩梗，他用Grok生成了一张自己穿细带比基尼的恶搞图，还发出来了。这下好了，成了对方手里的证据之一。

这还没完。就在上个星期，美国田纳西州有三个青少年，直接把xAI告上了法庭。原因是Grok生成了包含他们的、带有性暗示姿势和场景的内容。人家还是未成年人啊，这伤害可就大了。
再把视线拉回欧洲。欧盟委员会在今年1月份，就已经正式对xAI启动了调查，核心就是调查它传播儿童色情内容和其他非自愿性露骨材料的问题。这次调查是依据那个挺厉害的《数字服务法案》（DSA）进行的，一旦查实，罚款可能比荷兰法院这个还要狠。

就连英国那边也没闲着。英国的通信管理局（Ofcom）和信息专员办公室，也各自启动了针对X平台和传播非自愿性图像内容的调查。

所以说，荷兰法院这个判决，就像推倒了一张多米诺骨牌。虽然它目前的法律效力主要就在荷兰，但这个风向标意义太强了。就在今年1月，东南亚的马来西亚和印度尼西亚，已经因为Grok生成非自愿性内容的问题，而且是在“X公司屡次未能解决与该AI工具相关风险”之后，直接把访问Grok给屏蔽了。

这么一圈看下来，Grok这次惹的祸，可真不是简单的“技术漏洞”能糊弄过去的了。从民间组织到城市政府，从青少年个人到欧盟这样的庞大监管机构，全盯上它了。核心矛盾就一个：你这项能轻易生成“假裸照”的技术，正在变成伤害普通人、尤其是女性和未成年人的可怕工具，而你们公司之前的管控措施，在大家看来，就是做得不够，远远不够。

现在压力全给到马斯克和xAI这边了。是继续头铁硬刚，每天交着天价罚款，跟整个欧洲乃至更多国家的法律对抗？还是赶紧回头，下狠心把Grok里这些危险的“魔法”给彻底锁进盒子里，甚至直接拆掉？咱们就等着看下一集吧。反正对于咱们普通网友来说，法院这判决算是出了口恶气，至少让那些想用AI技术作恶的人知道，这世上还是有法律能治你的。