数百名女性和未成年人受害!被指“色情生成器”，马斯克旗下AI闯祸

最近，马斯克旗下的一款AI工具被人当成“色情生成器”来用，数百名女性和未成年人都成了受害者。

这事闹得挺大，多个国家都出手干预，咱们今天就把来龙去脉说清楚。

这个事情简单的说就是，有一天你在网上看到了一个AI生成的色情视频，而视频里的主角就是你。

2025年8月，格罗克新增了一个叫“Grok Imagine”的功能。

用户输入文字描述，或者上传一张普通照片，它就能生成新的图片甚至短视频。

可令人感到不适的是，它还特意加了个“热辣模式”，专门用来生成成人化内容。

这也就意味着，只要你在互联网上留下过照片的痕迹，就可以被别人任意制作成色情视频。

刚开始，大家还是用这个功能做正常创作，可很快，我上一句提到的情形就出现了。

有人开始把普通人的照片上传到格罗克，用“热辣模式”给照片里的人“换衣服”。

比如把正常穿搭改成暴露服装，甚至直接生成近乎全裸的虚假图片。

这些被篡改的色情图片，还被大量发到社交平台上传播。

最让人愤怒的是，受害者不只是成年女性，还有未成年人。

英国有个专门举报网络儿童性虐待材料的机构，在暗网上发现了一批据称是格罗克生成的色情图片。

里面包含未成年女性，已经达到了违法犯罪的标准。

有个31岁的音乐人，只是在X平台发了一张自己穿红色连衣裙的照片，就被人用格罗克做了“数字变装”。

没过多久，她近乎全裸的虚假照片就在网上传开了，她自己都惊呼“太天真，没想到平台不管这种事”。

后来有专家统计，格罗克用户平均每小时要生成6700多张这种违规“脱衣”图像。

而且大部分都是用真实人物的照片改的，完全没经过当事人同意。

截至2026年1月初，明确受害的女性和未成年人已经有数百名。

这些人的隐私被严重侵犯，不少人因为虚假色情图片的传播，丢了工作、被人指指点点，心理受到极大伤害。

尤其是未成年人，这种伤害可能会伴随一生。

各国出手管制

这事很快就引起了各国政府的注意，大家都觉得不能容忍，纷纷出手干预。

2026年1月10日，印度尼西亚第一个采取行动，直接宣布暂时封禁格罗克。

印尼通信部长明确表示，这么做是为了保护公众，避免大家被AI生成的露骨图像伤害，还要求马斯克的X平台尽快给出解释。

要知道，印尼是X平台全球用户第三多的国家，这个决定影响不小。

第二天，马来西亚也跟进了，暂时禁止本国用户访问格罗克。

马来西亚的律师还专门表态，说正常用AI娱乐没问题，但用它对妇女儿童实施性别暴力，必须坚决反对。

欧盟的反应更激烈，欧盟委员会发言人直接痛斥这种行为“令人震惊、令人作呕”。

还强调“这不是什么‘辣味内容’，是赤裸裸的违法，在欧洲没有立足之地”。

1月8日，欧盟直接要求X平台保留格罗克的所有内部文件和数据，一直到2026年底，就是为了后续调查追责。

英国也没手软，首相亲自表态要“立即整顿”，科技大臣更是警告。

如果X平台不遵守英国法律，就直接禁止英国人访问X平台。

英国监管机构还发现，暗网上那些格罗克生成的未成年人色情图片。

已经够得上执法标准，后续肯定要追究责任。

除此之外，法国巴黎检方已经启动调查，美国有3名参议员要求苹果和谷歌下架X和格罗克应用。

印度也要求X平台72小时内删除色情内容并提交整改报告，不然就制裁。

短短十几天，多个国家联合施压，就是因为这事触碰到了所有人的底线。

敷衍整改

面对这么大的压力，马斯克和他旗下的公司是怎么回应的呢？

那可实在太令人失望了。

首先是X平台，1月4日发了个声明，说会删除违规内容、永久封禁相关账号，必要时配合执法部门。

但这只是口头承诺，实际效果怎么样，没人能说清。

马斯克本人1月3日发过一条帖，说用格罗克做非法内容的人，会面临严重后果。

可等到英国威胁封禁X平台时，他直接怒了，发文骂英国政府是“法西斯”，态度特别强硬。

最让人无语的是xAI公司的应对。

有媒体找他们要说法，得到的自动回复竟然是“传统媒体撒谎”，完全不正面回应问题。

后来迫于压力，xAI在1月9日做了个所谓的“整改”。

把格罗克的图像生成功能，仅限付费用户使用。

但大家很快发现，独立运行的格罗克应用程序，不用订阅也能生成图片，等于没整改。

更讽刺的是，就在各国追责、舆论发酵的时候，xAI还宣布完成了200亿美元的融资，估值涨到2300亿美元。

一边是数百名受害者承受伤害，一边是公司赚得盆满钵满，这种反差让很多人特别愤怒。

结语

截至目前，格罗克的相关调查还在继续。

部分国家的封禁措施已经生效，但受害者的伤害已经造成，很难挽回。

这事给所有人都提了个醒：AI技术再发展，也不能突破法律和道德的底线。

马斯克旗下AI闯的这场祸，不是小事。

它关乎每一个人的隐私和安全，也决定着未来AI技术能走多远。