数百名女性受害！被指“色情生成器”，马斯克旗下AI闯祸！

#上头条 聊热点#

2026年1月11日，据媒体报道，印尼和马来西亚官方日前相继宣布，暂时封禁埃隆·马斯克旗下的人工智能聊天机器人“格罗克（Grok）”，因为担心它被用于生成色情内容，导致她人受害。

事情是怎么回事呢？这个“格罗克（Grok）”是什么？为什么两个国家会相继暂封一个聊天机器人？这些色情内容是“格罗克（Grok）”生成？还是用户通过“格罗克（Grok）”生成？更或是两者共同生成？

【事件还原】

核心问题：Grok的图像生成及编辑功能被用来生成未经同意的色情内容，受害者主要为女性，数量达数百名。

问题规模：监测数据显示，在高峰期，Grok官方账号平均每小时生成约6700张带有X暗示或裸露性质的图像。

引发争议的功能： “Grok Imagine”图像生成器 及 “热辣模式”(“Fun Mode”或“火辣模式”)，可生成成人内容。

主要发生平台： 内容主要在X平台上生成和传播。

受害者案例： 一位23岁的医学生发现自己在X上的生活照被Grok篡改，衣服被替换成比基尼甚至“牙线”，投诉后平台未有效处理，引发了舆情。

官方回应X平台：表示会删除内容、封禁账户并与执法部门合作。

马斯克/xAI：起初有自动回复“传统媒体撒谎”，后称“制作非法内容者将承担后果”。

全球监管反应： 英国、法国、欧盟、印度、马来西亚等多国政府谴责，并启动调查。法国巴黎检方已正式立案。

目前进展：美国知名律师事务所Berger Montague已宣布介入调查，为受害者提供法律咨询，可能提起集体诉讼。

平台措施： Grok已将图像生成和编辑功能限制为仅限付费订阅者使用。

【对受害者的影响与维权困境】

情绪伤害严重：受害者的普遍感受是“绝望、无助和厌恶”。当真实生活照被恶意篡改并公开传播时，这种精神冲击非常直接。

平台投诉机制失效：有受害者尝试通过X平台官方渠道举报，得到的回复却是“未违反平台规定”，侵权图片迟迟未被删除。

法律界定模糊：尽管美国已有《下架法案》等法律，但如何界定平台在AI生成有害内容中的责任，仍是新的法律挑战。律师指出，在此事中X平台不仅是发布者，且直接参与了图像的生成，这可能改变其法律责任。

总的来说，Grok事件暴露了AI工具在设计、使用策略与平台监管上存在严重漏洞。当一项强大且几乎无限制的生成功能与一个巨型社交网络直接绑定，造成的滥用风险是指数级增长的。目前，事件的解决很大程度上依赖于各国监管的施压和可能的集体诉讼，而非企业的自我约束。

小伙伴们，你们会用这样的AI工具吗？