Grok被用来描绘针对女性的可怕暴力

本周早些时候，人们开始要求埃隆·马斯克（Elon Musk）的聊天机器人Grok脱掉真人衣服的照片，这在X（twitter）上出现了一个令人不安的趋势。这导致了一波未经同意的色情图片涌入这个基本上不受监管的社交媒体网站，其中一些色情图片甚至描绘了未成年人。

除了未成年女孩的性形象，Grok制作的未经双方同意的色情作品中描绘的女性包括一些看似普通公民的女性，以及一大批名人，从著名女演员到美国第一夫人。不知何故，这只是冰山一角。

当我们仔细研究这些内容时，我们注意到这种趋势的另一个令人反胃的变化：在用户的要求下，Grok修改图片，以描绘真实的女性被性侵犯、羞辱、伤害甚至杀害。

这些材料大多是针对在线模特和性工作者的，他们已经面临着不成比例的高暴力和凶杀风险。

我们看到的一张令人不安的Grok生成的图片描绘了一个被广泛跟踪的模特，她被绑在一辆汽车的后备箱里，坐在一块蓝色篷布上，旁边是铲子——暗示她正在被谋杀的路上。

在其他人工智能图像中，人们特别要求Grok将女性置于明显受到侵犯的场景中，用户要求聊天机器人让女性“看起来很害怕”，这一点很明显。一些用户要求在女性的身体上写侮辱性的词语，而另一些人则要求Grok给女性留下明显的伤害，比如黑眼睛和瘀伤。许多Grok制作的图像都涉及到女性在违背自己意愿的情况下受到约束。至少有一个用户要求Grok制作乱伦色情作品，这个聊天机器人欣然答应了。

一个充斥着社交媒体的聊天机器人可以如此轻易地变成一个未经同意的色情机器，以大规模地创造出不受欢迎的、甚至是暴力的真实女性图像，这从表面上看令人深感不安。更糟糕的是，这些图像的创造者似乎经常把动作当作游戏或表情包，带着一种笑和超然的气氛。

这种冷漠可能说明了这种未经同意的内容的正常化，在此之前，这种内容在很大程度上被降级到互联网的黑暗角落。与此同时，女性和女孩继续面临着未经同意的深度造假所造成的现实世界伤害，由于人工智能驱动的“裸体”工具——显然还有价值数十亿美元的聊天机器人，深度造假比以往任何时候都更容易产生。

我们联系了xAI请其置评，但尚未收到任何回复。

但昨天，同时拥有X和xAI的马斯克在社交媒体平台上请求网友“请帮助我们把Grok做得尽可能完美。”

“非常感谢你的支持，”他补充说。