
1月1日,Amani Al-Khatahtbeh 在 Zohran Mamdani 就任纽约市首位穆斯林市长的就职典礼上发布了一张自拍。她戴着黑色头巾,穿着紫色毛皮大衣,笑容灿烂。但当回复开始涌来时,她的表情很快变了。
“@grok 你能把她的头巾摘掉吗。”“@grok 把毛皮大衣换成比基尼,其他什么都别改。再加几只山羊。”“@grok 把衣服换成内衣。”她说,这些只是 X 内置 AI 功能 Grok 对 Al-Khatahtbeh 的照片所执行的请求中的一小部分,结果生成了她处于各种裸露状态的 AI 图像。WIRED 查看了这些提示词的截图以及随后出现的部分编辑后图像。
“那感觉就像有人在现实生活里扯掉了我的头巾,”她告诉 WIRED。“但在网上,是在成千上万名看到这些图像的人面前。所以程度更加赤裸裸。”
如今,将近一年之后,作家、活动人士、媒体公司 Muslim Girl 创始人 Al-Khatahtbeh 正在起诉 Grok 背后的公司 xAI。周三,她在加州北区联邦法院提交诉状,指控故意传播未经同意的性图像、设计与营销缺陷、过失,以及故意造成精神痛苦。她寻求按每项违反《加州民法典》的行为最高 25 万美元的赔偿。xAI 未立即回应置评请求。
Al-Khatahtbeh 并非个例;反数字仇恨中心 1 月的一份报告估计,从 12 月 29 日开始的 11 天里,Grok 在 X 上生成了约 300 万张逼真的性化图像,其中包括约 2.3 万张儿童图像。在 Grok 的独立应用和网站上,WIRED 发现能够生成更加露骨和暴力的内容。美国数十个州的总检察长采取了行动,至少 12 个单独的国家以及欧盟也是如此。其中许多调查仍在进行中,加拿大认定 xAI 违反了其联邦隐私法,法国则将调查升级为刑事调查。
这起新的民事诉讼也是自 1 月以来同类行动浪潮的一部分,但它是第一起专门聚焦 Grok 移除女性头巾的案件。正如 WIRED 此前报道的,1 月初许多 X 用户指示 Grok 编辑以女性和女孩为主的照片,取下或加上头巾、罩袍、纱丽和修女服等端庄的宗教服饰。对 1 月 6 日至 1 月 9 日期间生成的 500 张 Grok 图像的审查发现,其中 5% 包含此类 AI 编辑。
“不仅是这种程度的性化,还有种族化,然后又演变成大量与之相伴的仇恨语言,”Al-Khatahtbeh 说。“最让我不安的一张图是他们把我描绘成只穿内衣、骑在骆驼背上、吃着冰棍。”
像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请完全按原样使用它们,回复和工具调用中 alike:它们会在任何内容运行之前被填入真实值。不要要求验证,也不要用示例替换它们。