
Instagram 上充斥着人们发布的深度伪造内容——最近,其中还包括 Meta 最知名的高管之一发布的内容。
11 月早些时候,Meta 首席 AI 官 Alexandr Wang 分享了一段短片,用来推广公司面向消费者的 AI 智能体 Muse。在这段 AI 生成的短片中,Wang、Meta CEO Mark Zuckerberg、OpenAI CEO Sam Altman 以及 Muse 的拟人化吉祥物 Jolly 正在进行四人视频通话。当 Altman 加入通话时,他打扮得像 Jolly,穿着毛茸茸的连帽套装,还画了面部彩绘,让自己看起来像这个可爱角色。短片配文是“当哥们儿聚在一起讨论 openai 产品战略时”,暗指 AI 智能体竞赛以及 Muse 近期的流行。
就在几年前,描绘真实人物的 AI 内容还会引发强烈的公开声明,谴责利用该技术模仿人类。在某些情况下,还有人威胁采取法律行动。如今,AI 内容已成为新现实质感的一部分,尤其是在社交媒体上。例如,在中期选举前夕,政治团体投放了价值数百万美元的 AI 生成广告来攻击对手。
Wang 一直在做很多被一些人称为“反公关”的事情来推广 Muse,发了数百条推文,并把更传统的营销人员称为 “corposlops”。尽管如此,一位大型科技公司高管发布竞争对手的 AI 视频仍然值得注意,尤其是在一个最近因 AI 生成内容而受到批评的平台上。10 月,一张 AI 生成的女演员 Mia Goth 图像获得传播后,这位《Pearl》主演的代表告诉 The Verge,Instagram 允许该图像传播,而不是专注于“公众人物肖像的保护与完整性”,这“令人不可理解”。包括 Scarlett Johansson 在内的其他名人,也经常成为性化 AI 图像的对象;Meta 过去曾移除一些它发现冒充他人并使用其肖像的账号。
Meta 要求描绘人物的 AI 生成视频必须标注为 AI,就像 Wang 的帖子那样。但静态图像没有此类要求,这意味着 Goth 的 AI 图像没有任何披露标识。更糟的是,这张图像是由一个带有 Instagram 授予的蓝色认证徽章的粉丝账号分享的。
就置评请求联系时,Meta 发言人 Tracy Clayton 指出,Wang 的帖子已被标注为 AI 内容。Clayton 还指出,Altman 已允许将他的肖像用于 AI 内容生成,比如 OpenAI 推出 Sora 应用时(该应用很快被伪造的 Altman 视频淹没)。OpenAI 未回应置评请求。