Newshot

在 Instagram 上,连 Sam Altman 也躲不过 AI 深度伪造

AI summary

Open AI CEO Sam Altman 接受电视采访 | Getty Images。Instagram 上充斥着人们发布的深度伪造内容,最近就连 Meta 最知名的高管之一也加入了这一行列。11 月初,Meta 首席 AI 官 Alexandr Wang 分享了一段短视频,用来宣传公司旗下的消费级 AI 智能体 Muse。在这段由 AI 生成的片段中,Alexandr Wang、Meta CEO Mark Zuckerberg、OpenAI CEO Sam Altman 以及 Muse 的拟人化吉祥物 Jolly 正在进行四人视频通话。当Altman加入通话时,他打扮成Jolly的样子,穿着一身毛茸茸的连帽套装,还画了脸妆,让自己看起来像那个可爱的角色。片段配文写着“当兄弟们讨论 openai 产品战略时”,这是对 AI 智能体……的引用。完整报道请见 The Verge。

Translation(model translation, not the source's own text)
Sam Altman 在旧金山 OpenAI 开发者大会上发言
Sam Altman 在旧金山 OpenAI 开发者大会上发言

Instagram 上充斥着人们发布的深度伪造内容——最近,其中还包括 Meta 最知名的高管之一发布的内容。

11 月早些时候,Meta 首席 AI 官 Alexandr Wang 分享了一段短片,用来推广公司面向消费者的 AI 智能体 Muse。在这段 AI 生成的短片中,Wang、Meta CEO Mark Zuckerberg、OpenAI CEO Sam Altman 以及 Muse 的拟人化吉祥物 Jolly 正在进行四人视频通话。当 Altman 加入通话时,他打扮得像 Jolly,穿着毛茸茸的连帽套装,还画了面部彩绘,让自己看起来像这个可爱角色。短片配文是“当哥们儿聚在一起讨论 openai 产品战略时”,暗指 AI 智能体竞赛以及 Muse 近期的流行。

就在几年前,描绘真实人物的 AI 内容还会引发强烈的公开声明,谴责利用该技术模仿人类。在某些情况下,还有人威胁采取法律行动。如今,AI 内容已成为新现实质感的一部分,尤其是在社交媒体上。例如,在中期选举前夕,政治团体投放了价值数百万美元的 AI 生成广告来攻击对手。

Wang 一直在做很多被一些人称为“反公关”的事情来推广 Muse,发了数百条推文,并把更传统的营销人员称为 “corposlops”。尽管如此,一位大型科技公司高管发布竞争对手的 AI 视频仍然值得注意,尤其是在一个最近因 AI 生成内容而受到批评的平台上。10 月,一张 AI 生成的女演员 Mia Goth 图像获得传播后,这位《Pearl》主演的代表告诉 The Verge,Instagram 允许该图像传播,而不是专注于“公众人物肖像的保护与完整性”,这“令人不可理解”。包括 Scarlett Johansson 在内的其他名人,也经常成为性化 AI 图像的对象;Meta 过去曾移除一些它发现冒充他人并使用其肖像的账号。

Meta 要求描绘人物的 AI 生成视频必须标注为 AI,就像 Wang 的帖子那样。但静态图像没有此类要求,这意味着 Goth 的 AI 图像没有任何披露标识。更糟的是,这张图像是由一个带有 Instagram 授予的蓝色认证徽章的粉丝账号分享的。

就置评请求联系时,Meta 发言人 Tracy Clayton 指出,Wang 的帖子已被标注为 AI 内容。Clayton 还指出,Altman 已允许将他的肖像用于 AI 内容生成,比如 OpenAI 推出 Sora 应用时(该应用很快被伪造的 Altman 视频淹没)。OpenAI 未回应置评请求。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Verge
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗