明星合成色情图AI生成的泰勒斯威夫特露骨
本周，由人工智能生成的世界上最著名明星的色情图像在社交媒体上传播，突显了主流人工智能技术带来的破坏性潜力：它能够创建令人信服的真实且具有破坏性的图像。
(Taylor Swift) 的假照片主要在社交媒体网站 X（以前称为 Twitter）上传播。这些照片展示了这位歌手的性暗示和露骨姿势，在从社交平台上删除之前，这些照片已被观看了数千万次。
Taylor Swift)
但互联网上的任何东西都不会真正永远消失，毫无疑问，它们将继续在其他监管较少的渠道上共享。斯威夫特的发言人没有回应置评请求。
与大多数主要社交媒体平台一样，X 的政策禁止共享“可能欺骗或迷惑人们并导致伤害的合成、操纵或断章取义的媒体”。该公司没有回应 CNN 的置评请求。
这一事件发生之际，美国即将进入总统选举年，人们越来越担心人工智能生成的误导性图像和视频可能会被用来引导虚假信息，并最终扰乱投票。
数字调查机构 Memetica 的负责人本·德克尔 (Ben Decker) 告诉 CNN，“这是人工智能出于多种邪恶原因而被释放的一个典型例子，而没有足够的护栏来保护公共广场。”德克尔表示，利用生成式人工智能工具创建针对所有类型公众人物的潜在有害内容的情况正在迅速增加，并且在社交媒体上的传播速度比以往任何时候都快。
“社交媒体公司并没有真正制定有效的计划来监控内容，”他说。例如，X 已经很大程度上削弱了其内容审核团队，并依赖于自动化系统和用户报告。（在欧盟，X 目前正在因其内容审核做法而接受调查）。
直接了解情况的人士告诉 CNN，Meta 也对处理虚假信息的团队进行了裁员，并在其平台上协调了网络攻击和骚扰活动，这在美国和世界各地关键的 2024 年选举之前引起了人们的担忧。
目前尚不清楚泰勒·斯威夫特相关图像的来源。尽管在 Instagram 和 Reddit 等网站上发现了一些图像，但它们在 X 上尤其是一个广泛的问题。该事件也恰逢 ChatGPT 和 Dall-E 等人工智能生成工具的兴起。
然而，Decker 表示，开源平台中还存在一个更广阔的世界，存在未经审核的不安全工作人工智能模型。“这表明内容审核和平台治理出现了更大程度的分裂，因为如果所有利益相关者——人工智能公司、社交媒体公司、监管机构和民间社会——不谈论同样的事情，也不就如何解决问题达成一致。这些问题，此类内容只会继续激增，”他补充道。
然而，德克尔表示，Swift 成为目标可能会让人们更多地关注围绕人工智能生成图像的日益严重的问题。斯威夫特庞大的忠实“斯威夫特人”本周在社交媒体上表达了他们的愤怒，使这个问题成为人们关注的焦点。2022 年，Ticketmaster 在她的 Eras Tour 演唱会之前发生的崩溃在网上引发了愤怒，导致多项立法努力打击对消费者不友好的票务政策。
德克尔表示，也许对于损坏人工智能生成的图像也是如此。
“当像泰勒·斯威夫特这样的人物成为如此大的[目标]时，也许这会促使立法者和科技公司采取行动，因为他们无法承受让美国甜心参与针对他们的公开运动，”他说。“我认为他们需要让她感觉更好，因为她确实比互联网上几乎任何其他人都有更大的影响力。”
这种技术已经被用来制作所谓的“复仇色情”——未经某人同意就在网上发布某人的露骨图像——有一段时间了，但现在由于斯威夫特的令人反感的照片而再次受到关注。
美国九个州目前制定了法律，禁止创建或共享未经同意的深度伪造摄影，这些摄影是为了模仿一个人的肖像而创建的合成图像。
