Emma McGowan 2024年1月30日

随著AI生成的泰勒斯威夫特色情图片在X前身为Twitter上走红，我们不禁思考：这对AI的未来意味著什么？

最近，AI生成的著名歌手泰勒斯威夫特的露骨图片在X上广泛流传，显示了AI技术的阴暗面。这些图片据信是使用微软设计工具创建的，吸引了大量关注，并突显了AI生成假色情内容日益严重的挑战。

随著这些图片迅速在平台上传播，此事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了关于AI在媒体创作中道德使用的关键问题。

Avast威胁情报总监米哈伊萨拉特(Michal Salt)拥有丰富的知识和专业技能，对这一时刻的讨论提供了深刻的见解。萨拉特关注技术、安全和伦理的交叉点，为AI生成内容的影响提供了细致的观点。

在接下来的部分，我们深入探讨他的见解，探索图片处理的历史平行、AI能力所带来的伦理困境，以及在日益依赖AI的世界中，对数字信任和安全的更广泛影响。

假色情问题并不新鲜

萨拉特将当前AI生成逼真图片的能力与过去使用Photoshop进行的图像处理相提并论。他指出，正如Photoshop多年前革新了图片处理，AI如今让创作真实图片变得更为简单。然而，操纵图片的概念并不是新鲜事；AI仅仅是这场持续剧目中的最新工具。

“从某种意义上讲，这只是一种不同的照片编辑软件，”他解释说，强调操纵图片的概念已经被关注十多年。现在的关键区别在于AI技术带来的便利性和可及性。这种变化引发了社会如何适应和调节这些新工具的重要问题，因为这些工具使得生成真实图片变得比以往任何时候都更容易。

AI与露骨内容的伦理困境

最迫切的问题之一是使用AI生成露骨图片的伦理含义，尤其是针对特定个体而未经其同意。虽然生成一般裸露图片可能不会引发太多伦理问题，但真正的问题在于轻易地创建可识别人员的露骨图片。

“AI生成的色情图片本身没有什么固有的错误或伦理问题，”萨拉特说。 “但对我来说，伦理问题在于，你可以相对容易地生成带有已知或特定面孔的图片。”

这种能力不仅局限于像泰勒斯威夫特的名人，还可能延伸到任何人身上，强调了需要建立伦理准则和立法的必要性：尽管所谓的“报复色情”或未经同意分享裸照在48个州是违法的，但AI生成的深度伪造色情内容目前仅在10个州受到禁止。这一明显的差异凸显了立法需要跟上技术的步伐。

AI公司如何防止生成深度伪造色情？

或许是因为生成AI的访问相对较新，对于在未经主体同意的情况下创作露骨内容的相关规范仍然很少。然而，根据萨拉特的说法，对AI公司来说，实施这些规范并不会太困难：例如，不允许生成特定人的图片或使用顾客提交的图片作为源材料，就能够为绝大多数人提供足够的阻碍。

“当然，也有一些人能够打破这些限制，迫使模型做不该做的事，”萨拉特表示。 “在我看来，现在避免这种情况几乎是不可能的只能让它更困难。我想说的是，提供这些服务的公司应该更加努力地去避免这种情形。”

此外，也存在有人创建不受限制的色情生成模型的可能性。萨拉特指出，虽然这种情况是可能的，但要做到这点需要 大量 的技术知识和 大量 的计算能力。

“并不是很多人能够自己创建一个生成裸图的AI，”萨拉特说。 “所以，这就更像是使用Photoshop，你需要具备一定的技能才能做到这一点。”

萨拉特将当前AI发展的状态与安全行业的演变进行比较。他观察到，我们正在目睹安全行业“在AI的背景下重新开始”。这一比较突显了将AI发展视为一个持续进程的重要性，其中识别和修补弱点对于技术的成熟至关重要。

在X上看到的泰勒斯威夫特的AI生成图片强调了负责任使用AI的重要性。随著AI的不断进步，平衡技术能力、伦理考量和安全措施将变得至关重要。通过向专家米哈伊萨拉特学习并反思过去的挑战，我们可以以更明智和谨慎的方式在这个复杂的环境中前进。