.png?width=48&height=48&name=image%20(3).png)
](https://blog.avast.com/author/emma-mcgowan) 2024年1月30日
在泰勒·斯威夫特的AI生成色情图片在X平台上疯传之后，我们不禁思考：这对AI的未来意味著什么？
最近，AI生成的在X（前身为Twitter）上迅速传播，揭示了AI能力的阴暗面。这些图片被认为是使用微软设计工具创建的，引发了广泛关注，突显了AI生成伪色情内容日益严峻的挑战。
随著这些图片迅速在平台上扩散，事件不仅引起了粉丝和隐私倡导者的愤慨，也提出了关于AI在媒体创作中伦理使用的重大问题。
Avast威胁情报总监MichalSalát在这一及时的讨论中带来了丰富的知识与专业见解。他专注于科技、安全和伦理的交集，为AI生成内容的影响提供了深刻的视角。
在接下来的部分中，我们将深入探讨他的见解，回顾图像操控的历史平行，AI技术所带来的伦理困境，以及在越来越依赖AI的世界中对数位信任与安全的更广泛影响。
假色情并非新问题
Salát将当前AI生成逼真图片的能力与过去使用Photoshop的情况相提并论。正如Photoshop几年前彻底改变了图像处理技术，AI如今也大大简化了制作逼真图片的过程。然而，操纵图片的想法并不新鲜；AI只是这场延续中的故事中的最新工具。
“这在某种程度上只是另一种照片编辑软体，”他解释道，强调操纵图片的概念在过去十多年里一直是一个问题。现在的关键差异在于AI技术带来的便利性和可及性。这一转变引发了社会如何适应和规范这些新工具的重要问题，这些工具使得创造逼真图片变得比以往更加容易。
AI与露骨内容的伦理困境
最迫切的担忧之一是使用AI生成露骨图片的伦理影响，尤其是未经特定个人同意的情况。虽然生成一般的裸露图片可能不会引发太多伦理问题，但真正的挑战在于随意创造可识别人士的露骨图片的容易性。
“AI生成的色情图像本身并不一定存在根本性的错误或伦理问题，”Salat表示。“但对我来说，伦理问题在于你可以相对容易地生成一张带有已知或特定面孔的图片。”
这种能力不仅限于像泰勒·斯威夫特这样的名人，还可能扩及至任何人，凸显出制定伦理指导和立法的必要性：虽然所谓的“报复色情”（或未经同意分享的裸照）在48个州是，但目前AI生成的深伪色情只在
AI公司如何防止深伪色情的生成？
或许是因为生成AI的获取仍相对较新，因此目前在未经主体同意的情况下创建露骨内容的约束措施并不多。然而，根据Salát的说法，实施这些措施对AI公司来说并不困难：例如，不允许生成特定人的图像或使用客户提交的图片作为材料，将为绝大多数人提供足够的屏障。
“当然，某些人会找到方法突破这些限制，迫使模型执行不该执行的操作，”Salát说。“我认为目前要完全避免这一点几乎是不可能的——只能让这一过程变得更困难。我的观点是，提供这些服务的公司应该更努力地避免这种情况。”
还有可能有人创建自己的无限制色情生成模型。然而，Salát指出，尽管这是可能的，但这需要_大量_技术知识和_大量_运算能力来实现。
“并不是很多人能够自己创建出能生成裸露图片的AI，”Salát说。“所以这更像是在使用Photoshop，你需要有一定的技巧才能做到。”
Salát将当前AI发展的状态与安全行业的演变进行了比较。他观察到，我们正见证安全行业“随著AI重新开始”。这一比较强调了将AI发展视为持续过程的重要性，其中识别和修补漏洞是技术成熟的关键。
泰勒·斯威夫特在X平台上的AI生成图片强调了负责任使用AI的重要性。随著AI不断进步，在科技能力、伦理考量与安全措施之间找到平衡将是关键。通过向像MichalSalát这样的专家学习并反思过去的挑战，我们可以以更全面和谨慎的方式导航这一复杂的环境。
