泰勒斯威夫特的深fake色情影片并不新鲜，但这并不意味着我们就不应该感到担忧。

Emma McGowan 2024年1月30日

在人工智慧生成的泰勒斯威夫特色情图片于X前身为Twitter迅速走红后，我们不得不思考：这对人工智慧的未来有什么影响？

最近，一些AI生成的泰勒斯威夫特的露骨图片在X平台上迅速传播，暴露了AI能力的黑暗面。这些图片据信是使用Microsoft Designer创作的，迅速引起广泛关注，并突显出AI生成的假色情作品所带来的日益严峻的挑战。

随著这些图片在平台上的迅速扩散，此事件不仅引发了粉丝和隐私倡导者的愤怒，也提出了有关人工智慧在媒体创作中伦理使用的重大问题。

Avast的威胁情报总监米哈伊萨拉特Michal Salt为这一重要话题提供了丰富的知识和专业见解。从技术、安全和伦理的交叉点出发，萨拉特对AI生成内容的影响提出了细致的看法。

在接下来的几个部分中，我们将深入探讨他的见解，探索影像操控的历史平行，AI能力所带来的伦理困境，以及在我们日益以AI为驱动的世界中对数位信任和安全的更广泛影响。

假色情并不是新问题

萨拉特将目前AI生成逼真图像的能力与过去Photoshop的使用进行了比较。就像多年前Photoshop彻底改变了图片处理的方式一样，今天的AI使创作逼真图片变得更加简单。然而，操控图片的概念并不新鲜；AI只不过是这场持续的剧变中最新的工具。

“在某种程度上，这只是一种不同的照片编辑软体，”他解释说，强调影像操控的问题已存在十多年。当前的关键差异在于AI技术所带来的便捷性和可及性。这一变化引发了社会如何适应和规范这些新工具的重大问题，这些工具使得创建现实主义图片变得比以往更容易。

AI与露骨内容的伦理困境

当前的一个最紧迫的问题是使用AI生成露骨图片的伦理含义，尤其是针对特定个体且未经同意的情况。虽然生成一般裸体图片可能不会引发太多伦理问题，但问题的真正所在在于能够轻易创作出具有可辨识面孔的露骨图片。

“AI生成色情本身可能并没有什么固有的错误或伦理问题，”萨拉特表示。“但在我看来，伦理问题在于你可以相对容易地生成一张带有已知或特定面孔的图片。”

这种能力不仅限于名人，如泰勒斯威夫特，可能扩展到任何人，突显出需要建立伦理准则和立法的必要性：虽然所谓的“复仇色情”或非自愿分享裸体照片在48个州是违法的，但AI生成的深伪色情目前仅在10个州被禁止。这是一个鲜明的对比，凸显了立法需要跟上技术的脚步。

AI公司如何防止生成深伪色情？

或许因为生成性AI的获取相对较新，故目前针对未经主体同意生成露骨内容的限制措施仍然很少。不过萨拉特表示，AI公司实行这些措施并不会很困难：例如，禁止生成某些特定人物的图片，或是禁止使用客户提交的图片作为素材，将为绝大多数人提供足够的障碍。

“当然，有些人可能会找到方法破坏这些限制，强迫模型做它不该做的事，”萨拉特说。“我认为，目前几乎不可能完全避免这个问题我们只能让它更难。我的观点是，提供这些服务的公司应该更加努力以避免这种情况。”

也有可能有人创建自己的无限制色情生成模型。不过萨拉特指出，尽管这是可能的，但需要大量的技术知识和大量的计算能力。

“并不是很多人能够自己创建一个生成裸体的AI，”萨拉特说。“所以，这更像是使用Photoshop，你需要有一定的技能水平才能做到。”

萨拉特将现阶段AI的发展状态与安全行业的演变进行了比较。他观察到，我们正见证安全行业“在AI上重新开始”的过程。这一比较强调了将AI发展视为一个持续过程的重要性，在这个过程中，识别和修复漏洞对于技术的成熟至关重要。

AI生成的泰勒斯威夫特图片凸显了负责任使用AI的重要性。随著AI的持续进步，将技术能力与伦理考量和安全措施平衡起来将是至关重要的。通过向像米哈伊萨拉特这样的专家学习并反省过去的挑战，我们可以以更为知识渊博和谨慎的方式来应对这一复杂的局面。