揭示人工智慧关系聊天机器人背后的真相

Emma McGowan 2024年2月14日

最近来自Mozilla的一项报告发现，浪漫AI聊天机器人的肆虐为我们带来了全新的隐私问题。

自1960年代以来，AI浪漫伴侣在流行文化中一直存在。不论是像《我的活人玩偶》My Living Doll中的机器人“Rhoda Miller”，还是2013年电影《她》Her中由斯嘉丽约翰逊配音的无形声音，我们已经集体梦想著人工智慧能满足我们所有的情感需求。如今，随著生成AI的发展和推出，这个梦想似乎终于要变成现实。

但这真的是梦吗？还是我们在梦游中走向隐私的噩梦？这是Mozilla研究团队在其最新的浪漫AI聊天机器人的隐私不在乎特别报告中所探讨的问题。

结果令人震惊，11款测试过的聊天机器人中，有10款未能满足即使是Mozilla的最低安全标准。这意味著，这些机器人不要求用户创建强密码，也没有处理任何安全漏洞的方式。如此之大的问题，随著Google Play商店中超过一亿次的下载量，以及OpenAI应用商店近期出现的浪漫聊天机器人的激增，将会不断扩大。

但是该报告不仅仅关于数字；它还涉及到这些发现可能产生的重大隐私隐患。以Replika AI为例。根据Mozilla的说法，人们在一个不仅会记录这些信息，还可能将其出售给数据经纪人的应用上与他们的“AI魂伴”分享著最亲密的想法、感受、照片和视频。该应用还允许用户使用如“111111”这样的弱密码创建账户，将所有敏感信息置于被黑客攻击的风险之中。

Calder表示，虽然这些隐私和安全漏洞让人感到“毛骨悚然”，但有些聊天机器人甚至声称可以帮助用户改善心理健康。她指出浪漫AI作为例子，其条款和条件中说明：

“浪漫AI既不是医疗保健或医疗服务的提供者，也不提供医疗护理、心理健康服务或其他专业服务。只有您的医生、治疗师或其他专家才能做到。浪漫AI不对所提供的服务提供治疗、医疗或其他专业帮助的任何声明、保证或担保。”

然而，他们的网站却声称“浪漫AI旨在维护您的心理健康”强调为他们的说法。尽管我们不知道有多少人阅读了条款和条件与阅读网站的人数相比，但可以确定的是，更多人接收到网站的讯息而非免责声明。

在心理健康声称及客户愿意与数位“魂伴”分享私人信息之间，Calder担心这些机器人可能会轻易操控人们做出他们本不会做的事情。

“有什么能阻止不良分子创建聊天机器人来了解他们的魂伴，然后利用这种关系操控那些人去做可怕的事情、接受可怕的意识形态，或伤害自己或他人？”Calder说。“这就是为什么我们迫切需要更多透明度和用户控制来约束这些AI应用。”

因此，虽然AI聊天机器人承诺提供陪伴，但我们尚未达到《她》的水准：当前的现状显示，用户隐私成为了进入的代价。现在是用户、开发者和政策制定者呼吁在AI关系中增强透明度、安全性以及尊重个人界限的时候了。唯有如此，我们才能在不妥协我们的数位自我的前提下，安全地探索这些数位伙伴的潜力。