社媒X封锁泰勒·丝薇芙深度伪造搜索结果

由马斯克创办的社媒平台《X》因泰勒·丝薇芙的深度伪造（Deepfake）色情图像在网上传播，而采取了限制部分搜索结果的措施。

美联社报导，用户星期一（1月29日）在该平台上尝试搜索泰勒·丝薇芙的名字时，未加引号的搜索结果显示错误消息，并提示用户重新尝试搜索，随后附上“别担心，这不是你的错”的信息。

然而，在她的名字两侧添加引号后，搜索结果显示了提到她名字的帖子。

泰勒·丝薇芙的深度伪造色情图像上周开始在《X》上广泛传播，使她成为科技平台和反虐待组织难以解决的问题的最著名受害者。

《X》的业务运营主管乔·贝纳罗奇在一份声明中表示：“出于对此问题安全性的高度关切，这是一项临时措施。”

至少有几十张AI合成图像

与过去困扰名人的更常规的篡改图像不同，这些丝薇芙的图像似乎是使用人工智能（AI）图像生成器创建的，该生成器可以根据书面提示即时生成新图像。

在这些图像开始在网上传播后，她的忠实粉丝群“Swifties”迅速发起了反攻，发起了一个#ProtectTaylorSwift标签，在《X》上充斥着更多的泰勒·丝薇芙的正面形象。一些人表示，他们正在举报分享深度伪造图像的帐户。

深度伪造检测组Reality Defender表示，他们追踪到了大量未经同意的描绘丝薇芙的色情材料，尤其是在《X》上。一些图像也传播到了Meta旗下的Facebook和其他社交媒体平台。

研究人员发现至少有几十张独特的人工智能生成图像。其中传播最广泛的是与美式足球有关的图像，显示了一个被涂成或流血的丝薇芙，将她物化，并在某些情况下对她的深度伪造形象造成了暴力伤害。

大多数商业人工智能图像生成器都有防范滥用的保障措施，但匿名留言板上的评论者讨论了如何规避审核的策略，特别是在微软Designer的文本到图像工具上。

封锁搜索只是权宜之计

微软在星期一一份声明中表示，他们正在“继续调查这些图像，并加强我们现有的安全系统，以进一步防止我们的服务被滥用以生成这样的图像。”

事实上，《X》减少对丝薇芙的搜索是一种权宜之计。

研究人员表示，过去几年深度伪造的显著增加，因为用于生成此类图像的技术变得更加易于访问和使用。

2019年，人工智能公司DeepTrace Labs发布的一份报告显示，这些图像在压倒性地武器化针对女性。报告说，大多数受害者是好莱坞演员和韩国K-pop歌手。

欧盟新法规包括针对深度伪造的规定。去年生效的数字服务法要求在线平台采取措施，以减轻传播侵犯“基本权利”（如“非自愿”图像或深度伪造色情）的内容的风险。欧盟27个成员国的人工智能法案仍在等待最终批准，该法案要求使用人工智能系统制作深度伪造的公司，还必须通知用户内容是人工的或被操纵的。