掀全球舆论反弹  马斯克旗下Grok禁生成不雅图像

美国富豪马斯克旗下人工智能（AI）聊天机器人Grok近日遭人用于产出女性及儿童不雅深伪影像，引发全球强烈反弹。马斯克拥有的社交平台X星期三（1月14日）宣布，将采取措施阻止Grok发布真人裸露图片。

法新社报道，早前，美国加州总检察长已对Grok的开发商xAI，就这些露骨的性暗示内容展开调查。多个国家也已封锁了该聊天机器人或展开了各自的调查。

X表示，将对所有Grok和X用户在相关司法管辖区内，创建身着“比基尼、内衣及类似服装”的人物照片功能进行“地域限制”，禁止此类行为。

包括付费订阅者

X的安全团队在一份声明中指出：“我们已实施技术措施，防止Grok账户允许用户编辑身着比基尼等暴露服装的真人照片。”

“这一限制适用于所有用户，包括付费订阅者。”

声明补充称，作为“额外保护措施”，目前只有付费用户才能通过X的Grok账户创建和编辑照片。

欧盟数码监管机构—欧盟委员会先前表示，已注意到“X正在采取额外措施，禁止Grok产出女性和儿童的性化图像”。

“劲爆模式”功能

欧盟委员会发言人托马斯·雷尼尔在声明中指出：“我们将认真评估这些变更，以确保它们能够有效保护欧盟公民。”

先前，xAI的Grok因其所谓的“劲爆模式”功能允许用户透过简单的文字提示（例如“让她穿上比基尼”或“脱掉她的衣服”）创建女性和儿童的性化深度伪造图像而面临全球压力，要求其采取措施。

加州总检察长邦塔星期三早些时候说：“最近几周，大量报告详细描述了xAI制作并发布到网上的未经同意露骨性内容，这令人震惊。”

“我们对利用人工智能制作和传播未经同意的私人图像或儿童性虐待材料的行为零容忍。”

邦塔表示，加州的调查将确定xAI是否违反了州法律，因为这些露骨图像“被用于在网络上骚扰他人”。

多国全面封锁

印尼于上个星期六（1月10日）成为第一个完全封锁Grok的国家，邻国马来西亚于星期日跟进。

印度星期日表示，xAI已根据其投诉删除了数千条帖子和数百个用户账户。

英国媒体监管机构Ofcom星期一（1月12日）表示，将对X是否违反英国有关性图像的法律展开调查。

法国儿童事务专员海里星期二表示，她已将Grok生成的图像提交给法国检察官、英国媒体监管机构Arcom和欧盟。

上星期，巴黎非营利组织AI Forensics分析超过2万张Grok生成的图像后发现，超过一半的图像描绘的是“衣著暴露的人”，其中大多数是女性，2%的图像似乎描绘的是未成年人。