依然可生成性化图像 加州明令禁Grok

社交媒体X平台的人工智能工具Grok，因创建和传播人工智能生成的、未经同意的性化图像，遭到加州总检察长邦塔（Robert Bonta）叫停。

路透社报道，关于Grook的投诉“如雪崩般涌来”，报告显示该人工智能工具，有时甚至涉及描绘女性和儿童参与性行为，这令人震惊，检察办公室认定该情况可能违法。

由亿万富翁、共和党主要捐助者马斯克（Elon Musk）拥有的 xAI，近来因Grok在社媒X上，大量发布未经同意的女性及部分未成年人图像而遭到全球关注。这些图像中人物身着暴露服装、摆出侮辱性姿势。

至行为仍未被屏蔽

尽管xAI此后已停止Grok在公开平台上，发布此类“深度伪造”性化图像，但据路透社测试，截至美国东部时间星期五（1月16日）中午，该聊天机器人仍可按需求在私下生成此类图像。

社媒X和xAI尚未立即回应有关“停止并终止”函的提问。

加州的举措进一步加大了全球，对马斯克社交媒体与人工智能帝国的压力。

该公司此前已在英国、欧盟以及包括印度、印尼、马来西亚和菲律宾在内的多个司法管辖区受到审查。

日本当局星期五早些时候也表示正在调查X与Grok，称正在考虑所有选项以防止生成不当图像。

日本经济安全大臣小野田纪美（Kimi Onoda）表示，官员们已要求X立即进行改进，但迄今尚未收到公司回应。