张念群：Grok设付费墙并非安全措施

大马通讯部副部长张念群指出，将人工智慧（AI）工具设立付费墙，仅属商业运作模式，并不能被视为有效的安全防护措施。

她在转发大马通讯及多媒体委员会（MCMC）声明时，引述《彭博社》报道指出，社媒X旗下的AI系统“Grok”，曾在短时间内大量生成具性暗示的影像内容，引发外界关注。

她说，根据《彭博社》调查，Grok一度在每小时内生成多达6700张带有性暗示的图片，数量远超其他同类型“去衣化（nudifying）”网站，约为接下来5个最大相关平台总和的84倍；在24小时内，该数字更一度攀升至9500张。

张念群指出，在安全倡议人士及监管机构施压后，社媒X已将 Grok 的图像生成功能限制为仅供付费订阅者使用，但她强调，此举并未从根本上解决数码安全与滥用风险。

严重侵犯人权

她表示，利用AI进行“去衣化”行为，尤其涉及女性与儿童，已构成对人权的严重侵犯，也属于数码暴力的一种。

“因此，大马通讯及多媒体委员会已采取预防措施，暂时限制Grok在马来西亚的使用权限。”

她强调，科技创新必须建立在清晰的责任与监管机制之上，而非仅透过收费模式来限制可能造成的伤害。

较早前，大马通讯及多媒体委员会发表文告指出，鉴于Grok多次被用于生成色情、露骨及其他不雅内容，当局已下令自星期日（1月11日）起暂时限制大马用户使用该AI工具，以防止相关技术持续被滥用。