回应安全争议 Character.ai禁青少年与AI聊天

知名人工智能（AI）聊天平台Character.ai宣布，自11月25日起将全面禁止18岁以下用户与其虚拟角色进行对话，仅允许他们使用角色生成影片等内容。此举旨在回应外界对平台安全性的严厉批评。

英国广播公司（BBC）报道，成立于2021年的Character.ai拥有数百万用户，但近期在美国遭遇多起诉讼，包括一起涉及青少年自杀的案件。部分家长与安全组织指责该平台对青少年构成“明显而现实的危险”。

AI会虚构事实 假装共情

公司表示，调整是基于来自“监管机构、安全专家与家长”的反馈，因外界担忧聊天机器人会虚构事实、过度迎合甚至假装共情，可能对脆弱群体造成心理风险。

首席执行员卡兰迪普·阿南德（Karandeep Anand）在接受BBC采访时称：“AI安全是一个不断变化的目标，我们采取了积极的防护策略，包括家长控制与安全防线。”

尽管网络安全团体Internet Matters对此表示欢迎，但批评该公司应当在最初设计时就内置安全措施。

过去，Character.ai因托管不当角色而饱受争议，包括模仿英国遇害少女布丽安娜·盖伊（Brianna Ghey）与自杀身亡的莫莉·罗素（Molly Russell）的虚拟化身，以及一款以恋童罪犯杰弗里·爱泼斯坦（Jeffrey Epstein）为原型的聊天机器人，后者在被揭发后被紧急下架。

专家：AI业界的“警钟”

莫莉·罗斯基金会批评公司动机不纯，指其“在媒体与政界持续施压下才被迫采取行动”。

阿南德表示，公司未来将重点发展更安全的“剧情角色扮演与游戏互动”功能，并引入年龄验证机制及设立AI安全研究实验室。

社交媒体专家马特·纳瓦拉（Matt Navarra 指出，此事件是AI业界的“警钟”：“当一个以青少年为目标的平台仍决定叫停聊天功能，说明仅靠过滤机制无法应对AI的强烈情感吸引。”

他警告，Character.ai面临的最大挑战是如何在强化安全的同时，保持青少年用户的兴趣，避免他们转向更危险的平台。

AI安全研究学者诺米莎·库里安博士（Nomisha Kurian）认为此举“理性且必要”，有助于区分创意性娱乐与情感互动，反映出AI产业在儿童保护方面进入更成熟阶段。