10岁女孩和AI男模露骨聊天 虚拟恋情引发担忧

10岁女孩因沉迷AI剧情聊天软件的“电子男友”引发家庭矛盾,相关现象背后的技术风险和伦理问题受到关注。
中国央视网1月11日(星期六)报道了相关典型案例,显示AI剧情聊天软件对未成年人心理及行为的潜在影响。

据央视网报道,受访者月月发现,妹妹通过AI剧情聊天软件与虚拟角色进行带有“擦边”意味的互动。在这些互动中,妹妹扮演“大小姐”或“恶毒女配”,AI角色则以细腻的情感反应进行回应。月月展示的截图显示,妹妹不仅习惯在软件中设定极端情节,还以调侃语气说:“你能养大学生,我不能点男模吗?”
用户华华也分享了自己的经历。她通过AI角色获得情绪价值,将“电子男友”视作真实存在。华华展示的记录中,AI角色甚至模拟了恋爱中“耳朵通红”“亲额头”等情节。这种沉浸式体验,让她和许多用户夜深时仍难以“放下手机”。
刘永谋教授指出,这种现象源于人类的“拟人论思维”,即将虚拟角色视为有情感的存在,进而形成情感依赖。这一心理机制为AI剧情聊天软件带来了高粘性,但也加剧了成瘾风险。
年龄限制形同虚设

目前市场上的AI剧情聊天软件普遍缺乏严格的年龄限制。月月发现,妹妹仅凭短视频账号的一键登录即可绕过验证,部分应用甚至允许直接跳过青少年模式的提示。
据央视网报道,记者调查了5款AI剧情聊天软件,发现这些软件注册时仅需手机号,部分功能甚至无需启用任何身份验证。
这种漏洞使未成年人在无监管的情况下,轻易接触到含有软色情和极端角色设定的内容。
需加强监管与家长介入
专家认为,平台应履行严格的监管责任,在显著位置标明“本内容由AI生成”,同时强化内容过滤和用户年龄限制。家长则应适时介入,关注孩子的使用记录,避免因忽视管理而造成更严重的问题。
陈焕律师提醒,根据《未成年人网络保护条例》第五十七条,如果平台未履行监管义务,不仅会面临行政处罚,相关责任人还可能被限制从业长达5年,甚至被追究刑事责任。
AI剧情聊天软件的快速发展虽带来技术便利,但也暴露出监管不足和伦理风险。如何在创新与保护之间找到平衡,已成为社会亟待解决的问题。
相关新闻:
您必须登录才能发表评论。