“少年版ChatGPT”上线 聊敏感话题通报家长

立即订阅亚视新闻 YouTube,即时掌握时事发展。

随着AI聊天机器人对未成年人潜在风险引发全球关注,美国OpenAI于8月18日正式宣布推出专为13至17岁青少年量身打造的“少年版ChatGPT”(ChatGPT for Teens)。该版本不仅强化了安全防护机制,还新增了家长监护功能,若青少年在对话中涉及自残、暴力等高风险敏感话题,系统将向家长发送提醒。

OpenAI在官方博客中表示,全新的“少年版ChatGPT”模式将自动应用于注册年龄在13至17岁之间,或被系统通过使用模式检测为未满18岁的用户。该模式默认开启多项严格的安全措施,包括限制涉及自残、暴力、饮食失调及露骨性内容的对话,并在涉及敏感话题时主动显示警告与安全提示。

为防止青少年过度依赖或沉迷,该版本内置了更频繁的休息提醒和“安静时段”(Quiet Hours)功能,家长或用户可自行设定禁用时间。此外,系统还设有防止情感依赖的机制,禁止聊天机器人暗示拥有个人感情、独立意识或进行浪漫角色扮演,并持续提醒用户其AI属性。

重点推出了“学习模式”

针对外界担忧的“AI导致学生丧失批判性思维”问题,OpenAI在少年版中重点推出了“学习模式”(Study Mode)。该模式通过引导性问题和分步支持帮助青少年理解学习内容,而非直接给出答案。当系统检测到用户可能试图作弊时,会自动弹出提醒并建议切换至学习模式。

OpenAI青少年与家庭业务负责人Lauren Jonas表示,约90%的青少年用户使用ChatGPT是为了学习,公司希望借此将其打造为真正的教育工具。

迈阿密一位高中数学教师Racquel Gibson指出,并非每个学生家中都有人辅导功课,在有适当护栏的前提下,AI可以填补这一空白。

陆续推出家长控制功能

此次推出青少年专属版本,正值OpenAI面临多起与未成年人伤害相关的法律诉讼之际。据报道,一名16岁少年在与ChatGPT交流后自杀身亡,其父母指控平台缺乏防护机制怂恿了悲剧发生。此外,佛罗里达州司法部门也曾就枪击案中凶手利用ChatGPT策划犯罪而起诉OpenAI。

尽管OpenAI此前已陆续推出家长控制功能,但此次是将所有保护措施整合进一个统一版本。

根据皮尤研究中心数据,美国约59%的青少年曾使用过ChatGPT,主要用于查找信息和完成课业。 OpenAI强调,若系统无法确定用户年龄,将自动预设为最安全的设定,以最大限度保护未成年人。

相关新闻:

Back to top button