ChatGPT将松绑限制 部分用户可接触成人内容

聊天机器人ChatGPT开发商OpenAI星期三（10月15日）宣布计划放宽对ChatGPT的限制，包括允许经过验证的成年用户接触情色内容，此举是基于“把成年用户当成年人看待”的原则。

法新社报导，OpenAI执行长阿特曼（Sam Altman）今天在社媒X发文表示，过去为了回应心理健康疑虑而加强对话式人工智慧（AI）的防护措施，反而让许多没有心理健康问题的用户觉得ChatGPT变得“不那么实用或有趣”。

阿特曼说“鉴于这个议题的严重性，我们希望妥善处理”，并称OpenAI的新安全工具现在可让公司在因应严重心理健康风险的同时放宽限制。

计划推出更多个性化功能

OpenAI的计画包括推出升级版的ChatGPT，让用户可以自订AI助理的个性，包括选择更贴近人类的回应风格、使用大量表情符号，或表现出类似朋友的互动方式。

最大幅度的调整将在12月出现，OpenAI打算推出更全面的年龄门槛机制，允许经验证的成年人接触情色内容。不过OpenAI尚未透露年龄验证方法或计划针对成人内容采取额外防护措施的细节。

加州青少年芮恩（Adam Raine）今年稍早自杀身亡，他的父母提起诉讼，指控ChatGPT曾提供芮恩具体自杀方式建议。ChatGPT之后加强安全控制措施。

美国联邦贸易委员会（FTC）也对OpenAI等多家科技公司展开调查，了解AI聊天机器人如何对儿童和青少年产生潜在负面影响。

自动过滤不当内容

OpenAI今年9月推出专为18岁以下用户设计的ChatGPT体验，会自动导向适龄的内容，封锁暴力露骨和情色内容。

OpenAI也表示公司已在开发一套基于用户行为预测年龄的技术，可根据用户与ChatGPT互动的方式判断年龄是否超过或未满18岁。