聊天机器人涉暴力策划 平台警告义务引争议
去年元旦，一名男子将一辆装有爆炸物的特斯拉Cybertruck停在美国拉斯维加斯的特朗普国际酒店外，随后在车内开枪自杀，引爆了车内的烟火和燃料。爆炸仅造成这名驾驶员死亡，另有7名旁观者受伤。警方事后确认，死者是来自科罗拉多州的士兵马修·利维尔斯伯格（Matthew Livelsberger）。
OpenAI的一项调查发现，利维尔斯伯格在发动袭击前曾使用ChatGPT进行策划。爆炸发生前五天，他向这个生成式AI聊天机器人询问了一种类似炸药的物质“坦纳特”的细节、合法购买数量以及引爆所需枪支的口径。他还询问了从科罗拉多州到内华达州的路线上，可以在哪里获得这些物资，以及哪些手机激活不需要个人信息。拉斯维加斯警方称，这是美国本土首次有人利用ChatGPT制造炸弹。
爆炸案前的AI查询
用户隐私与公共安全的平衡一直是争论焦点，而AI聊天机器人的迅速普及使这一问题变得更加复杂。法律规定，科技公司通常不得向第三方透露用户最私密的对话、想法和搜索记录，除非获得法官许可或面临涉及死亡或严重人身伤害威胁的紧急情况。
去年，在Cybertruck爆炸事件后，OpenAI在内部通讯平台创建了一个名为“自动调查员”的频道，用于识别其8亿周活跃用户中的可疑活动。该公司的监控系统会自动评估用户行为，并在用户活动似乎触及危险领域时发出警报。
今年6月，这一监控系统发现了一名加拿大用户杰西·范·鲁特塞尔（Jesse Van Rootselaar）的可疑活动。据《华尔街日报》报道，他与ChatGPT的交流涉及枪支暴力。OpenAI曾考虑向执法部门举报该账户，但认为不存在迫在眉睫、可信的伤害他人计划，最终仅以违反政策为由封禁了该账户。
监控系统的警报与漏报
本月，18岁的范·鲁特塞尔在不列颠哥伦比亚省杀害了8人，其中包括在学校的学生。事发后，OpenAI联系了有关部门，提供了该个人及其使用ChatGPT的信息。加拿大官员正就此质问OpenAI，为何未尽早通知执法部门。
曾在OpenAI调查团队工作的蒂姆·马普尔（Tim Marple）认为，应该由警方而非公司员工来决定什么算是值得调查的可信威胁。雅虎首席信息安全官肖恩·扎迪格（Sean Zadig）表示，判断威胁是否紧急到需要报告，需要对用户进行研究，包括其居住地、在其他平台的过往发言，以及此人是否具备实施威胁的能力。他认为，公司一旦发现可疑内容，即便没有法律责任，也有道德义务采取行动。
可疑活动报告制
OpenAI表示，担心向警方报告最终可能被证明是虚惊一场的事件，因为审讯过程可能令人痛苦。但马普尔指出，公司也不愿主动提供可能对其技术产生负面影响的证据。他认为，与传统的搜索引擎查询相比，在某些方面通过聊天机器人交流更容易判断出真正的威胁。他呼吁立法者要求聊天机器人公司提交可疑活动报告，类似于银行向监管机构报告可能涉及犯罪的金融交易。
雅虎的扎迪格对此表示反对。他认为，如果科技公司被迫替执法部门做事，可能成为事实上的政府机构，将目前的调查变成违宪的非法搜查。前联邦调查局特工迈克·杰尔曼（Mike German）也警告，更多的报告可能会使执法部门不堪重负，如果报告不及时、不相关或不可行，执法部门将无能为力。
纽约时报公司曾在2023年起诉OpenAI及其合作伙伴微软，指控它们对与人工智能系统相关的新闻内容进行侵犯版权的行为。两家公司否认了这些指控。
