欧洲刑警组织:ChatGPT恐被用于升级犯罪技术

立即订阅亚视新闻 YouTube,即时掌握时事发展。

欧洲刑警组织(Europol)警告,犯罪分子恐利用ChatGPT等人工智慧(AI)精进犯罪手段,因为聊天机器人能模彷说话风格,尤能在假电邮发动网络钓鱼攻击时奏效。

根据法新社的报道指出,欧洲刑警组织在最新报告中说,从发动网络钓鱼攻击、散布不实讯息到安装恶意软体等,聊天机器人快速发展出的能力,不只有利于人类,也有助于歹徒吸金诈财,这加剧了外界对这一新兴事物在法律、道德等方面的担忧。

美国新创公司OpenAI研发的ChatGPT去年11月推出,能够清楚回答困难问题、作词写诗或编写程式甚至还能通过考试,令使用者大为惊艳,纷纷应用于日常生活。

总部设于海牙的欧洲刑警组织警告说,“犯罪分子可能利用这类AI系统犯案,令人堪忧。”

欧洲刑警组织表示,他们新设的“创新实验室”(Innovation Lab)虽着眼于整体聊天机器人的使用,但在一系列研讨会特别聚焦于ChatGPT,因为后者最引人注目和使用最为广泛。

欧洲刑警组织发现,犯罪分子可能会利用ChatGPT“大幅加快对未知领域的研究程序”,可能包括草拟诈欺犯案计划,或是查询“如何闯入民宅、犯下恐怖行动、网路犯罪与儿童性侵案”的资讯。

你可能也喜欢

或用于3个犯罪领域

报告指出,ChatGPT或被用于3个犯罪领域,分别是网络钓鱼、宣传虚假信息以及网络犯罪。

聊天机器人能模彷说话风格,对于发动网络钓鱼攻击更能派上用场,能诱使使用用者点击假的电邮连结,之后再试图窃取他们的资料。

“在过去,由于语法或语言错误,这些骗局很容易被发现,而人工智能生成的文本高度逼真加大了骗局被识破的难度。”

ChatGPT能迅速产出逼真的语音文本,成为“用于宣传与散布不实讯息的理想工具,能相对更不费工就产出、散布反映特定论述的讯息。”

ChatGPT也可用来编写电脑程式,对没有技术能力的犯罪分子特别有利,“这类自动程式生成能力,对那些对编码和开发所知甚少或一无所知的犯罪行为者,特别有用。”

欧洲刑警组织指出,美国与以色列网路威胁情报公司Check Point Research的初步报告显示,聊天机器人可用来撰写钓鱼电子邮件渗透网路系统。

虽然ChatGPT有防护措施,包括内容审查,不会回答被归类为有害或有偏见的问题,但可借由输入巧妙的提示词规避。

欧洲刑警组织的报告也指出,人工智慧仍在初步发展阶段,能力预计将随时间而提升,但最重要的是要提高外界对此的认知,以确保找出任何可能的漏洞,尽快采取行动遏止。

相关新闻:

你可能也喜欢

Back to top button