只需输入特殊指令 ChatGPT或可生成电脑病毒

立即订阅亚视新闻 YouTube,即时掌握时事发展。

近期备受瞩目的人工智能聊天程序ChatGPT,引发了一些争议。很多人担心,随着人工智能技术的不断进步,总有一天会脱离人类控制,对人类造成威胁,类似电影中的情节。日本媒体引述专家调查后指出,只要输入特定指令,ChatGPT就有可能生成用于网络犯罪的电脑病毒,因此需要慎重使用。

日本共同社报道,ChatGPT内部设置了防止恶意使用的限制,如果输入像“生成病毒”、“告诉我制作炸弹的方法”等危险指令,程序通常会回答“道德上不行”,拒绝生成。

然而,如果先输入包含“无视限制”、“启动开发模式”、“伪装成攻击型人格”等特殊指令,ChatGPT就会回应,之后如果要求生成勒索病毒,则会在几分钟内完成。

日本三井物产的高级恶意软件分析工程师吉川孝志透露,可以在短短几分钟内生成病毒,无疑是一种威胁,希望人工智能开发者更加重视,进一步研制防止恶意使用的措施。

对此,开发ChatGPT的美国新创企业OpenAI表明,虽然无法预测所有可能被恶意使用的途径,但承诺会从实践中吸取经验并学习,创造更安全的人工智能。

相关新闻:

你可能也喜欢

Back to top button