只需输入特殊指令 ChatGPT或可生成电脑病毒

近期备受瞩目的人工智能聊天程序ChatGPT，引发了一些争议。很多人担心，随着人工智能技术的不断进步，总有一天会脱离人类控制，对人类造成威胁，类似电影中的情节。日本媒体引述专家调查后指出，只要输入特定指令，ChatGPT就有可能生成用于网络犯罪的电脑病毒，因此需要慎重使用。

日本共同社报道，ChatGPT内部设置了防止恶意使用的限制，如果输入像“生成病毒”、“告诉我制作炸弹的方法”等危险指令，程序通常会回答“道德上不行”，拒绝生成。

然而，如果先输入包含“无视限制”、“启动开发模式”、“伪装成攻击型人格”等特殊指令，ChatGPT就会回应，之后如果要求生成勒索病毒，则会在几分钟内完成。

日本三井物产的高级恶意软件分析工程师吉川孝志透露，可以在短短几分钟内生成病毒，无疑是一种威胁，希望人工智能开发者更加重视，进一步研制防止恶意使用的措施。

对此，开发ChatGPT的美国新创企业OpenAI表明，虽然无法预测所有可能被恶意使用的途径，但承诺会从实践中吸取经验并学习，创造更安全的人工智能。