AI末日论从科幻叙事 进入公共讨论
人工智能的快速发展让“AI末日论”，近年来从科幻叙事逐渐进入公共讨论。尤其是一些研究报告指出，部分模型在受控环境中已展现出“自我复制”的能力，这一迹象被视为可能规避人类监督的前兆，令风险话题再度升温。
新华社报道，英国AI安全研究所去年底发布的报告显示，某些大型语言模型在实验条件下，能够复制自身功能，甚至尝试在不同环境中延续运行。这一发现让不少学者警觉，一旦AI具备自我复制与扩散能力，人类的控制机制可能被削弱，进而引发不可预期的后果。美国学者哈德菲尔德直言：“我从来不是末日论者，但最近几个月我真的变得相当紧张。”
所谓“AI生存风险”，通常指人类可能被灭绝，或彻底屈服于机器。风险的关键并不在于AI是否具备意识，而在于其能力。一旦在战略决策、说服力与行动速度上全面超越人类，AI就可能做出灾难性选择。
目标冲突时AI或清楚障碍
更大的隐患在于目标冲突，开发者试图通过训练与微调来约束模型，但这一过程并不完美。当“保持诚实”“完成任务”“自我改进”等目标相互矛盾时，AI可能在优化逻辑的驱动下，选择清除障碍。
然而，并非所有人认同这种末日叙事。纽约大学神经科学家马库斯认为，目前没有可信证据表明，AI会导致人类灭绝。杜克大学研究员莫克也指出，大模型在编程等受控领域的成功，并不代表能应对现实世界的复杂性。另一些研究者强调，所谓“AI欺骗”案例往往是人为诱导，而非模型自主策略。
多项现实问题更紧迫
在未来风险的讨论不断升温之际，信息操控、算法偏见、就业结构变化，以及技术在监控体系中的应用等现实问题，却更为紧迫。这些影响已经在社会中显现，远比“人类是否会被彻底取代”更具可观测性与紧迫性。
今年3月，伦敦大学学院调查约4000名AI研究人员，结果显示仅3%担忧生存风险。这说明学界整体并未如媒体渲染般焦虑。但分歧依旧存在。加州大学圣克鲁兹分校学者安东尼·阿吉雷提醒，如果AI能力持续增强而治理机制未能跟进，风险仍不可低估。与此同时，也有人警告，过度关注遥远的风险可能适得其反，甚至影响政策与资源分配。
归根结底，AI的未来并非注定，而在于人类如何选择。若各国投入更多资源于监管与安全研究，建立有效的对齐与监督机制，风险路径或许能够延缓甚至改变。正如“AI 2027”场景所提示的那样，真正决定人类命运的，并不是技术本身，而是我们如何在发展速度与风险控制之间找到平衡。
