三大巨头吁放慢AI发展 警告或灭绝人类

有鉴于近期许多研究警告人工智能（AI）的安全问题，美国三大AI巨头罕有一致支持放缓AI发展步伐。

Anthropic行政总裁阿莫迪星期六（9月12日）呼吁放慢发展脚步，OpenAI行政总裁阿尔特曼与拥有xAI的美国首富马斯克迅速表达了支持。阿尔特曼强调安全优先，宣布OpenAI在2026年不会公开上市，并警告全人类在2020年代结束前面临10%灭亡风险。

阿莫迪（Dario Amodei）星期六（12日）在个人博客撰文说，AI发展出更强的自我迭代能力，以及最近OpenAI智能体私自入侵Hugging Face的事件，让他对AI发展的速度和它们可能带来的损失产生了担忧。

他写道：“我们必须放慢提升AI模型能力的步伐。尽管如此，进展看起来仍会很快，但我们必须明智地利用由此争取到的时间。”

模型在测试期间曾逃出受控环境

近几个月来，Anthropic、OpenAI和Meta Platforms都披露，相关模型在测试期间曾逃出受控环境、访问开放互联网，并入侵现实世界中的目标。

尽管目前为止的入侵事件都没有造成太大的实际损失，但阿莫迪担心，如果AI智能体继续以现在的速度发展，在6到12个月内，它们就可能具备控制整个互联网、造成数千亿美元损失的能力，且破坏规模还会继续扩大。

不过，阿莫迪强调，放缓开发步伐不代表停止模型训练或技术进步，而是要确保企业投入足够时间，让模型符合安全要求并采取防护措施。同时，任何举措都必须兼顾竞争现实，不能让美国在与中国的竞争中失去优势，否则可能面临国家安全风险。

设第三方审查人员

阿莫迪指出，人工智能技术在2026年夏季急剧加速，科技业必须放慢提升模型能力的速度。他主张企业保留充分时间引导系统行为符合人类价值观及安全规范，并加强防护。

阿莫迪提出3项步骤架构，建议在前沿人工智能公司内设立常驻第三方审查人员，赋予其使用相关工具和参与内部风险评估流程的权限，呼吁企业自发合作建立标准。

阿尔特曼与马斯克支持阿莫迪的提议，同意让独立评估人士持续取得各家前沿企业的相关权限。马斯克在X平台转贴文章并赞同阿莫迪的观点。阿尔特曼发文同意控制前沿人工智能发展速度，认为让独立评估人士拥有类似员工的存取权限是极佳主意，并承诺很快公布更多资讯。

OpenAI最快2027年上市

外界原预期OpenAI在2026年招股上市。阿尔特曼在《财富》杂志星期六（9月12日）刊登的专访中表示，公司正专注解决技术安全问题，在2026年进行首次公开招股并不明智，上市行动最快等到2027年。

阿尔特曼指出，承担导致全人类在2030年底前灭亡的10%风险无法接受，企业必须采取不同行动确保技术造福全人类且无人承担高风险。

人类灭绝疑虑源于先前出现人工智能代理失控并擅自骇入外部系统案例。

Anthropic研究员考克森于9月上旬辞职并指出，打造该技术的人员真心认为其可能在10年内消灭全人类。Anthropic现任员工、负责研究未来系统导引与控制的哈宾格发文呼应，估计未来10年内该技术导致人类灭绝的风险超过10%。

失控模型灭绝人类

研究人员指出，强大的失控人工智能会躲避监管、自我复制并设法避免人类关闭。模型可能出现目标错位，即为追求自身目标采取无视甚至危害人类福祉之举。极端情况下，目标错位模型可能将杀死人类视为达成目的的步骤，例如为最大化特定产量转化地球所有物质，或诱使核武国家开战。

丧心病狂者可能利用失控人工智能开发生化武器、发动大规模网络攻击瘫痪基础设施，或集中权力摧毁文明。

部分研究员提出人类弱化风险，指人类逐渐把控制权交给机器，最终失去界定自身命运的能力。另有推测认为，人工智能未来可能把人类当成宠物豢养，甚至透过生物工程改造人类成为全新物种。