今年诺贝尔物理奖得主警戒AI发展 称令人胆怯
因在人工智能（AI）领域的开创性工作而赢得2024年诺贝尔物理学奖的美国科学家霍菲尔（ John Hopfield），警戒人工智能的发展，称该技术的最新进展“非常令人胆怯慌张”，若不加以控制，可能会带来灾难。
普林斯顿大学名誉教授霍菲尔星期二（10月8日）加入共同获奖者辛顿的呼吁，冀更深入地了解人工智能深度学习系统的内部工作原理，以防止它们失控。
91岁的霍菲尔在英国通过视频连线在新泽西大学的集会上发表讲话时说，在他的一生中，他目睹了2项强大但具有潜在危险的技术的崛起，即生物工程和核物理。
“人们已经习惯了拥有具有双向优缺点能力的技术。作为一名物理学家，我对无法控制的东西感到非常慌张，我对这些东西了解不够多，因此无法理解推动这项技术的极限是什么。”
“这就是人工智能正在推动的问题。尽管现代人工智能系统看起来是“绝对的惊奇”，但人们对它们的运作方式缺乏了解，这令我感到非常非常慌张。”
“这就是为什么我本人和辛顿，强烈主张理解人工智能的基本需求，它将开发一些超出你目前所能想象的能力。”
霍普菲尔德与英国出生的加拿大多伦多大学荣誉教授辛顿，因为使用了物理学的工具，对类神经网络的突破性研究，开发了当今强大机器学习的基础方法，星期二（10月9日）获得瑞典皇家科学院认可，被授予今年的诺贝尔物理学奖。
曾在谷歌领导AI部门的“人工智能教父”辛顿本人，去年成为“人工智能末日论”的典型代表，他在多伦多大学举行的记者会上再次谈到了这个主题。76岁的辛顿告诉记者，“如果你环顾四周，你会发现很少有更智能的东西被不太智能的东西控制的例子，这让我怀疑，当AI变得比我们更聪明时，它是否会接过控制权。”
人工智能发展超出理解的速度
随着人工智能能力的迅猛发展，以及由此引发的公司之间的激烈竞争，这项技术因发展速度超出科学家所能完全理解的速度而受到批评。
霍菲尔强调，“你不知道你开始时的集体特性，实际上是具有所有交互的集体特性，因此你不知道是否隐藏着一些自发的但不受欢迎的东西。”
他指出，目前不可能知道与之如何预防人工智能再念，这就是为什么迫切需要更多研究的原因。”
“我主张我们最优秀的年轻研究人员，或者其中的许多人，应该致力于人工智能的安全研究，政府应该迫使大公司提供他们所需的设施”。
