学者：AI百年内消灭人类机率为99.9%
美国路易斯维尔大学（University of Louisville）教授扬波尔斯基（Roman Yampolskiy）日前在一场Podcast访谈中透露，AI在未来100年内消灭人类的机率为99.9％。
据《商业内幕》报导，Podcast主持人弗里德曼（Lex Fridman）日前在节目中与扬波尔斯基对谈，扬波尔斯基对AI的态度颇悲观，认为AI在未来100年内消灭人类的机率高达99.9％。
扬波尔斯基表示，除非人类能够开发出高度复杂以及零错误的软体，否则没办法阻止AI去做一些超出它原先设计范围内该做的事情。
扬波尔斯基指出，事实上现今的AI语言模型就已经发生过“出格”（jailbroken）意外，会做出一些开发人员不希望它们做的事。
需建立永久安全机制控制AI但非常难
扬波尔斯基认为需要建立一个永久的安全机制来控制AI不要越界，但事实上这非常难做到，由于AI会不断自我修改并持续在与使用者互动的过程中学习，即使在接下来的几个版本，人类成功控管了AI，之后风险仍然会持续存在，因为AI会不断演化。
扬波尔斯基警告，“我们无法预测比我们更聪明的系统会采取甚么行动，AI很可能找出一些人类甚至不知道存在的东西，进而绕过人类的控制。”
预言未来3种情景
扬波尔斯基预言了未来的3种情境，都很悲观，一是所有人被AI消灭；二是人类还活着，但十分痛苦、生不如死；三是AI没有对人类下手，不过由于AI完成了所有的工作，人类失去生存的意义，落入无尽的空虚。
扬波尔斯基一直是位AI悲观论的学者，他今年曾出版新书名为《人工智慧：无法解释、预测、控制》，同样是针对AI的潜在危险和意外后果进行深入分析，并延伸到更为复杂的AI人格、AI意识、AI所有权等具有哲学意义的主题。
弗里德曼表示，自己与各类AI工程师交谈，认为AI会消灭人类的机率大约落在1-20％之间，最近一项针对2700位研究人员进行的调查，则显示AI导致人类灭绝的可能性为5％，大多数专家的看法没有扬波尔斯基那么悲观。
