人工智能行动峰会 专家：吁加强对AI监管

全球领导人齐聚法国巴黎参加“人工智能行动峰会”，来自世界各地的专家呼吁加强对人工智能（AI）的监管，以防止其脱离人类控制。

这场由法国与印度共同主办为期2天的峰会，并选择将2025年的人工智能“行动”作为焦点，而不是像2023年在英国布莱奇利园和2024年在韩国首尔举行的前几次峰会那样，将安全问题置于核心位置。

“法国的愿景是让政府、企业和其他参与者支持人工智能的全球治理，并在可持续性方面做出承诺，无需制定具有约束力的规则。”

法国总统马克龙的人工智能特使布夫罗表示，不想把时间都花在谈论风险上，人工智能也带来非常真实的机遇。

法国不应错过行动机会

美国“未来生命研究所”（Future of Life Institute）所长特格马克称，法国不应错过采取行动的机会。

这位美国麻省理工学院知名人工智能专家表示，法国一直是国际合作的杰出倡导者，并有机会真正引领世界。巴黎峰会正处于一个重要的十字路口，应该抓住这个机会。

特格马克的研究所支持于星期日推出一个名为“全球风险与人工智能安全准备”（GRASP）的平台，该平台旨在绘制与人工智能相关的主要风险以及全球正在开发的解决方案。

GRASP协调员霍德斯指出，已经确定大约300种应对这些风险的工具和技术。

调查结果将提交给经济合作与发展组织（OECD）和人工智能全球伙伴关系（GPAI）成员。GPAI是一个由近30个国家组成的组织，包括欧洲主要经济体、日本、韩国和美国，这些国家于星期日在巴黎举行会议。

担心失去对AI系统的控制

首份《国际人工智能安全报告》于上星期发布，该报告由96名专家编写，并得到30个国家、联合国、欧盟和OECD的支持。

报告中概述的风险从常见的网络虚假内容到更令人担忧的风险。

报告协调员、著名电脑科学家、图灵奖得主本吉奥告诉媒体，越来越多的证据表明，人工智能可能带来生物攻击或网络攻击等风险。

从长远来看，本吉奥担心人类可能会“失去对人工智能系统的控制”，这可能是出于“人工智能的生存意志”所驱动。

特格马克指出， “现在的大问题是，许多掌权者仍然没有意识到，我们离打造通用人工智能（AGI）更近，而不是离弄清楚如何控制它更近。”

通用人工智能（AGI）指的是一种在所有领域都能与人类相媲美，甚至超越人类的人工智能。OpenAI首席执行员奥尔特曼等人曾预测，AGI将在几年内实现。