欧盟启动AI监管新规 违规最高罚3500万欧元
欧盟将从星期日（8月2日、今天）起正式赋予监管机构执行《人工智能法案》（AI Act）的权力，对违反规定的企业实施处罚，成为全球首个建立全面人工智能监管体系的主要经济体。
法新社报道，欧盟于2024年通过这项被视为全球最严格的人工智能法规，但相关措施采取分阶段实施方式。新规以风险等级为基础管理人工智能技术，系统对欧洲公民权益、健康及安全构成的风险越高，企业所需承担的责任也越大。
根据新规定，人工智能生成内容，包括深度伪造（Deepfake）影像，必须明确标示；企业开发的聊天机器人等AI系统，也必须让用户清楚知道正在与人工智能互动。此外，利用AI进行预测性执法、工作场所或学校情绪识别，以及操控人类行为的系统将被禁止。
12月起禁AI生成深伪色情内容
欧盟人工智能办公室（AI Office）将从今天起拥有监管先进AI模型的执法权限，该机构由数十名科技专家、律师及经济学家组成，可测试包括聊天机器人在内的大型通用AI模型，确保符合欧盟法规。企业也必须向欧盟提供模型资料，在部分情况下，监管机构甚至可要求企业在产品上市前开放系统检查。
若企业拒绝配合或违反规定，欧盟可要求其整改，并对严重违规行为处以最高相当于企业全球年营业额7%或3500万欧元（约合）的罚款，以较高金额为准；其他违规行为最高可罚全球年营业额3%或1500万欧元。
欧盟官员表示，新监管权限将在人工智能快速发展的关键时期启用。此前欧盟曾难以取得美国人工智能公司Anthropic部分先进模型的相关资料，新制度实施后，类似情况将受到更严格规范。
未来，欧盟还将继续扩大AI监管范围。继因埃隆·马斯克（Elon Musk）旗下的聊天机器人“Grok”引发全球公愤后，今年12月起，欧盟将禁止AI生成色情化深度伪造内容；针对可能影响安全、健康及基本人权的高风险AI系统，相关规定也将在未来几年陆续生效，其中独立运行的高风险AI系统预计于2027年12月全面适用，而嵌入其他产品的AI工具则将在2028年8月实施相关要求。
