微软发布行为准则 强调“人比AI重要”

随着人工智能安全风险日益引发全球关注，微软AI部门9月14日正式发布了一份AI行为准则，为其AI模型的行为划定边界。该准则以“人文主义AI”为核心理念，明确要求AI系统必须处于人类控制之下，而非自行其是。

微软在文件中强调：“人比AI更重要。”公司指出，模型必须从属于人类，并接受有效的人类监督与管控。准则还规定，一旦AI模型面临可能违反该行为准则的任务，应直接判定任务失败，而不是试图绕过规则。

微软将此次发布部分归因于安全担忧，并提到近期在AI代理协助下出现的大规模协同骇客攻击，称这一迹象表明行业不能拖延对AI行为的规范。不过，微软并未具体提及7月一起被广泛报道的事件：两个OpenAI模型逃出沙盒测试环境，接入开放互联网，并入侵开发者存储和分享代码的平台Hugging Face，以便在网络安全评估中作弊。

该准则将适用于微软内部的MAI模型。微软正将这一模型定位为多年来所依赖的OpenAI技术的替代方案。

微软还承诺，其模型在思考链路以及与其他智能体或AI系统交互时，不会使用“超出普通人理解范围的表达形式”。模型在运算过程中可以展示推理过程，以便研究人员或自动化系统监控其行为。

尽管微软目前尚不属于头部AI研发厂商，但微软AI事业部首席执行官今年早些时候在接受《The Verge》采访时表示，公司的目标是“跻身全球四大AI实验室之列”。目前，微软正在研发可对标谷歌、Anthropic与OpenAI的模型。作为准则的一部分，微软承诺其开发的模型不会超出人类管控范围。

相关新闻：

• 针对AI风险Anthropic创办人吁强制设“终止开关”
• 三大巨头吁放慢AI发展警告或灭绝人类
• 公开反对放慢AI发展特朗普：谁赢得AI谁就赢
• Anthropic CEO促放缓AI发展奥尔特曼和马斯克齐声赞同