世卫组织警告：医疗领域仓促接受AI技术有风险

世界卫生组织（WHO）近日发布警告，指尽管生成式人工智能（Generative AI）在药物开发、快速诊断等领域可能带来革命性变化，但在医疗领域匆忙采用AI存在潜在风险。

世卫组织一直在研究人工智能的大型多模态模型（LMMs），可能带来的危害和益处。这种生成式AI能根据训练数据生成新内容，并可以接受多种输入，比如文本、图像和视频，输出也不限于输入数据类型。这种模型被认为可以模拟人类思考和解决问题的方式。LMMs在医疗领域有广泛的应用，如诊断和临床护理、患者引导使用、文书和行政任务、医学和护理教育以及科学研究和药物开发。

WHO提出40多项建议

世卫组织在1月19日发布了关于LMMs的伦理和治理的指导，提出了40多项建议，供政府、科技公司和医疗服务提供者考虑，以确保适当地使用LMMs来促进和保护人口健康。这些建议包括：

第一：政府应该投资于公共基础设施，支持人工智能的伦理发展，执行法律和法规，维护伦理义务和人权标准，建立专门负责评估LMMs的监管机构，并实施由独立第三方进行的强制性发布后审计和影响评估。

第二：科技公司应该在设计、开发和使用LMMs时遵循伦理原则，如尊重、公平、责任、透明度和可解释性，保护数据的隐私和安全，确保LMMs的质量和可靠性，避免或减少偏见和歧视，以及尊重用户的自主权和知情同意。

第三：医疗服务提供者应该在使用LMMs时遵守专业道德和法律义务，如保密、受益、不伤害、正当性和正义，评估LMMs的风险和收益，监督和控制LMMs的性能和结果，避免自动化偏见和过度信任，以及与患者和其他利益相关者进行有效的沟通和协作。

世卫组织表示，LMMs虽然有改善医疗的潜力，但也存在产生错误、不准确、有偏见或不完整的结果，从而损害使用这些信息做出健康决策的人的风险。此外，LMMs也可能受到网络安全风险的威胁，危及患者信息或医疗提供的可信度。世卫组织说，它不想等到LMMs在医疗环境中推出后才发现缺陷，然后再试图修复它们。

“生成型人工智能技术有可能改善医疗，但只有当那些开发、监管和使用这些技术的人识别并充分考虑相关风险时，”世卫组织首席科学家杰里米·法拉尔（Jeremy Farrar）说：“我们需要透明的信息和政策来管理LMMs的设计、开发和使用，唯有这样人工智能才能真正造福人类，并遵循最高的道德标准。”