世界卫生组织（WHO）于 10 月 19 日发布了题为《医疗卫生领域人工智能的监管考量》的报告（点击图片进入识林小程序阅览），系统梳理了人工智能系统开发和应用过程中的关键监管要点，包括文档和透明度、风险管理、临床验证、数据质量、隐私保护以及利益相关方参与等方面。报告旨在为开发者、监管机构和医疗从业人员等相关方提供监管参考，促进人工智能技术在医疗保健领域的安全有效应用。

报告背景

鉴于人工智能技术在改善临床试验、医疗诊断、数字治疗、自我护理等多个维度上具有巨大应用潜力，WHO 与国际电信联盟共同成立了人工智能用于医疗卫生焦点小组（FG-AI4H），以推动人工智能在医疗保健领域的安全有效应用。该焦点小组下设立了监管考量工作组，成员包括来自监管机构、学术界和业界的专家，他们从医疗器械生态系统的视角出发，对人工智能在医疗保健领域的监管考量进行了深入探讨和研究，形成了本报告。

报告重点

报告详细阐述了人工智能系统在开发和应用过程中，在下述六个主题领域需要关注的关键监管要点:

文档和透明度。开发全过程应具备清晰、详尽的文档，采取基于风险的文档管理方式。

风险管理和系统开发全生命周期方法。应采用全生命周期方法，评估网络安全、算法偏差等与人工智能系统相关的各类风险，并实施风险管理。

预期用途和验证。应明确预期用途，在独立数据集上进行分析验证，并根据风险级别采取不同的临床验证方法。

数据质量。应评估和处理训练数据中的偏差问题，避免编码时将数据错误放大。

隐私保护。应遵守各辖区的相关法律法规要求，制定和执行数据合规方案。

利益相关方参与。可考虑建立渠道，促进监管机构、开发商、医疗机构等利益相关方之间的交流和合作。

报告建议

报告基于上述六个主题领域，提出了18条具体建议供相关方在人工智能系统开发和应用过程中考量，主要包括:

采用基于风险的文档方式

应用全生命周期方法管理风险

进行独立的分析验证和临床验证

评估和处理数据质量问题

遵守隐私法规要求

建立利益相关方交流渠道

报告表示，鉴于人工智能技术快速发展，相关方应保持积极交流和广泛合作，以促进经验分享，推动这一领域的监管规范建设。该报告可为开发者、监管机构和医疗从业人员提供宝贵的监管参考。