Nature子刊：蔡云鹏/潘毅/唐金陵开发类关联流形学习，弥合医学AI可解释性鸿沟

2026-05-21 16:27:47
来源：医药头条

可解释性已日益成为智能医疗设备的核心要求。当前的医学人工智能技术尽管在增强可解释性方面付出了巨大努力，但仍存在“解释性鸿沟”。

2026年5月18日，中国科学院深圳先进技术研究院蔡云鹏、深圳理工大学潘毅、唐金陵共同通讯在Nature Biomedical Engineering（IF=26.7）在线发表题为Bridging the interpretability gap for medical artificial intelligence models using class-association manifold learning的研究论文。

该研究提出了一种名为类关联流形学习（CAML）的新型可解释性框架，有效弥合了这一鸿沟，为人工智能在临床辅助诊断、医疗器械审评及医学知识发现等场景的安全应用提供了重要技术支撑。

人工智能模型，尤其是深度学习模型，已越来越多地应用于医疗保健和临床应用中。医疗设备制造商正越来越多地使用AI技术从真实世界经验中学习并改善患者护理。然而，AI模型（特别是深度神经网络）复杂性的急剧增加，加剧了其“黑箱”特性，并引发了对其在医疗应用中风险的担忧。

正如近期研究所示，医学AI模型可能捕捉到超越当前人类知识的未知规则。它们也极易受到捷径学习或对抗性攻击的影响，或在诊断中引发意外偏见或不公平性，这引发了伦理和技术方面的担忧。

CAML概况（图源自Nature Biomedical Engineering）

该研究提出了类关联流形学习，这是一种增强医学AI模型可解释性的生成式方法。该方法能够高效地将常见的决策相关模式与个体背景解耦，从而在保持近乎完美的诊断准确性的同时，以低维映射表示全局类关联知识。提取的知识进一步用于实现AI对任意样本的生成性修改，并可视化鉴别诊断规则。

此外，还开发了一个拓扑图来建模整个决策规则集，使得黑盒模型背后的逻辑可以通过遍历该图并生成虚拟对比示例而被直观地阐明。大量实验表明，该方法不仅在解释医学AI模型行为方面实现了更高的准确性，而且有助于提取模型训练期间未知的、符合医学规范的知识，从而为利用AI技术辅助临床规则和医学知识发现提供了一种潜在手段。

参考消息：https://www.nature.com/articles/s41551-026-01676-w