"医疗人工智能解释的双刃剑：何时改善决策，何时造成误导"，魏立佳教授，武汉大学经济与管理学院

标题：医疗人工智能解释的双刃剑：何时改善决策，何时造成误导

主讲人：魏立佳教授，武汉大学经济与管理学院

日期：2026年04月10日（周五）

时间：14:00-15:00

地点：T7-106-R1

摘要:

我们记录了一个人工智能透明性的基本悖论：当算法判断正确时，解释能够改善决策；但当算法出错时，解释反而会系统性地恶化决策结果。在一项实验中，257名处于临床阶段的医学生共做出了3,855次诊断决策。结果发现，当AI判断正确时（占73%的情况），解释使诊断准确率提高了6.3个百分点；而当AI判断错误时（占27%的情况），解释却使准确率下降了4.9个百分点。这种不对称性源于现代AI系统无论推荐质量如何，都能够生成同样具有说服力的解释——医生难以区分哪些建议是有帮助的，哪些则具有误导性。我们的研究表明，在提供解释的情况下，医生会将AI的准确率高估15.2个百分点，即使在AI给出错误建议时，这种过度依赖依然存在。进一步分析发现，具有较高能力且对自身不确定性有适当认知的医生，反而最容易受到AI透明性悖论的负面影响（当AI出错时准确率下降12.4个百分点）；而过度自信的新手则从中获益最多（净提升9.9个百分点）。福利分析表明，与强制性的“全面透明”相比，“选择性透明”每年可创造约25.9亿美元的医疗价值，比全面透明所带来的18.2亿美元高出43%。

主讲人:

魏立佳，武汉大学经济与管理学院教授、博士生导师，数理经济与数理金融系主任，行为科学研究实验中心执行主任。研究领域是行为经济学，数字经济。现兼任教育部经济学“101计划”《行为与实验经济学》课程联合牵头人、China Economic Review等国际期刊的客座编辑等职务。论文发表于Marketing Science、Econometric Theory、Journal of Health Economics、Experimental Economics、European Economic Review、AEA: Papers and Proceedings等国际一流期刊，以及《中国工业经济》、《经济学（季刊）》、《系统工程理论与实践》等中文权威期刊。主持国家自然科学基金重点、面上、青年项目，教育部人文社会科学基金，教育部产学研创新基金，科技部高端专家引进项目等国家级、省部级项目。