【白皮书发布背景】

7月18日，中华医学会医学伦理分会2025年会在云南昆明召开，《医疗健康大模型伦理与安全白皮书》正式发布。该白皮书由上海交通大学、复旦大学、上海交通大学医学院附属瑞金医院与蚂蚁集团联合编写，旨在为医疗健康大模型的应用提供安全、伦理及合规指导，推动AI技术在医疗场景中的可信落地。

【医疗AI的特殊挑战】

与其他行业相比，医疗健康领域的AI应用面临更高标准的挑战。患者在问诊、用药或健康管理时，AI输出的专业性、安全性和伦理合规性直接影响生命健康。例如，AI给出的诊断建议是否准确、治疗方案是否符合伦理规范、隐私保护是否到位等问题，均需系统性解决。

【核心风险与评估体系】

白皮书梳理了医疗大模型应用的六大风险：知情同意缺失、用户隐私泄露、数据歧视、模型不透明性、幻觉与错误信息、伦理法律违规。针对这些风险，构建了“五位一体”评估体系：

1. 场景覆盖：区分诊前咨询、临床辅助、健康管理等不同场景；

2. 伦理规范：基于医学伦理四大原则（尊重、不伤害、有利、公正）；

3. 法规数据集：整合国内外医疗法规与伦理条款；

4. 客观考点：如药品禁忌识别、隐私条款遵守等；

5. 主观题评测：考核模型对伦理困境的判断能力。

通过“大模型自评+专家复核”机制，提升伦理违规识别率，确保模型通过“质检关”后再投入应用。

【系统性风险防控路径】

白皮书提出四层防控框架：

1. 数据安全：医疗数据脱敏、分级授权与加密存储；

2. 伦理合规：建立医疗AI伦理委员会，制定行业共识；

3. 技术可靠性：引入对抗测试与持续监控机制；

4. 监管评估：推动第三方认证与动态审查制度。

【“人机对齐”理念与技术路径】

白皮书创新性提出医疗大模型的“人机对齐”原则，强调AI需从“工具”升级为“伙伴”，具体路径包括：

伦理微调：基于医疗场景优化模型价值观；

共情训练：识别患者情绪并给予人文关怀；

质量控制：通过RAG模块确保引用医学知识的准确性；

敏感干预：对高风险回答（如自杀倾向）触发人工复核。

【评测基准的创新】

白皮书团队历时一年构建了医疗伦理评测基准，突破传统评测的局限性：

题型设计：融合客观题（如医学伦理题库）与主观题（模型生成案例）；

评分升级：对主观题答案多维度赋分，例如区分“原则违反程度”“危害等级”等，而非简单0/1打分。

【行业价值与未来意义】

作为首份聚焦医疗大模型伦理与安全的系统性文件，白皮书为开发者、医疗机构及监管部门提供了可操作的框架。其提出的对齐理念和动态评估机制，将推动医疗AI在精准性与人文关怀上的双重进步，真正实现“技术向善”。