第52章：人工智能在医疗应用中的伦理考量（Ethical Considerations of Artificial Intelligence Applications in Healthcare）

AI 作为医疗偏差的解决方案（AI as a Solution to Healthcare Bias）

本章开篇指出，AI 训练中可用"真实标签"的局限性催生了一系列采用新型标签方法的研究。Obermeyer 等人提出的工作即是典型一例：他们用深度学习模型从膝关节 X 线片预测患者所经历的疼痛程度，这一预测分数继而被用于减少"无法解释的种族间疼痛差异"。结果显示，该算法预测分数所解释的差异比例比放射科医师分数高出 4.7 倍（即多解释 43% 的差异）。其含义是：欠服务人群患者的疼痛，相当一部分来自膝关节内部、未被标准影像学严重度指标反映出来的因素；算法在放射科医师看不到的层面上"看到"东西这一能力，提示了"增强型放射科医师"在表现上具备进一步提升的潜力，并对人群健康具有积极意义。

在乳腺癌风险预测中观察到类似结果：经典预测模型在西班牙裔与黑人美国人群中的表现较低。 MIRAI 系统将影像与临床风险因子结合以预测 5 年乳腺癌风险，表现优于传统模型；但亚组分析显示，对乳腺致密的女性黑人而言，其风险预测仍较差——这正体现了少数族裔可能遭受的"双重不利"。作者由此指出：若只报告整体人群上的统计性能而不强制做亚组分析，那么我们构建与部署的 AI 系统将会继续复制偏差。

医疗 AI 伦理的未来（The Future of Ethical AI in Healthcare）

医疗 AI 的伦理格局在持续演化。要做的工作需要跨学科团队与新型治理形式，因为法律无法跟上 AI 技术的进步速度。以驱动当今互联网的 transformer 语言模型为例，其训练所需的大量算力只有少数公司与政府能够获得；这些系统对许多研究者不可用于评估，而公司内部伦理团队（如 Google 的相应团队）甚至被解散。许多医疗机构正采用云战略，同一类算法将被部署到患者数据上。在这种格局下，AI 伦理的权力可能从患者与监管者转移至拥有大算力的公司，而我们目前仍缺乏维持保护机制所需的相关框架。

对 FDA 与已发布指南的审查未能定位到任何对失败分析或公平性评估的硬性要求。例如 CONSORT-AI 扩展指南虽然讨论了公平性但并未将其列入检查清单要点；SPIRIT-AI 扩展、STARD-AI、TRIPOD-ML 等指南中也未提及公平性。FDA 鼓励上市后监督，然而这类算法的审批一旦完成，其后续微调通常无需重新走审批流程。更为令人担忧的是 FDA 曾提出不对医疗 AI 进行监管的方案，加之现有 EMR 厂商正在以"决策支持工具"的名义悄然部署无法审计、未获 FDA 批准的算法。治理结构对帮助临床医师与患者收获 AI 的承诺至关重要。

结论（Conclusion）

爆发式增长的 AI 技术所带来的伦理需求正在迅速演化，目前尚无明确的监管指南。因此，评估医疗算法偏差与公平性的工作需要数据科学专家、临床医师、算法开发者与 AI 实施者之间的跨学科协作。这种由多种治理形式所支撑的跨学科路径，将是确保患者能够真正从 AI 承诺中获益的关键。使用 AI 的项目伦理审查委员会需要加以改进：既要支持失败报告，也要适应并鼓励数据共享，以维持"数据集具备包容性与多样性"这一社会公益。

本章个人批注

这一章是 ch51"产品化与知识产权"的伦理续章：上一章给出"在四大市场（美/欧/中/日）保护 AI 发明可专利性"的法律工具箱，本章则把这一套商业逻辑拉到公平、偏差、知情同意的社会维度上重新审视。最具张力的一点是，作者把 FDA"已审批算法可在不重新审批下微调"这一常规做法与"FDA 曾提议不对医疗 AI 进行监管"这一极端立场并置呈现，揭示出监管在算法迭代速度面前的系统性失语；与之形成对照的是 CONSORT-AI、SPIRIT-AI、STARD-AI、TRIPOD-ML 等报告指南同样未将公平性纳入清单要点——这意味着偏差问题在"审批端"与"出版端"两端都缺乏硬性约束。

Obermeyer 的膝痛预测模型把"算法看到了医师看不到的东西"作为正面案例，但作者随即用 MIRAI 系统的"双重不利"作反例——同一节里同时呈现"算法纠偏"与"算法引入新偏差"两种相反叙事，这种张力恰恰揭示了"偏差"并非单向现象，而是与所用标签的性质、训练人群的代表性、以及评估时是否做亚组分析三者紧密耦合。MIRAI 的例子也提示一点：在心胸影像 AI 领域常见的"整体 AUC 优于传统模型"叙事，若不做亚组分析，几乎可以肯定会在临床落地后被现实人群的异质性"反噬"。

本章对 transformer 算力集中化与"内部伦理团队被解散"的观察带有强烈的时效烙印（2021 年语境，Google 第二次解雇 AI 伦理研究员事件），但其结构性诊断——"算力即伦理权力"——在 2026 年回看依然成立，甚至因为生成式 AI 的扩散而加剧。值得注意的是，作者给出的对策是"治理结构 + 跨学科 + 伦理审查委员会改进"这一相对温和的工具集，并未触及"开源权重"、"算力公共化"或"算力税"等更激进的可选项；这种克制本身也提示了学界对结构性权力转移的应对仍在摸索阶段。

与上下章的衔接（一段话）

第 52 章处于本书"卫生经济学—商业化—知识产权—伦理"四联章的第三位置（ch50–ch53）。ch50 把"价值"作为经济评估的核心，ch51 把"价值"翻译为厂商在专利与商业模式上可争取的法律资产，ch52 进一步把价值与产品化放到公平、偏差、监管失语的社会维度上进行审视；ch53（如何撰写 AI 论文）将给出研究汇报层面的方法学规范。本章紧接 ch51 末尾"商业活动落后于医疗运营活动"的判断，转而追问：当产品化在算力集中化与监管缺位的夹缝中加速推进时，医疗 AI 究竟在为谁创造价值、患者端的保护机制如何不因"决策支持工具"的灰色部署而被悄悄绕开。作者有意把伦理章放在 ch50–ch51 商业化两章之后、ch53 方法学规范之前，正是为了显式化"先做经济评估、再做产品化落地、然后做伦理审查、最后回到论文规范"这一从市场回到方法论的闭环。