跳转至

第 49 章 医学 AI：法律、监管与隐私（Artificial Intelligence in Medicine: Laws, Regulations, and Privacy）

作者

  • Enzo Maria Le Fevre, PhD（通讯作者）—— Laboratory on Innovation and Artificial Intelligence (IALAB), Faculty of Law, University of Buenos Aires, Argentina。
  • Giselle Heleg, LLB —— 同单位。

本章位于 Part V 通用考虑部分的开篇，承接 Part IV 胸/心血管应用后，转向AI 治理、监管、隐私等横切话题。属于"法律 + 政策"性质的章节，重点是 AI 在医疗中的"非技术" 维度。Le Fevre / Heleg 团队来自阿根廷布宜诺斯艾利斯大学法学院 IALAB，是"法学 + AI" 跨学科领军。

内容概述

AI 在医疗中的"非技术" 维度——法律、监管、隐私——是临床落地不可回避的问题。本章按"数据 → 健康数据保护 → 数据控制 → 隐私 → EU-US 数据流通 → 跨大西洋挑战"组织：

  1. 数据：AI 的基础资产：
  2. 大量、结构化、多样化数据是 AI 成功的关键
  3. 医院 / 研究机构数据库整合的"多边优势"
  4. 健康数据保护：
  5. 保密性原则（数据按指定目的处理，不转让）
  6. 同意权（健康数据敏感，例外限制解释）
  7. 安全性原则：可用性、完整性、认证
  8. 数据保护立法：
  9. 国际组织（OECD、欧盟委员会、欧洲委员会、IDB）
  10. 立法清晰度、责任、同意类型
  11. 健康数据控制：
  12. 决定数据处理"目的 + 方式" 的人是"数据控制者"
  13. AI "黑盒" 挑战
  14. GDPR "可解释性要求"
  15. 传统医疗监管可能"不够保守或及时"
  16. 健康数据隐私：
  17. 透明度、目的、最小化、准确性、删除、必要性
  18. HIPAA：仅保护"可识别"健康信息，匿名后无限制
  19. "谁拥有患者数据" 的伦理问题
  20. EU-US 数据流通：
  21. Privacy Shield 终止
  22. Schrems II 决定
  23. 充分性决议国家：加拿大、阿根廷、乌拉圭
  24. 跨大西洋挑战：标准合同条款 + 约束性公司规则

核心方程与概念

1. 数据保护基本原理

原理 内容
保密性 数据按指定目的处理，不转让
同意 敏感数据需明确同意
安全性 可用性 + 完整性 + 认证
透明度 用户易理解的数据处理信息
目的 显式、合法的处理目的
最小化 数据收集"必要且适度"
准确性 用户可请求纠正
删除 用户可请求删除
必要性 数据收集"必要 + 比例 + 民主监督"

2. 数据控制者

数据控制者（Data Controller）：决定数据处理"目的 + 方式" 的实体。 数据处理者（Data Processor）：代表数据控制者处理数据。 数据主体（Data Subject）：被处理数据的个人。

AI 时代：医院 / AI 公司 / 政府的"数据控制者" 角色需明确。

3. GDPR 与 AI

GDPR（2018 年生效）是欧盟最严数据保护法。AI 关键条款： - 第 22 条：自动化决策的"拒绝权" - 第 13/14 条：AI 系统的"可解释性要求" - 第 35 条：高风险 AI 的"数据保护影响评估" - 第 25 条：数据保护设计

GDPR 违规：罚款 2000 万欧元或全球营业额 4%。

4. HIPAA 与健康数据

HIPAA（1996 年美国）：保护"可识别"健康信息（PHI）。匿名化后不受 HIPAA 约束。 AI 时代：去标识化数据是 AI 训练主流，但匿名化 ≠ 完全不可识别（数据链接攻击）。

5. Schrems II 决定

2020 年欧盟法院 Schrems II 决定：撤销 EU-US Privacy Shield。 - 美国对欧盟数据保护"不够充分" - 影响 Facebook / Google 等大公司 - 标准合同条款（SCC）+ 约束性公司规则（BCR）受更严格审查

充分性决议国家（持续有效）：加拿大、阿根廷、乌拉圭。

6. 关键概念辨析

  • GDPR vs. HIPAA：GDPR 是"全面"数据保护法，HIPAA 是"医疗"专业法。
  • 匿名化 vs. 去标识化：匿名化 = 完全不可识别（不受 GDPR / HIPAA），去标识化 = 间接可识别（仍受约束）。
  • 数据控制者 vs. 数据处理者：AI 时代医院 / AI 公司角色需明确。
  • 同意 vs. 必要处理：医疗数据"同意" 是金标准，但"必要处理"（公共卫生、紧急救治）可豁免。
  • 国际数据流通 vs. 数据主权：跨境数据流通是 AI 训练的关键，但各国数据主权诉求限制。
  • 黑盒 AI vs. GDPR 可解释性：GDPR 要求 AI 给"解释"，但 DL 黑盒难满足。
  • "传统医疗监管" vs. "AI 监管"：传统 FDA / NMPA 审批路径假设"产品固定"，AI 模型"持续学习" 不匹配。
  • "高风险 AI" 分类：欧盟 AI 法案（2024 年通过）将医疗 AI 列为"高风险"，需严格合规。

关键结论

  • 数据是 AI 的基础资产——医院 / 研究机构数据库整合是 AI 成功的关键。
  • 医疗 AI 面临"数据 + 法律 + 监管 + 隐私" 四重挑战。
  • 数据保护核心原则：保密性、同意、安全性、透明度、目的、最小化、必要性。
  • GDPR "可解释性要求" 与 AI "黑盒" 矛盾，是医疗 AI 的核心法律挑战。
  • HIPAA 仅保护"可识别"健康信息，匿名化后不受约束——这是 AI 训练的法律灰色地带。
  • AI 数据控制者角色（医院 / AI 公司 / 政府）需明确——这是医疗 AI 法律的核心。
  • Schrems II（2020）撤销 EU-US Privacy Shield，影响大公司跨境数据流通。
  • 充分性决议国家：加拿大、阿根廷、乌拉圭。
  • 国际数据流通的"标准合同条款 + 约束性公司规则" 受更严格审查。
  • 医疗 AI 需"传统监管"（FDA / NMPA）+ "AI 监管"（GDPR / 欧盟 AI 法案）双重合规。
  • "AI 黑盒" 与 "GDPR 可解释性" 的矛盾是医疗 AI 的核心法律挑战。

挑战和开放性问题

  • "AI 黑盒" vs. "GDPR 可解释性"：CNN 模型难给出"为什么 AI 说这是恶性"——这是医疗 AI 法律的核心矛盾。
  • 跨大西洋数据流通：Schrems II 后，EU-US 数据转移受严格审查，AI 训练数据集受限。
  • "持续学习" AI 模型的监管：传统 FDA / NMPA 假设"产品固定"，AI 模型随时间更新不合规。
  • HIPAA 的"匿名化 vs. 去标识化" 灰色地带：去标识化数据可被"链接攻击"重新识别——是 AI 训练的法律风险。
  • "高风险 AI" 监管：欧盟 AI 法案（2024）将医疗 AI 列为"高风险"，需严格合规。
  • "数据所有权" 伦理问题：患者数据用于 AI 训练后，"谁拥有"？患者、医院、AI 公司、政府？
  • 跨境数据流通的政治化：中美科技竞争下，跨境 AI 数据流通可能受地缘政治限制。
  • "知情同意" 在 AI 时代的实施困难：传统知情同意是"特定目的"，AI 训练"二次使用"需新同意框架。
  • "数据经纪人" 商业模式：第三方聚合医疗数据用于 AI 训练的合法性是开放问题。
  • 儿童 / 弱势群体数据：医疗数据涉及特殊群体，AI 训练需额外保护。
  • "算法歧视" 与"算法公平"：训练数据偏差导致 AI 输出偏差，可能违反反歧视法。
  • "AI 决策责任" 法律归属：AI 给诊断 / 治疗建议错误时，医生 / 医院 / AI 公司谁负责？
  • "AI 可解释性" vs. "知识产权保护"：解释 AI 决策可能暴露商业秘密。
  • "AI 持续学习" 的"再训练" 监管：AI 模型更新后需重新审批？现行 FDA 框架不匹配。

个人反思与批判性分析

  • 作者团队的"阿根廷布宜诺斯艾利斯大学法学院" 视角：Le Fevre / Heleg 来自 IALAB——是"法学 + AI" 跨学科领军。本章是"南半球 / 阿根廷视角" 的医疗 AI 法律综述，与欧美主流视角形成补充。
  • "GDPR vs. HIPAA" 的跨大西洋差异：欧盟 GDPR 是"全面"数据保护法（个人权利优先），美国 HIPAA 是"医疗"专业法（行业合规优先）——这种"哲学差异" 决定了 AI 训练数据流通的"难易度"。
  • "AI 黑盒" vs. "GDPR 可解释性" 的核心矛盾：GDPR 第 22 条要求"自动化决策的拒绝权"，但 DL 黑盒难给出"为什么"——这是医疗 AI 的核心法律挑战。读者应意识到，AI 工具的"可解释性" 不仅是技术问题（Grad-CAM、SHAP），更是法律问题（GDPR 合规）。
  • "持续学习" AI 的"监管真空"：传统 FDA / NMPA 审批假设"产品固定"，AI 模型随时间更新导致"监管真空"——这是医疗 AI 监管的核心政策挑战。
  • "匿名化 vs. 去标识化" 的法律灰色地带：HIPAA 规定匿名化数据不受约束，但"链接攻击" 可重新识别——这是 AI 训练数据的法律灰色地带。读者应意识到，AI 训练的"去标识化数据" 并不等于"完全匿名化"。
  • "算法歧视" vs. "算法公平" 的伦理挑战：训练数据偏差（如某族裔代表性低）导致 AI 输出偏差——这种"算法歧视" 可能违反反歧视法。这是医疗 AI 的核心伦理挑战。
  • "数据所有权" 的伦理问题：患者数据用于 AI 训练后，"谁拥有"？患者、医院、AI 公司、政府？——这是医疗 AI 的核心伦理问题。现行法律多把数据所有权归于"数据控制者"（医院 / AI 公司），但患者"知情同意 + 撤回权" 在 GDPR 框架下受到保护。
  • "国际数据流通" 的地缘政治化：Schrems II 撤销 EU-US Privacy Shield 后，跨境数据流通受限。中美科技竞争下，医疗 AI 数据流通可能进一步政治化——这是医疗 AI 的核心地缘政治挑战。
  • "高风险 AI 监管" 的新框架：欧盟 AI 法案（2024）将医疗 AI 列为"高风险"，需严格合规。这与美国 FDA 传统"产品审批" 框架不同——这是医疗 AI 监管的新趋势。
  • "算法解释 vs. 知识产权" 的张力：解释 AI 决策可能暴露商业秘密（如训练数据、特征选择）——这是 AI 公司的商业顾虑。GDPR 与商业秘密的平衡是法律实践的挑战。
  • "AI 万能" vs. "AI 仅辅助" 的法律意义：AI 给诊断 / 治疗建议但医生仍负责——这是"医生 + AI" 的"协同责任"。但 AI 错误时责任分配不清——这是医疗 AI 的法律责任问题。
  • 与传统 AI 工具的"代际差异"：医疗 AI 是 AI 应用的"高敏感"领域，监管比一般 AI 工具更严。这种"高敏感" 反映了医疗 AI 的特殊性。
  • 与第 50-55 章的协同：本章是法律 / 监管主题专项，与第 50 章（卫生经济学）、第 51 章（商业化）、第 52 章（伦理）、第 53 章（论文写作）、第 54 章（网络安全）、第 55 章（全球展望）形成"Part V 通用考虑" 完整图景。读者通过对比可学会"AI 在医疗的'非技术' 维度"。

重要参考文献

  • [X1] Council of Europe. Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data. ETS No. 108. 1981.
  • [X2] Inter-American Development Bank. AI in Health: Responsible AI for the Health Sector in Latin America and the Caribbean. 2020.
  • [X5] Organization of American States. Inter-American Convention to Facilitate Disaster Assistance. 1991.
  • [X7] Council of Europe. Guidelines on the protection of individuals with regard to the processing of personal data in a world of big data. 2017.
  • [X10] Floridi L. The Fourth Revolution: How the Infosphere is Reshaping Human Reality. Oxford University Press. 2014.
  • [X11] Pagallo U. The legal challenges of big data: secondary purposes. Computer Law & Security Review. 2019;35(5):105302.
  • [X13] International Association of Privacy Professionals. Privacy Program Management. 2019.
  • [X14] European Commission. Ethics Guidelines for Trustworthy AI. 2019.
  • [X15] International Medical Device Regulators Forum. Software as a Medical Device (SaMD). 2013.
  • [X17] Wachter S, Mittelstadt B, Floridi L. Why a right to explanation of automated decision-making does not exist in the general data protection regulation. International Data Privacy Law. 2017;7(2):76-99.
  • [X18] European Data Protection Board. Guidelines on Automated individual decision-making and Profiling. 2018.
  • [X19] OECD. Recommendation of the Council on Artificial Intelligence. 2019.
  • [X20] Floridi L, Cowls J, Beltrametti M, et al. AI4People—an ethical framework for a good AI society. Minds and Machines. 2018;28(4):689-707.
  • [X21] International Association of Privacy Professionals. AI and the Privacy Profession. 2018.
  • [X22] OECD. Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449. 2019.
  • [X23] Council of Europe. Recommendation CM/Rec(2016)1 of the Committee of Ministers to member States on the protection and promotion of the right to freedom of expression and the right to private life with regard to network neutrality. 2016.
  • [X24] Doshi-Velez F, Kim B. Towards a rigorous science of interpretable machine learning. arXiv:170208608. 2017.
  • [X25] World Health Organization. Ethics and Governance of Artificial Intelligence for Health. 2021.
  • [X26] European Commission. Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 (General Data Protection Regulation). 2016.
  • [X27] Court of Justice of the European Union. Schrems II Case C-311/18. 2020.
  • [X28] U.S. Department of Health and Human Services. HIPAA Privacy Rule. 45 CFR § 164.514.