第49章：人工智能在医学中的法律、监管与隐私（Artificial Intelligence in Medicine: Laws, Regulations, and Privacy）
引言：医疗 AI 与患者数据保护
本章作者 E. M. Le Fevre 和 G. Heleg 在开篇即指出，访问患者医疗记录等敏感个人数据受到严格保护，但近年来医院与人工智能公司之间的数据共享日益增多，并由此引发争议。这些争议凸显出一系列伦理问题：开发 AI 解决方案时使用的患者数据究竟由谁拥有与控制？患者的隐私权如何得到保障？如果患者的数据被用于训练 AI 程序，他/她拥有哪些法律权利？作者强调，《健康保险可携性与责任法案》（HIPAA）仅保护可单独识别的健康信息；这意味着一旦健康信息完成匿名化、不再可被识别或提供合理识别基础，使用与披露这些匿名信息便不受限制。换句话说，个人健康数据一旦被匿名化，患者便不再拥有进一步限制其用途的法律救济手段。
在列举的安全要点中，作者强调技术方案必须纳入最先进的信息安全机制，这一要求同样适用于过程中涉及的全部基础设施，包括数据中心与通信网络。
关于隐私问题的解决路径，作者认为：如果人们能够理解共享其健康数据的重要性，问题便有望得到化解。具体而言，患者应当认识到这些数据对卫生体系的发展与强化具有巨大价值。但这一前提是各国必须提供充分的法律与伦理框架，以确保患者安全、数据安全、健康数据的合理使用与所有权、数据隐私的可恢复性以及知识产权的保护。
从欧盟到美国：隐私盾终结后的数据流通
2016 年 7 月 12 日，欧盟通过了关于欧美"隐私盾"框架的充分性决定。该框架旨在保护因商业目的将其个人数据被传输至美国的欧洲公民的基本权利，并允许数据自由传输至经认证的美国公司。为实现这一目标，接收欧洲个人数据的公司被施加了强有力的数据保护义务；同时，框架建立了数据访问方面的保障措施，并提供了确保个人获得有效保护与救济的途径。此后在 2016 年 12 月，欧盟与美国签订了《数据保护伞形协议》，其中包含一套适用于跨国刑事执法机关间数据交换的综合数据保护规则，进一步强化了对欧洲数据主体的保护水平。
然而，这一数据传输框架在 7 月走到了尽头。Schrems II 判决立即推翻了欧美"隐私盾"框架，并对标准合同条款、约束性企业规则等替代数据传输机制施加了更严格的审查，使众多公司对如何开展涉及跨大西洋数据传输的业务感到无所适从。欧盟法院裁定欧美框架未能提供 GDPR 所要求的保护，未能提供充分保障以防止欧洲数据被提供给美国政府或执法机构。Schrems II 判决禁止公司向数据保护规则更宽松的国家传输个人信息，因为这些公司必须确保遵守欧洲的隐私标准。该裁决影响 Facebook、Google 等大型科技公司，受传输规则约束的数据可包括电子邮件、社交媒体帖文等通信内容，以及金融记录、商业文件、员工人力资源资料、营销数据库与客户记录。
判决带来的直接后果是：相关公司现在必须对大量协议中与数据传输相关的条款进行重新评估与修订，由此全面审视其权利与责任，并更好地理解相应的隐私合规风险。此外，协议复审还能帮助公司判断是否需要以补充措施强化其数据传输策略，例如纳入数据加密或其他安全承诺、违约通知与终止权等条款。
目前美洲有三个国家获得了欧洲当局颁发的国际传输充分性认定：加拿大、阿根廷和乌拉圭。Schrems 判决未影响这些充分性决议，它们仍然完全有效。因此，欧盟成员国向这三个司法管辖区的数据传输暂时依据欧洲当局及时做出的决定而合法化。由于大多数国家尚未获得充分性认定，向这些国家传输数据必须依据 GDPR 第 46 条与第 49 条所建立的以下机制予以合法化：
- 公共机构或组织之间具有法律约束力且可执行的文书；
- 约束性企业规则（Binding Corporate Rules）；
- 欧盟委员会通过的标准数据保护条款；
- 监管机构通过并经欧盟委员会批准的标准数据保护条款；
- 经批准的行为准则或认证机制。
欧盟的数据控制者必须在每一具体案例中——必要时与数据接收方协作——检查第三国法律是否在欧盟条例下提供充分保护。如有需要，应在上述条款之外提供额外保障；若控制者无法采取充分的额外措施以确保该等保护，则监管机构有义务暂停或终止向该国传输个人数据——尤其是当目的地国的法律对接收方施加了与上述条款相抵触的义务时。最终，Schrems II 判决强化了监管机构的权力，使其得以在适当情况下基于标准合同数据保护条款暂停或禁止向第三国的个人数据传输。
eHealth 基础设施与服务的安全性与韧性
AI 工具的开发与部署应在一种社会-技术框架内进行，该框架融合技术、人力技能、组织结构与法规，并在维护和增进个人利益与公共利益之间取得平衡。eHealth 领域也不例外：为支持这一框架的建立，需要包含自主性、伤害预防与公平性在内的伦理与法律原则。
这些技术的成功高度依赖于针对其应用情境的合理设计：一方面要考虑使用这些技术的环境中的结构性问题、所应对的健康需求、可用基础设施以及技术的易用性；另一方面，更具普适性的数据基础设施将使软件的开发与扩展更加高效。就此而言，2020 年初启动的"新欧洲数据战略"提供了新的重要指导原则。同时，各国必须审视其如何保护公民健康数据隐私，这既包括传统意义上的健康数据，也涵盖活动追踪器或地理位置数据等新型数据。
传统上独立运行的医疗器械正日益成为医院 IT 系统中联网集成的一部分，不再能对传统网络攻击免疫。与此同时，新技术的部署速度远超可创建或更新的安全系统。因此，安全已成为首要关切，因为卫生系统正变得易于遭受安全事件的冲击。这些问题涵盖从破坏系统完整性与患者隐私的恶意软件，到影响患者诊疗的分布式拒绝服务攻击。在卫生领域，这些攻击带来独特的挑战，因为它们的影响可能远超经济损失与隐私侵犯。
为避免医疗数据泄露，《1996 年健康保险可携性与责任法案》（HIPAA）实施了物理与技术层面的保障措施，以保护敏感信息免受网络犯罪侵害。物理保障包括工作站使用与安全、设备与介质控制以及设施访问控制；技术保障则包括唯一用户识别号、紧急访问程序、自动登出、加密与解密。然而，这些保障措施不断被网络犯罪分子攻破。基于此，各国必须认识到本国 eHealth 系统的至关重要并采取一切必要措施加以保护：一方面需要充足的数据保护基础设施，另一方面需要持续进行软件更新以跟上近期进展与网络犯罪分子所暴露的安全漏洞。此外，医疗服务的提供者必须随时关注新兴的网络安全趋势与威胁，包括勒索软件威胁。
欧盟网络安全局（ENISA）就 eHealth 安全提出了一系列建议，面向成员国与关键 eHealth 基础设施的运营方。其中建议各国开展资产识别与风险评估，对其关键 eHealth 基础设施与服务进行分类并编制国家目录；制定明确的网络安全指南；交流知识与经验教训；对医疗网络安全事件开展影响/成本-效益分析，并以此为杠杆增加对 eHealth 系统与安全基础设施的投资；建立事件响应机制，将医疗机构与国家网络安全主管中心联系起来；以及提升公民与医疗机构对向人员与用户提供网络安全培训之重要性的认识。
ENISA 的报告还揭示了 eHealth 基础设施与系统面临的若干最重要的网络安全挑战。
系统可用性。 这是实现电子医疗连续性的基本特征，意味着被授权的专业人员能够持续获取关键健康信息以确保最佳医疗服务。总体而言，一国卫生部门的数字化程度越高，其卫生服务受 eHealth 基础设施中断的影响也越大。因此，网络与信息系统的可用性被视为高度关键。
互操作性缺失。 eHealth 基础设施包含许多在不同尺度上互联的多样化系统与应用——例如，一台采集临床数据的医疗器械可以与用于访问互联网的计算机接入同一网络。一方面，确保高水平的互操作性并保证信息在各个信息系统、卫生服务机构、医疗服务提供者与患者之间安全传输，是有效、安全使用卫生服务的核心问题；另一方面，接收方系统应能够利用所接收的信息开展各种操作。互操作性的缺失也会影响 eHealth 服务网络中的安全更新。报告结果显示，25% 的受访者声称其所在机构尚无可行的互操作性框架。
访问控制与身份认证。 在数据安全中，与第三方及内部人员共享数据是最大的脆弱性之一。因此，访问控制与身份认证是 eHealth 基础设施的关键安全特性。同时，保持系统的用户友好性也极为重要，这有助于避免用户操作失误。此外，健康数据的提供方必须确信消费数据的一方反过来也会依照数据提供时所设定的目的施加访问限制。
数据完整性。 确保所存储与交换数据的质量与完整性至关重要，因为个人或临床数据中的错误可能影响患者的医疗、保险或就业。此类错误通常与工作人员的错误录入有关。
网络安全。 当其他关键资产的安全性依赖于网络安全性时，网络安全就变得至关重要。eHealth 网络的主要脆弱性之一是防火墙配置不当，外部攻击者被视为主要威胁之一。
安全专业能力与意识。 人员的安全实践被视为潜在问题的来源，并构成一项重大挑战——在某些国家，人为因素被认为是安全事件最重要的成因。因此，确保安全架构及其相关流程与措施得到良好设计、被所有相关方理解并被切实执行，是高度重要的。
数据丢失。 信息化与 eHealth 服务意味着大量关键的、个人的与机密数据以数字格式存储。因此，保护数据免遭丢失极为重要。数据丢失的常见原因包括 IT 服务商和医疗机构对临床患者数据未经授权的访问，以及备份策略不当。
标准化、合规与信任。 实现 eHealth 安全的主要关注点之一是恰当地建立、维护与执行互操作性框架，使集成化的系统有助于降低 eHealth 成本。
跨境事件。 为促进跨境医疗中数据的可传输性，需要解决的挑战主要围绕构建共同的互操作性、访问控制与身份认证框架。
面向 AI 的健康数据管理
尽管 eHealth 面临上述网络安全挑战，AI 仍具有扩大医疗可及性、改善健康结局、创造更高效工作流程以及降低成本的潜力。要实现这些目标，妥善的数据管理至关重要。健康数据的互操作性不可或缺，而任何潜在的偏差都必须在 AI 部署之前被仔细审视，因为系统的行为可能因地区与人群而异，其推荐也可能以不同方式影响最终决策。
一方面，妥善的数据管理要求用户接受软件功能与可能局限性的培训；另一方面，对与系统打交道的人员进行持续培训同样不可或缺。关于数据与 AI 的教育，以及如何评估系统，对于部署安全的 AI 工具至关重要。
监测也是有效数据管理的关键环节。这包括分析供应链以优化其运行，并挖掘健康记录与社交媒体以寻找不良反应信号。
此外，数字化的数据基础设施同样关键。为了高效使用系统，数据必须结构化、标准化并对创新者开放。同时，围绕健康信息数字化与集中的隐私问题应被严肃对待，数据应受到保护以防网络攻击。应当特别关注确保所有患者拥有完整且无偏见的健康记录。同时，各国应支持研究以理解健康数据可能存在偏差的方式，从而在 AI 产品的设计、测试与评估中运用这些信息。
健康数据可能因采集地点、采集时间、采集对象、采集者与采集目的不同而发生实质性变化。结构化与非结构化数据可能因国家或地区标准、保险要求、本地工作流规范与其他因素而截然不同。这意味着数据可能高度异质，因此根据数据的定义、格式与存储方式的不同，可能需要对 AI 系统做出相应调整。
最后，在管理数据时，必须始终将人的基本权利与前述在个人数据收集、处理与传输过程中必须遵守的原则牢记于心。
结论
作者在结论中强调，在卫生领域使用前沿技术意味着众多巨大挑战，但这些技术所带来的裨益远为更大。我们应当持续反思数据的使用与管理方式，在不背离保密、安全、隐私、透明度与公平原则以及保护人的基本权利的前提下重新定义医疗。为实现这些目标，拥有数字化的数据基础设施至关重要，同时需要采取一切必要措施防止网络安全攻击。需要在国际层面对数据监管框架以及数据互操作性的运作方式进行恰当的统一协调。AI 本身不能被视为目的，而应作为增进人类福祉的手段。为此，AI 必须采取以人为本的路径，从而建立人们对系统所产生结果的信任。AI 的开发必须以人为中心，这意味着系统必须遵循以下原则：(i) 算法透明性；(ii) 算法可追溯性或可解释性；(iii) 算法可访问性的最大化；(iv) 算法的非歧视。使用设计不当的工具进行预测甚至更简单的数据自动化处理，事实上可能导致错误的、且在许多情况下伦理上不正当的决策。
本章个人批注
本章出自一本心血管影像 AI 书籍倒数第二个独立技术章节之前，性质上是一篇"边界章节"——它脱离了前 48 章具体到心脏、肺、血管、瓣膜的临床/技术内容，转而处理 AI 在医疗中部署所必然遭遇的法律、监管与隐私议题。我对这一安排并不意外：前几章的算法与系统越多地进入真实临床，最后就一定需要这些"元问题"来收尾。
本章对欧美"隐私盾"——尤其是 Schrems II 判决的论述非常具体，并系统列举了 GDPR 第 46、49 条下的合法传输机制。我注意到它与 HIPAA 形成了鲜明对比：HIPAA 似乎以"匿名即免责"为思路，而欧盟体系（GDPR、Schrems II）则要求数据控制者逐案审查目的地国法律、提供额外保障，否则监管机构有权暂停传输。这种"实质审查 vs 形式去标识"的差异，是理解跨大西洋医疗 AI 数据流动困境的关键。
ENISA 列出的九大 eHealth 安全挑战（系统可用性、互操作性、访问控制、数据完整性、网络、安全意识、数据丢失、标准化、跨境事件）几乎一一对应着真实世界中的事件——尤其是 WannaCry 类勒索软件对英国 NHS 系统的攻击。ENISA 把"人为因素"列为某些国家最重大的事件成因，这与所有系统层的投入最终仍受制于人的常识一致。
在"面向 AI 的健康数据管理"一节，作者明确指出"系统的行为可能因地区与人群而异，其推荐可能以不同方式影响最终决策"——这其实把本章与本书第 9 章（生物统计与 AI）、第 8 章（生物样本库与 AI）以及第 7 章（影像组学技术背景）所强调的数据偏差与可推广性问题串联了起来。在"以人为本"的四条原则（透明、可追溯、可访问、非歧视）背后，我看到的是第 23 章（NLP 在心血管的应用）与第 31 章（心脏 CT 影像组学）所提到的可解释性争议——也就是 Rudin 在 2019 年《Nature Machine Intelligence》上呼吁的"停止为高风险决策解释黑箱模型"。
我对本章的疑虑是：作者虽然列举了 GDPR 与 HIPAA 的差异、Schrems II 后的合规路径、ENISA 建议，但几乎没有触及"算法责任"（谁为 AI 误诊负责？）与"知识产权"（AI 训练数据归属、AI 自身是否可专利）这两个密切相关但被推迟到第 50、51 章的主题。这意味着本章的"法律与监管"覆盖面其实是局部的——它处理的是数据层，而把产品层和市场层留给后续。
与上下章的衔接（一段话）
第 48 章是 DeCecco 主编这部书最后一篇具体到解剖部位/病种（颈动脉）的临床应用章节。第 49 章是一个明显的转场：从"对具体器官/疾病的 AI 应用"切换到"AI 在医疗中部署的外部约束"——法律、监管与隐私。这一位置在书的整体结构中起到承上启下的作用：它既是对前 48 章所有算法/系统现实落地时必须满足的合规底线的总括，又是为接下来第 50 章（卫生经济学评估）、第 51 章（商业化与知识产权）、第 52 章（伦理考量）以及第 54 章（网络安全）所做的铺垫。作者把第 49 章放在 48 之后、50 之前，意味着本书的逻辑闭环是"临床应用 → 法律 → 经济 → 商业 → 伦理 → 写作 → 网络安全 → 全球展望（第 55 章）"——临床主题与社会科学主题的合龙，使本书成为一本真正"从应用到落地"的 AI 心胸影像指南。