第54章：人工智能时代的网络安全（Cybersecurity in the Era of Artificial Intelligence）

如何保护你的机构（How to Protect your Institution）

本章延续上一章末尾关于 AI 风险与威胁的讨论，先收束关于深度伪造（deepfake）的预警：当前的语音生成算法仍需数小时高质量音频数据用于训练，已有研究者用这一思路生成了著名播客主持人 Joe Rogan 的语音，但只要训练数据门槛进一步降低，伪造将变得随手可得；作者预期在深度伪造检测与生成之间将展开持续的军备竞赛。

随后进入正题——"如何保护你的机构"。作者开门见山地说，要列出一份详尽无遗的防护措施或概念清单超出了本短章的篇幅，但以下几条可推广的原则或许对感兴趣的读者有用。

第一条原则是临床、业务和技术三方面的领导者必须协同。主动网络安全计划的第一步是理解医院或科室内部存在哪些安全风险。这一步不能仅由网络安全专家独立完成，而需要理解科室内部各种核心流程与职责。

第二条原则借用了一句比喻——"链条的强度取决于最弱的一环"。文中举了"显示屏上贴有密码的黄色便利贴"这一典型例子，认为它足以让一整套精密的 IT 安全体系几乎形同虚设。

第三条原则是"最大的安全风险来自内部"。多数机构已经意识到，培训员工识别恶意邮件和链接、防范钓鱼攻击等，是机构网络安全的一块基石。

第四条原则是"备份与恢复计划"——机构应配备一套稳健且经过演练的备份和恢复方案。

第五条原则是要求所有设备用长 PIN 或密码锁定，并禁止密码重复使用。这一点在多数机构已是标准做法，对个人设备同样适用。

作者随后把视角拉回到更宏观的层面：技术与复杂度的快速演进，使得许多医疗机构采用了 Abraham 等所称的"摸石头过河"（muddling through）的被动领导风格；然而这种被动方式在医疗网络安全问题上是不够的。医疗场景中一旦发生安全漏洞并影响系统，结果不是"IT 关停"，而是"患者照护停摆"。因此，即使本章前面提到的 AI 介导攻击目前仍停留在假想层面，仍有必要未雨绸缪地开展研究，以便在 AI 网络攻击真正成势之前拿出应对手段。

最后的结论（Conclusion）再次收束：网络攻击是一组异质的方法集合，目的是获取数据或取得对计算机系统的访问权限。赛博恐怖分子迟早会将 AI 算法纳入其武器库，从而对医疗系统发动精密且难以识别的攻击。医疗机构可以通过技术、业务和临床领导者之间强有力的协作，以及对这一问题采取主动的领导方式，来预防此类攻击。

本章个人批注

这一章很薄，是典型的"补遗式"短章——它的存在意义更多是把"AI 风险"这一主题从上一章的论文评审语境中延伸出去，进入到网络安全这一独立的子领域，而不是铺陈一整套体系。所以节奏很快，论点密度不高，这一点反过来恰恰呼应了它自身开头那句"完整的清单超出了本章范围"。

章内最有信息量的部分其实是"五条通用原则"和"被动领导力不够"这两段。前者没有太多新意但都是经验之谈（协同、最弱一环、内部人、备份、设备锁定），把它们列出来反而有实用价值——一个时间紧迫的临床或 IT 负责人读完这一节就能照此自查。后者则有更深的判断：当行业普遍从"主动"退回"摸石头过河"时，把"被动"放到医疗网络安全这一具体场景里，作者立刻指出"关停 IT"和"关停患者照护"的本质区别，让问题从 IT 部门内部议题上升到医院管理层面。

至于上一章末尾承接过来的 AI 介导攻击（深度伪造、GAN 注入/去除、医学影像对抗样本等），本章其实没有继续展开技术机制，而是直接跳到机构层面的应对。这一安排其实是合理的——本章是面向机构管理层而非研究者的，但反过来，作为整本论文集的读者，会感觉到"AI 与网络安全"这一主题被分散到了第 53 章（评审视角）和第 54 章（机构视角）两个相邻但角度完全不同的章节里。如果把它们合在一起读，会比单看一章更完整。

与上下章的衔接（一段话）

第 54 章处于本书"AI 落地"主题群的最后两章之一，紧接第 53 章"如何撰写和评审一篇 AI 论文"，后面就是第 55 章"AI 如何重塑心胸影像学的全球展望"。把第 53 章定位为"研究者本人的方法学指南"，第 54 章则把视角转向"机构管理层"，承接了第 53 章末尾对 AI 风险的警示（第 53 章末尾讨论过 AI 在论文层面的可解释性与外部验证威胁），但把焦点从"论文与模型"换成"医院与系统"。第 55 章随后从全球视角收束整个论文集，因此第 54 章在结构上承担了"从个体研究者/机构层面风险，过渡到全球格局展望"的衔接作用。