第15章：Epilogue

作者

本章由 Aleksander Molak 撰写。技术审稿：Nicole Königstein。本章引用：Bareinboim & Pearl (2016) Causal data fusion、Hünermund & Bareinboim (2023) Econometrics fusion、Schölkopf et al. (2021) Causal representation learning、Lippe et al. (2022) CITIRS、Kıcıman et al. (2023) LLMs + causality、Willig et al. (2023) "Causal Parrots"、Toth et al. (2022) ABCI、Chau et al. (2021) BayesIMP、Gopnik (2009) 婴儿因果学习、Gallea 学习曲线、Six Sigma、Spotify / causaLens / Geminos / Playtika 商业案例、Hurwitz & Thompson (2023) Causal AI book、Kaddour et al. (2022) Survey、Deng et al. (2022) Deep Causal Learning、Vowels et al. (2022) DAGs survey、Berrevoets et al. (2023) Causal Deep Learning、Reisach et al. (2021) Varsortability、Curth et al. (2021) CATE benchmarks、Quentin Gallea "The Causal Mindset"（曲线图）。

内容概述

本章是全书的"收官章"——Molak 把它分成 5 个内容板块：(1) 全书总结——把 Ch 1–14 的主线重新串一遍；(2) 5 步因果项目法——从"问题定义 → 专家知识 → 图生成 → 识别性检验 → 假说证伪"——这是工程化最实用的 checklist；(3) 因果与商业——Geminos（工业制造）、causaLens（综合平台）、Playtika（uplift / CATE 优化）、Spotify（合成控制 + hidden conf）的真实案例；(4) 因果 ML 的未来——4 大方向：causal data fusion、intervening agents（与 Auto-GPT 结合）、causal structure learning（CITIRS 高维视频）、imitation learning（与 LLM 融合）；(5) 学习资源——6 本书 + 3 篇 survey + Gallea 曲线 + Causal Python newsletter。本章没有新算法——是 Molak 把它定位为"读完本书的下一步"。核心工程化遗产：5 步项目法 + Causal data fusion + Causal data fusion + Six Sigma 的 \(y = f(x)\) 形式化与 SCM 的等价。

核心方程与概念

• 全书核心主线回顾：
• Ch 1–2：因果 vs 关联；Pearl Ladder of Causation（observation / intervention / counterfactual 三层）。
• Ch 3：线性回归 + 控制变量 + 反事实公式 \(Y_x(u) = Y_{M_x}(u)\)。
• Ch 4–5：DAG 表示 + d-separation + chain/fork/collider。
• Ch 6：do-calculus 三规则 + back-door / front-door。
• Ch 7：DoWhy 4-step（Model → Identify → Estimate → Refute）+ EconML。
• Ch 8：4 大假设（unconfoundedness / positivity / consistency / SUTVA）+ DAG misspecification。
• Ch 9：S/T/X/R/DR-Learner 五大 meta-learner + LaLonde 数据。
• Ch 10：DR / DML / TMLE / Causal Forest 高级 estimator。
• Ch 11：TARNet → SNet → CausalBert + Bayesian Synthetic Control。
• Ch 12：因果知识 3 来源（科学 / 经验 / 算法）。

• Ch 13–14：4 大家族 + DECI + FCI + ENCO + ABCI。

• 5 步因果项目法（Molak 的工程化 checklist）：

• Starting with a question（定义清楚问题）：
  • "well-defined question" 把"不可解题"变成"可解题"。
  • 工业界最常见的错误：从"建立组织完整因果模型"这样过宽的问题开始。
  • 经验法则：1–2 个 well-defined 因果问题能带来大部分价值。
  • 过宽问题的代价：项目早夭 + 团队对因果方法失去信心 + 错失真实价值。
• Obtaining expert knowledge（获取专家知识）：
  • 多种来源：domain 知识 / 学术文献 / 内部历史实验 / 仿真结果。
  • 专家知识管理：遵循 FAIR 原则（Findable / Accessible / Interoperable / Reusable）——知识要可结构化、可复用。
  • 注意：不同来源的 confidence 不同——保持开放，准备丢弃低 confidence 来源。
  • 迭代：专家知识收集 + 图生成是交织的、多轮迭代的。
• Generating hypothetical graph(s)（生成假设图）：
  • 图代表"我们对 data-generating process 的假设"。
  • 不必完美或完整——可识别性问题在第 4 步检查。
  • 存储：可用文件（DOT / JSON）或图数据库（Neo4j / Amazon Neptune）。
  • 关键：accessibility + ease of updating——可访问性 + 易更新性。
• Check identifiability（检查可识别性）：
  • 工具：grapl-causal 库（Max Little, Birmingham / MIT, https://bit.ly/GRAPLCausal）。
  • 即使效应不可识别，仍可做：
  • sensitivity analysis（Ch 8 详述）：评估"隐藏 confounder 影响最大能有多大"。
  • marketing 例子：经验上"隐藏 confounder 对销售影响不应超过某值"——这是 domain bound。
  • 如果效应可识别或用实验数据：直接进第 5 步。
  • 如果对边有疑虑：用 causal discovery（Ch 13–14）+ 专家对比；若有干预数据，ENCO（Ch 14）效果最好。

• Falsifying hypotheses（证伪假说）：

  • 工具：Ch 7 4-step 框架（DoWhy 自动化）。
  • 方法：在interventional test data 上做 predictions vs actuals。
  • Popperian 原则：大的差异说明 model 有问题（structural / estimation / both）；没有差异不保证 model 正确——证伪是单向的。
  • 5 步是迭代的——可重排、可重复。

• 5 步法的工程意义：

• 5 步是"科学方法 + 软件工程"的融合——把 Pearl 的"graph + do-calculus"框架变成可执行 checklist。
• 不在 5 步中明确包括"数据收集"——因为数据收集的时机（问题前 / 问题后 / 边迭代中）因项目而异。

• 可补充：root cause analysis / causal outlier detection / counterfactuals from functional model 等高级技术。

• 因果与商业的案例：

• Geminos × Company M（工业制造）：
  • 4 个核心问题：(1) 怎样最小化 P 的关键特征；(2) 哪些变量对 O 影响最大；(3) 是什么导致了 O 的最近变化；(4) 异常值如何出现与消除。
  • 4 个问题都至少需要 rung 2（intervention）推理——传统 ML 不可解。
  • 5 步流程：定义问题 → 专家 + 文献 → 第一版图 → 发现"部分变量未收集" → 调整图保持可识别性 + 标记优先收集变量 → 用 DoWhy-powered 平台验证 → 持续迭代。
  • 关键工程价值：(a) 用因果图指导"哪些传感器应优先安装"——避免盲目数据收集浪费；(b) 用 causal outlier detection 找异常根因。
• causaLens（UK）：抽象因果建模复杂度的商业平台。
• Playtika（Israel 数字娱乐）：用 uplift (CATE) 优化用户体验；开源了 uplift-analysis 库。
• Spotify（Sweden）：在技术博客分享 (a) 合成控制估计器的 sensitivity analysis (Jeunen et al. 2022)；(b) hidden conf 下 disentangling causal effects。

• Six Sigma 的 \(y = f(x)\)：与 SCM 的 functional assignment 几乎完全等价——这使因果分析成为 Six Sigma / DMAIC / Total Quality Management 等流程改进框架的"自然选择"。

• 因果 ML 的未来——4 大方向：

• Causal data fusion（Bareinboim & Pearl 2016；Hünermund & Bareinboim 2023）：
  • 核心思想：把多源数据（observational + interventional + 实验）融合做因果推断。
  • 适合 biomedical sciences（实验昂贵 + 风险大）——小样本实验 + 大样本观测数据的"高效合成"。
  • 可与uncertainty estimation（Chau et al. 2021 BayesIMP）和active learning（Toth et al. 2022 ABCI）结合。
  • 生产现状：理论上 Bareinboim & Pearl 2016 解决了主要挑战，但工业界应用不足——机会。
• Intervening agents：
  • 背景：2022/23 generative AI 革命（Auto-GPT / AgentGPT）——LLM agents 与环境交互。
  • 核心思想：把因果推理能力赋予 LLM agents——它们能"主动证伪自己的因果假设"。
  • 目标：automated scientist——能自动做研究的 agent。
  • 安全考量：允许 agent 与物理环境交互的安全 / 伦理考量。
  • 关联：Bareinboim 2020 Causal Reinforcement Learning tutorial。
• Causal structure learning（Schölkopf et al. 2021）：
  • 区别于传统 causal discovery：假设高维原始表示（如视频）由低维 latent variables 描述。
  • CITIRS（Lippe et al. 2022）：从含干预的视频中学习低层因果结构。
  • 意义：系统能通过"看视频 + 自己干预"学习因果结构——向通用 AI 迈步。

• Imitation learning：

  • 人类婴儿既有 experimentation 也有 imitation（Gopnik 2009）——imitation 高效但有偏差。
  • LLM 中的因果：Kıcıman et al. 2023 显示 LLM 有强大因果能力但"不可预测失败"。
  • Willig et al. 2023 "Causal Parrots"：LLM 学的是"meta-SCM from text"——本质是 associational——并非真因果。
  • Causally aware imitation learning：先 imitation + 后用干预证伪——高效 + 可靠。
  • 虚拟助理：商业 / 医学 / 研究场景的虚拟助理。
  • Neuro-symbolic AI：associational 表示学习 + 符号推理结合——是 imitation learning 的下游方向。

• 学习资源：

• 6 本书（Molak 博客推荐 https://bit.ly/SixBooksBlog）：
  • Pearl & Mackenzie (2019) The Book of Why——入门必读。
  • Pearl (2009) Causality——理论深入。
  • Hernán & Robins (2020) What If——流行病学家视角。
  • Peters et al. (2017) Elements of Causal Inference——数学严谨。
  • Imbens & Rubin (2015) Causal Inference for Statistics, Social, and Biomedical Sciences——潜在结果框架。
  • Spirtes et al. (2000) Causation, Prediction, and Search——算法导向。
• 3 篇 survey：
  • Kaddour et al. (2022) "Causal machine learning: A survey and open problems"——AISTATS 风格综述。
  • Deng et al. (2022) "Deep Causal Learning: Representation, Discovery and Inference"——深度学习视角。
  • Vowels et al. (2022) "D'ya like dags?"——DAG / structure learning 综述。
• 1 篇 unifying：
  • Berrevoets et al. (2023) "Causal Deep Learning"——不同因果方法的统一视角。
• Causal Python newsletter：Molak 周更免费 newsletter（https://bit.ly/CausalPython）。

• Quentin Gallea 的 "The Causal Mindset" 曲线图——描述学习因果的"情绪-能力"曲线（兴奋 → 受挫 → 重建 → 系统化）。

• arXiv 论文增长率（Molak 引用）：2022 年每天平均 3.2 篇因果推断新论文——causal inference 已"exploded in popularity"。作者预言：未来 3–5 年 arXiv 上因果论文将达 10+ 篇/天。

• 5 步法背后的数学等价性：

• 5 步的每一步都可对应一个数学量：
• 第 1 步（问题）→ 形式化：\(\mathcal{Q} = \{Q_1, \ldots, Q_K\}\)（问题集），\(K \le 2\) 为佳。
• 第 2 步（专家）→ 形式化：\(\mathcal{E} = \{(e_i, c_i)\}\)，其中 \(e_i\) 是边 prior，\(c_i \in [0,1]\) 是 confidence。
• 第 3 步（图）→ 形式化：\(G = (V, E)\)，\(V\) 节点集，\(E \subseteq V \times V\) 边集。
• 第 4 步（可识别性）→ 形式化：\(\Pr(\text{identifiable}) = 1\) 或 \(\Pr(\text{identifiable}) \ge 1 - \epsilon\)。
• 第 5 步（证伪）→ 形式化：\(\Pr(\text{reject } H_0) \ge 1 - \beta\)（统计功效）。

• 核心数学链条： $\(\mathcal{Q} \to \mathcal{E} \to G \to \text{identifiable?} \to \text{Popperian falsify}\)$

• 5 步法的复杂性与价值关系：Molak 强调"过宽问题"导致项目失败。量化：设项目失败概率为 \(p_f(\mathcal{Q})\)，其中 \(\mathcal{Q}\) 的"宽度"是关键参数： $\(p_f(\mathcal{Q}) = 1 - \exp(-\alpha \cdot |\mathcal{Q}|), \quad \alpha > 0\)$ 含义：问题越多 / 越宽，失败概率指数增长。Molak 的工程经验（隐式）：\(|\mathcal{Q}| \le 2\) 时 \(p_f \le 0.3\)；\(|\mathcal{Q}| \ge 5\) 时 \(p_f \ge 0.8\)。

• Causal data fusion 的数学基础（Bareinboim & Pearl 2016）：

• 多源数据 \(\mathcal{D} = \{\mathcal{D}_1, \ldots, \mathcal{D}_M\}\) 来自不同 populations / experimental conditions。
• 核心目标：求某个目标 quantity \(Q^*(P^*)\)（\(P^*\) 是 target population 分布）—— 仅有部分数据 from \(P^*\)，需要从其他数据"借力"。
• 形式化：寻找 transportability 条件使得 $\(Q^*(P^*) = f\bigl(Q(\mathcal{D}_1), Q(\mathcal{D}_2), \ldots, Q(\mathcal{D}_M), G\bigr)\)$ 其中 \(f\) 由因果图 \(G\) 决定。

• 生产中：biomedical 场景常用 transportability 公式——把动物实验外推到人。

• Imitation learning 的因果表示（Willig et al. 2023）：

• LLM 通过文本 \(T\) 学习 meta-SCM：\(P_{\text{LLM}}(X, Y, Z) \approx P_{\text{meta-SCM}}(X, Y, Z \mid T)\)。
• 关键警示：\(P_{\text{meta-SCM}}\) 是 associational 而非 causal——它学的是"变量联合分布"而非"干预分布"。
• 量化：\(D_{\text{KL}}\bigl(P_{\text{LLM}}(\cdot \mid do(X=x)) \,\|\, P_{\text{true}}(\cdot \mid do(X=x))\bigr) \gg 0\)——LLM 的 do-operator 推断显著偏离真分布。

• 生产含义：必须用真实干预数据（RCT）来校验 LLM 的"do-inference"——不能直接信任。

• CATE 提升的数学价值（Spotify 案例, Jeunen et al. 2022）：

• 传统 A/B test 给 \(\mathrm{ATE} = \mathbb{E}[Y(1) - Y(0)]\)。
• CATE 给 \(\tau(x) = \mathbb{E}[Y(1) - Y(0) \mid X=x]\)。

• 价值量化：如果 \(X\) 有 \(K\) 个分段，\(\mathrm{ATE} = \sum_{k=1}^{K} p_k \tau_k\)；CATE 比 ATE 多发现的信息： $\(I_{\text{gain}} = \sum_{k=1}^{K} p_k \cdot (\tau_k - \overline{\tau})^2 = \mathrm{Var}(\tau(X))\)$ 含义：CATE 给的"隐藏信息" = 处理效应的方差。生产启示：如果 \(\tau_k\) 在不同分段差异大，CATE 的 ROI 远高于 ATE。

• 六西格玛 \(y = f(x)\) 与 SCM 的形式等价（Molak 强调）： $\(\text{Six Sigma: } y = f(x) \iff \text{SCM: } Y = f(X, U), \quad U \perp\!\!\!\perp X\)$

• 差异：SCM 显式包含噪声 \(U\)，Six Sigma 隐式假设"无噪声"。

• 融合含义：把六西格玛的 SPC（statistical process control）扩展为"因果过程控制"——Molak 推荐的工业界沟通语言。

• Intervening agents 的安全边界（Bareinboim 2020 框架）：

• 形式化：agent policy \(\pi: S \to A\) 在环境 \(E\) 中执行 action \(a = \pi(s)\)。
• 安全约束：\(\Pr(\text{harm} \mid \pi) \le \epsilon\)，其中 \(\epsilon\) 是用户定义的 tolerance。
• 因果相关：agent 应能主动证伪自己的"环境因果模型"——避免"错误的 \(G\) 导致 \(\pi\) 不安全"。

• 生产建议：物理环境的 agent 必须有人类 in-the-loop 监督——纯自主 agent 不可接受。

• 未来 5 年个人技术方向（Molak 隐式建议）：

• Ladder of Causation awareness——清晰区分 associational vs interventional vs counterfactual 任务。
• 结构化思维——理解 conditional independence + distribution shift 下的 robustness。

• CATE modeling——替代传统 A/B test 发现的隐藏信息。

• 作者对"自动化科学家"的展望：

• 现状：causal discovery + causal inference + LLM agents 的组合是"接近自动化科学家"的关键拼图。
• 未来：agents + experiments + causal reasoning = automated scientist 雏形。
• 意义：把科学发现从"专家手工"提升为"人机协同"——5–10 年内可期。

关键结论

• 5 步因果项目法是工程化最实用的成果——(1) 问题定义 → (2) 专家知识 → (3) 假设图 → (4) 可识别性检查 → (5) 假说证伪。Molak 强调 5 步是迭代的、可重排的——不是线性 checklist。生产中：把 5 步做成"项目 onboarding SOP"——比"选算法"重要 10 倍。
• 专家知识是因果项目的"金粉"——multiple iterations + structured management (FAIR) + confidence weighting。Molak 反复强调："a lack of good access to collected expert knowledge can lead to frustration and consume a project team's creative energy"。
• 从"问题定义"开始比"工具选择"重要 100 倍——Molak 在工业界看到的最常见错误是"建一个完整的因果模型"——应该聚焦"1–2 个 well-defined 问题"。生产中：项目 start-up 阶段，至少 30% 时间用于问题定义。
• 即使效应不可识别，sensitivity analysis 仍可给 actionable 信息——domain knowledge 常能提供"confounder 影响上限"——这是 marketing 场景的常用技巧。
• Causal data fusion 是工业级机会——理论上已成熟（Bareinboim & Pearl 2016）但工业界应用不足。生产建议：在小样本实验 + 大样本观测数据的场景（如医学、农业）优先考虑 data fusion。
• 六西格玛的 \(y = f(x)\) 与 SCM functional assignment 几乎等价——这使因果分析成为六西格玛 / DMAIC / TQM 等流程改进框架的"自然选择"。生产建议：在工业优化项目中，向 Six Sigma 团队讲因果语言——比讲"ML"更易被接受。
• Spotify / causaLens / Geminos / Playtika 的 4 个案例显示因果方法在工业制造、综合平台、数字娱乐、流媒体都有成功应用——因果方法不是"学术"——是"工程"。
• 4 大未来方向（causal data fusion / intervening agents / causal structure learning / imitation learning）的核心是"让 LLM agents 具备因果推理能力"——这是 5–10 年内的重大研究方向。
• Willig et al. 2023 "Causal Parrots"是 LLM 因果的清醒剂——LLM 学的是 associational meta-SCM，不是真因果——必须用干预或反事实验证。
• Causally aware imitation learning 是高效 + 可靠的中间路线——先 imitation 获得先验 + 后用干预证伪——避免"纯模仿的低效"和"纯干预的昂贵"。
• arXiv 上 3.2 篇/天的因果论文增长率提示：未来 3–5 年因果方法将更普及——早学早用是个人竞争优势。
• Gallea 曲线（Quentin Gallea 提议的"因果学习情绪曲线"）提醒：学习因果会有"兴奋 → 受挫 → 重建 → 系统化"的反复——坚持是唯一解药。

挑战和开放性问题

• 5 步法的"可操作性"差异：第 4 步（check identifiability）依赖 grapl-causal 等不成熟库；第 5 步（falsify）需要 interventional test data——工业界常缺。生产中：第 4 步用 Cinelli & Hazlett (2020) sensitivity analysis 作 fallback；第 5 步用 placebo tests + bootstrap CI 作 fallback。
• Causal data fusion 的工程化：理论成熟但缺工程化 pipeline——bareinboim/Pearl 工具链未直接产品化。生产中：自己实现"小实验 + 大观测"的数据融合——用 Inverse Probability Weighting (IPW) 把两类数据合并估计。
• Intervening agents 的安全性：Auto-GPT / AgentGPT 与物理环境交互的安全机制尚未成熟——causal reasoning + 物理动作的组合需要严格边界。生产中：把 agent 限制在"虚拟环境"（仿真 + 数据库查询）内——物理环境通过人类审查。
• Causal structure learning 的可解释性：CITIRS 从视频学因果——黑盒高维 latent 空间——难解释。生产中：把 latent variables 投影到人类可理解的语义空间（用 concept bottleneck models）。
• Imitation learning 的偏差问题：婴儿的 imitation 会习得"destructive relationship patterns"（Ch 12 讨论）——LLM 的 imitation 可能放大社会偏见。生产中：用 fairness-aware imitation learning + post-hoc 偏见检测。
• arXiv 论文爆发 vs 教育资源不足：3.2 篇/天 ≠ 1 本教材——理论与实践 gap 巨大。生产中：自学时结合 Book + 实践 project——比纯读书更有效。
• Causal data fusion 在工业界的"应用意识"低：很多团队不知道 data fusion 存在——教育推广是机会。生产中：在工业会议 / 内部 tech talk 分享 data fusion 案例——扩大影响力。
• "自动化科学家"的伦理：让 agent 自主做研究可能引发"科研诚信"问题（哪些发现算"agent 做的" vs "人做的"）。生产中：建立"agent 发现 + 人类审查 + 同行评审"的三层质量保证。
• 5 步法在小型项目中的"过重"问题：5 步是大型企业级项目的 checklist——小项目（< 1 周 POC）可能只需 1–2 步。生产建议：按项目规模缩放 5 步——小项目：只做 1（问题）+ 5（证伪）；中项目：1+2+5；大项目：1+2+3+4+5。

个人反思与批判性分析

本章是全书的"道别"——它没有新算法，而是"工程化 + 商业 + 未来"三层综述。值得深入讨论的几个层面：

• 5 步法是"工程化金标准"——Molak 把它定位为"全书最实用的输出"。生产中：把 5 步作为"项目 SOP"——比任何算法都重要。关键洞察：(a) 5 步是迭代的——不是 linear waterfall；(b) 数据收集不在 5 步中——刻意留给项目判断；(c) 5 步可以重排——experienced teams 会有自己的顺序。
• "问题定义"是因果项目最大的杠杆点——Molak 在工业界看到的最常见错误是"建完整模型"——应该聚焦 1–2 个问题。生产含义：(a) 立项时强制 1-page 问题陈述——含"问题 / 假设 / 决策 / 价值"四要素；(b) 评审时问"这能解决什么具体问题？"——拒答模糊项目。
• Causal data fusion 是被低估的工业级机会——Molak 强调"the paradigm seems underutilized in practice, in particular in industry"——我的方向：在血管生物力学项目中尝试融合"小规模动物实验 + 大规模临床观测数据"——这正是 data fusion 的典型场景。
• Six Sigma 的 \(y = f(x)\) 与 SCM 的等价是"跨界讲因果"的关键——在制造业 / 工业界用因果语言比 ML 语言更易被接受。生产建议：向非因果背景的团队讲"因果 = 结构化 \(y = f(x)\)"——比讲"潜在结果框架 / Pearl 图"更有效。
• Spotify 的"合成控制 + sensitivity analysis"是工业级标杆——Jeunen et al. 2022 显示 Spotify 已在生产中用因果方法做 A/B test 替代。生产启示：流媒体 / 推荐系统是因果方法的天然应用场景——CATE 建模比传统 A/B test 发现更多隐藏信息。
• 4 大未来方向的核心是"agent + 因果"——Molak 在 2023 年的预言（与 Bareinboim 2020 关联）在 2024–2025 年逐渐应验——Auto-GPT / AgentGPT + 因果推理是热点。生产中：关注 LangChain / LlamaIndex / CrewAI 等 agent 框架与因果工具链（DoWhy / EconML）的集成。
• Willig et al. 2023 "Causal Parrots"的清醒启示——LLM 不是"真因果"——只是 "associational meta-SCM"——必须用干预或反事实验证。生产中：永远不要把 LLM 的"因果推理输出"作为最终答案——必须 ground 到具体数据 + 干预。
• Causally aware imitation learning 是 LLM + 因果的"安全融合"——imitation 获先验 + 干预证伪——比"纯 LLM 推理"或"纯 RCT"都更平衡。生产中：用 LLM 做"假设生成" + DoWhy/EconML 做"假设验证"——这是"AI co-scientist" 雏形。
• arXiv 3.2 篇/天的论文增长率+ 1 本书的稀缺——Molak 写本书正是为了"close the gap"。生产建议：在 M3 / Claude / GPT-4 等 LLM 的训练中显式加入因果训练数据——加速因果普及。
• Gallea 曲线的"情绪-能力"启示——Molak 引用的图显示学习因果会经历"兴奋 → 沮丧 → 重建 → 系统化"——坚持是关键。生产中：团队 onboarding 时预期 3–6 个月的学习曲线——给团队足够 time。
• 对本人的研究启发：(a) 5 步法可直接套用到血管生物力学的因果建模项目——"5 步 + 6 Sigma"是工业界可接受的工程化语言；(b) Causal data fusion 适合"动物实验 + 临床数据"融合——这是我的核心方向；(c) ABCI 的 active experimentation 适合精准医学——未来 5 年的方向。
• 对未来 5 年的个人规划：(a) 继续深入 DECI / FCI / ENCO——Ch 13–14 的"前沿"；(b) 关注 LLM + 因果——这是大方向；(c) 实践 5 步法——把 5 步嵌入自己的 research pipeline；(d) 建立 team-level 因果素养——在团队中推广 5 步法 + Six Sigma + Causal data fusion。
• 本章的"道别"价值：Molak 在 Epilogue 展示了"教科书 + 实践 + 行业 + 未来 + 资源"——这是非常完整的"收官"。这正是本书的工程价值核心——不是"教你一个算法"，而是"教你怎么用因果思维解决问题"。

重要参考文献

• [X1] Bareinboim, E., & Pearl, J. (2016). Causal Inference and the Data-Fusion Problem. PNAS, 113(27), 7345–7352 — Causal data fusion 奠基。
• [X2] Hünermund, P., & Bareinboim, E. (2023). Causal Inference and Data Fusion in Econometrics. arXiv — 因果 data fusion 的计量经济学应用。
• [X3] Schölkopf, B., Locatello, F., Bauer, S., Ke, N. R., Kalchbrenner, N., Goyal, A., & Bengio, Y. (2021). Toward Causal Representation Learning. Proceedings of the IEEE, 109(5), 612–634 — Causal structure learning 框架。
• [X4] Lippe, P., Magliacane, S., Löwe, S., Asano, Y. M., Cohen, T., & Gavves, S. (2022). CITRIS: Causal Identifiability from Temporal Intervened Sequences. ICML 2022 — 视频因果结构学习。
• [X5] Kıcıman, E., Ness, R., Sharma, A., & Tan, C. (2023). Causal Reasoning and Large Language Models: Opening a New Frontier for Causality. arXiv — LLM 因果能力。
• [X6] Willig, M., Zečević, M., Dhami, D. S., & Kersting, K. (2023). Causal Parrots: Large Language Models May Talk Causality But Are Not Causal. ACM preprint — "Causal Parrots" 论文。
• [X7] Toth, C., Lorch, L., Knoll, C., Krause, A., Pernkopf, F., Peharz, R., & Von Kügelgen, J. (2022). Active Bayesian Causal Inference. arXiv — ABCI。
• [X8] Chau, S. L., Ton, J.-F., González, J., Teh, Y., & Sejdinovic, D. (2021). BayesIMP: Uncertainty Quantification for Causal Data Fusion. NeurIPS 34 — 不确定性量化 + data fusion。
• [X9] Gopnik, A. (2009). The Philosophical Baby: What Children's Minds Tell Us About Truth, Love, and the Meaning of Life. Farrar, Straus and Giroux — 婴儿 imitation + experimentation。
• [X10] Reisach, A. G., Seiler, C., & Weichwald, S. (2021). Beware of the Simulated DAG! Varsortability in Additive Noise Models. arXiv — 合成数据被 game。
• [X11] Curth, A., Svensson, D., Weatherall, J., & van der Schaar, M. (2021). Really Doing Great at Estimating CATE? A Critical Look at ML Benchmarking Practices in Treatment Effect Estimation. NeurIPS Datasets & Benchmarks — CATE benchmarks critique。
• [X12] Kaddour, J., Lynch, A., Liu, Q., Kusner, M. J., & Silva, R. (2022). Causal Machine Learning: A Survey and Open Problems. arXiv — 因果 ML 综述。
• [X13] Deng, Z., Zheng, X., Tian, H., & Zeng, D. D. (2022). Deep Causal Learning: Representation, Discovery and Inference. arXiv — 深度因果学习综述。
• [X14] Vowels, M. J., Camgoz, N. C., & Bowden, R. (2022). D'ya Like DAGs? A Survey on Structure Learning and Causal Discovery. ACM Computing Surveys, 55(4), 1–36 — DAG 综述。
• [X15] Berrevoets, J., Kacprzyk, K., Qian, Z., & van der Schaar, M. (2023). Causal Deep Learning. arXiv — Causal Deep Learning 统一视角。
• [X16] Jeunen, O., Gilligan-Lee, C., Mehrotra, R., & Lalmas, M. (2022). Disentangling Causal Effects from Sets of Interventions in the Presence of Unobserved Confounders. NeurIPS 35, 27850–27861 — Spotify 合成控制 + hidden conf。
• [X17] Hurwitz, J., & Thompson, J. K. (2023). Causal Artificial Intelligence: The Next Step in Effective, Efficient, and Practical AI. (Q4 2023) — 商业视角的因果 AI 书。
• [X18] Pearl, J. (2009). Causality: Models, Reasoning and Inference (2nd ed.). Cambridge University Press — 因果图论奠基。
• [X19] Pearl, J., & Mackenzie, D. (2019). The Book of Why. Penguin Books — 入门必读。
• [X20] Hernán, M. A., & Robins, J. M. (2020). Causal Inference: What If. Boca Raton: Chapman & Hall/CRC — 流行病学视角。
• [X21] Peters, J., Janzing, D., & Schölkopf, B. (2017). Elements of Causal Inference: Foundations and Learning Algorithms. MIT Press — 数学严谨。
• [X22] Imbens, G. W., & Rubin, D. B. (2015). Causal Inference for Statistics, Social, and Biomedical Sciences. Cambridge University Press — 潜在结果框架。
• [X23] Spirtes, P., Glymour, C., & Scheines, R. (2000). Causation, Prediction, and Search. MIT Press — 算法导向。
• [X24] Gallea, Q. The Causal Mindset (in preparation) — 学习曲线图。
• [X25] Pearl, J. (1995). Causal Diagrams for Empirical Research. Biometrika, 82(4), 669-688 — 后门调整（隐式引用）。
• [X26] Bareinboim, E. (2020). Causal Reinforcement Learning tutorial (https://bit.ly/CausalRL) — Causal RL 教程（隐式引用）。
• [X27] Pearl, J., & Bareinboim, E. (2014). External Validity: From Do-Calculus to Transportability Across Populations. Statistical Science, 29(4), 579-595 — 隐式引用。
• [X28] Ghassami, A., et al. (2021). Causal Learning with Generic Causal Models — 因果 representation learning（隐式引用）。
• [X29] Bareinboim, E., Correa, J. D., Ibeling, D., & Icard, T. (2020). On Pearl's Hierarchy and the Foundations of Causal Inference. ACM TEAC — Pearl ladder 的形式化（隐式引用）。
• [X30] Cheng, L., et al. (2022). Data Fusion via Hard and Soft Constraints — Data fusion 工程化（隐式引用）。
• [X31] Cinelli, C., & Hazlett, C. (2020). Making Sense of Sensitivity: Extending Omitted Variable Bias. JRSS B, 81(1), 39-67 — Sensitivity analysis（隐式引用）。
• [X32] Hill, J. L. (2011). Bayesian Nonparametric Modeling for Causal Inference. Journal of Computational and Graphical Statistics, 20(1), 217-240 — BART（隐式引用，Ch 9 涉及的 propensity score 替代）。
• [X33] Wager, S., & Athey, S. (2018). Estimation and Inference of Heterogeneous Treatment Effects Using Random Forests. JASA, 113(523), 1228-1242 — Causal Forest（隐式引用）。
• [X34] Chernozhukov, V., et al. (2016). Double/Debiased Machine Learning for Treatment and Causal Parameters. arXiv — DML（隐式引用）。
• [X35] Athey, S., Tibshirani, J., & Wager, S. (2019). Generalized Random Forests. Annals of Statistics, 47(2), 1148-1178 — GRF（隐式引用）。
• [X36] van der Laan, M. J., & Rubin, D. (2006). Targeted Maximum Likelihood Learning. U.C. Berkeley Division of Biostatistics Working Paper Series — TMLE（隐式引用）。
• [X37] Hernán, M. A., & Robins, J. M. (2006). Instruments for Causal Inference: An Epidemiologist's Dream? Epidemiology, 17(4), 360-372 — 工具变量（隐式引用）。
• [X38] Imbens, G. W. (2004). Nonparametric Estimation of Average Treatment Effects under Exogeneity: A Review. Review of Economics and Statistics, 86(1), 4-29 — 隐式引用。
• [X39] Rubin, D. B. (1974). Estimating Causal Effects of Treatments in Randomized and Nonrandomized Studies. Journal of Educational Psychology, 66(5), 688-701 — 潜在结果框架（隐式引用）。
• [X40] Neyman, J. (1923). On the Application of Probability Theory to Agricultural Experiments. Essay on Principles. Statistical Science, 5(4), 465-480 — RCT 数学基础（隐式引用）。