第 5 章:社会科学与经济学中的因果性与结构模型(Causality and Structural Models in Social Science and Economics)
5.1 引言(Introduction)
结构方程建模(SEM)自 1950 年代以来主导了经济学与社会科学中的因果分析,但当前对 SEM 的通行解读,与其创立者的原意、以及本书所阐述的解读,已显著不同。结构方程不再被视作实质性因果信息的载体,而往往被视作概率信息的载体:经济学家把它当作密度函数的便捷表示,社会科学家把它当作协方差矩阵的摘要。结果是许多 SEM 研究者难以阐明 SEM 的因果内容,SEM 最具特色的能力如今被严重忽视且未被充分利用。本章的雄心目标是恢复 SEM 的因果解读:展示图形模型与干预逻辑的发展如何缓解当前困难、复兴结构方程作为因果建模的主要语言。为此将第 3、4 章的几个结果改写为参数形式(SEM 研究者最熟悉的形式),演示模型检验与参数识别的实践与概念问题如何通过图形方法被照亮;然后回到非参数分析,从中演化出一种操作语义,对结构方程的真实含义给出融贯解读(5.4 节)。具体地,本章将回答以下基本问题:结构方程对世界作何主张?这些主张中哪些是可检验的?哪些条件下我们能通过回归分析估计结构参数?5.1 节回顾 SEM 的历史并对当前因果解读的侵蚀给出解释;5.2 节阐明结构模型的可检验蕴含;5.3 节处理在数据收集之前确定结构参数可识别性的问题;5.4 节讨论 SEM 的逻辑基础,并解决一批过去潜伏的难题,包括对结构方程、结构参数、误差项、总效应与直接效应、以及计量经济学中外生性的操作定义。
5.1.1 寻找语言的因果性(Causality in Search of a Language)
"原因"一词不在标准概率论的词汇表中。这是一个令人尴尬却无法回避的事实:作为众多经验科学的官方数学语言,概率论不允许我们表达像"泥不致雨"这样的句子;我们只能说这两个事件相互关联或相依——意思是若发现其一则可预期遇见另一。为复杂现象寻求因果解释、或为政策决定寻求原理的科学家,必须用因果词汇补足概率语言:在这种语言中,"泥不致雨"的因果关系符号表示与"泥与雨独立"的符号表示应当不同。然而奇怪的是,这样的区分尚未被纳入标准的科学分析中。已经提出了两种因果语言:路径分析或结构方程建模(SEM)(Wright 1921;Haavelmo 1943)以及 Neyman–Rubin 潜在结果模型(Neyman 1923;Rubin 1974)。前者被经济学家与社会科学家所采纳(Goldberger 1972;Duncan 1975),后者由一组统计学家拥护(Rubin 1974;Holland 1988;Rosenbaum 2002)。这两种语言数学上等价(见第 7 章 7.4.4 节),但都没有成为因果建模的标准——结构方程框架因为被严重误用且形式化不足(Freedman 1987),潜在结果框架因为仅被部分形式化且(更关键地)依赖于一组深奥看似形而上学的、基于随机实验与反事实变量的词汇,与日常对非实验情境下因果过程的理解无明显关联(见 3.6.3 节)。当前潜在结果模型被理解者寥寥,被使用者更寥寥。结构方程模型使用者众,但其因果解读通常被质疑或回避,即使由其主要实践者亦如此。第 3、4 章中已描述结构方程模型(在非参数形式下)如何能为干预理论提供语义基础;1.4 与 3.6.3 节概述了这些模型如何为反事实理论提供语义基础。颇具讽刺意味的是,这些特色特性在现代 SEM 文献中几乎未被识别、也几乎未被利用。当代主流哲学将 SEM 仅当作编码密度函数(经济学中)或协方差信息(社会科学中)的便捷方式。我们正在目睹科学史上最奇异的一个循环之一:因果性在寻找语言,同时该语言的使用者在寻找其含义。本章的目的是给出 SEM 的因果解读并勾画其正确使用,从而恢复 SEM 作为社会与行为科学中因果分析的主要形式语言的信心。但在此之前,先简要分析当前 SEM 研究中、就其历史发展而言的危机。
5.1.2 SEM:其含义如何变得模糊(SEM: How Its Meaning Became Obscured)
结构方程建模由遗传学家(Wright 1921)与经济学家(Haavelmo 1943;Koopmans 1950, 1953)发展而来,目的是让定性的因果–效应信息与统计数据结合,对感兴趣变量之间的因果–效应关系作出定量评估。因此对常被问到的问题"在什么条件下结构系数能获得因果解读",Wright 与 Haavelmo 会回答:"始终!"在 SEM 奠基者看来,使方程 y ← βx + e 之所以是结构的,恰恰是对 X 与 Y 之间因果连接强度为 β 的主张,而关于 x 与 e 之间统计关系的一切都不能改变 β 的这一解读。令人惊讶的是,SEM 这一基本理解几乎已从文献中消失,使现代计量经济学家与社会科学家陷入对 β 的困惑之中。今天多数 SEM 研究者认为结构方程要被承认为因果主张的载体,需要额外的要素。在社会科学家中,例如 James、Mulaik、Brett(1982, p. 45)声明方程 y ← βx + e 获得因果地位需要一个称为自包含(self-containment)的条件,即 cov(x, e) = 0 的意思。按 James 等人的说法,若自包含不成立,"方程及其函数关系均不代表因果关系"。Bollen(1989, p. 44)重申自包含的必要性(采用隔离或伪隔离的名义)——与下述理解相反:结构方程获得其因果解读早于、并独立于其组成成分之间的任何统计关系。自 1980 年代早期以来,已极少见到对原始 SEM 逻辑的明确赞同:β 定义 E(Y) 对 X 的实验操纵(或反事实变动)的灵敏度;e 用 β 定义,而非反之;正交性条件 cov(x, e) = 0 既非 β 因果解读的必要条件也非充分条件(见 3.6.2 与 5.4.1 节)。因此无怪乎许多 SEM 教科书已彻底放弃因果解读:"我们常在研究文献中看到术语'原因'、'结果'与'因果建模'。我们不赞同此做法,故不在本书中使用这些术语"(Schumaker and Lomax 1996, p. 90)。计量经济学家对结构参数的因果解读同样陷入困境。Leamer(1985, p. 258)观察到:"令我惊讶的结论是,经济学家在使用'外生'、'结构'与'因果'等词时其实很清楚自己在说什么,但没有教科书作者写出令人满意的定义。"自 Leamer 做出此观察以来变化甚少。计量经济学教科书照例将大部分分析用于估计结构参数,却极少讨论这些参数在政策评估中的角色。少数处理政策分析的书籍(如 Goldberger 1991;Intriligator et al. 1996, p. 28)假定政策变量按其本性满足正交性条件,从而使结构信息变得多余。Hendry(1995, p. 62)例如将 β 的解读与正交性条件显式地绑定起来,声明如下:β 的地位可能直到估计设定模型所需条件被规定时才明确。例如在模型 y_t = β z_t + u_t(u_t ~ IN[0, σ²_u])中,除非 z_t 与 u_t 之间的关系被规定,否则 β 的含义是不确定的,因为根据所提供信息 E[z_t u_t] 既可能为零也可能非零。LeRoy(1995, p. 211)更进一步:"经济学入门教学中的常识是内生变量一般不被因果排序,这蕴含对两个内生变量 y_1、y_2 提出'y_1 对 y_2 的效应如何'一般无意义。"按 LeRoy 所言,因果关系不能被赋予任何这样的变量:其原因对效应变量有独立影响——此立场否认了对经济学家与社会科学家致力估计的大多数结构参数的因果解读。著名科学哲学家 Cartwright(1995b, p. 49)通过发起对这一折磨人的问题——"为何可以假设我们能从外生变量不相关的方程中的参数中读出原因以及因果顺序"——的重新攻击来应对这些困难。Cartwright 与 SEM 奠基者一样认识到原因不能仅从统计或函数关系导出,且因果假设是验证任何因果结论的前提。但与 Wright、Haavelmo 不同,她着手全面搜索那些能给回归方程 y ← βx + e 中的参数 β 以正当因果含义的假设,并力图证明其提出的假设确实充分。Cartwright 分析中具有揭示意义的是:她没有考虑 Haavelmo 会给出的答案——即从参数得出因果结论所需的假设由宣称该方程"结构"的科学家传达给我们;这些假设已编码在方程的语法中,可像购物清单一样容易地从相应图中读出;它们既不必另处搜寻,也不要求新的充分性证明。同样,Haavelmo 的答案适用于任何规模与形状的模型,包括外生变量相关的模型。这些例证说明了经济学家与社会科学家中的一种惊人倾向:将结构方程视为携带函数与统计假设、却没有因果内容的代数对象。一名主流社会科学家的下述言论颇具代表性:"若更多研究者放弃思考与使用像'原因'、'结果'这样的术语将会非常有益"(Muthen 1987, p. 180)。这一倾向最鲜明的表达也许出自 Holland(1995, p. 54):"我所谈当然是方程 y ← a + bx + e。它意味着什么?我对此类方程曾确定的唯一含义是它是对给定 x 的 y 条件分布的简写。"SEM 的创立者对结构与模型有完全不同的概念。Wright(1923, p. 240)声明"路径系数理论以因果关系的先验知识为前提",Haavelmo(1943)显式地把每个结构方程解读为关于一个假想受控实验的陈述。同样 Marschak(1950)、Koopmans(1953)、Simon(1953)声明在概率分布背后设立结构的目的是应对政策可能带来的假想变化。人们不禁要问,过去 50 年里 SEM 究竟发生了什么,为何 Wright、Haavelmo、Marschak、Koopmans、Simon 的基本(且仍然有效的)教诲被遗忘。一些经济学家将结构方程理解的衰落归因于 Lucas(1976)的批评——按该批评,预期政策干预的经济行为人会按与 SEM 预测相反的方向行动,而 SEM 常常忽略这种预期。然而由于此批评仅将模型的不变量以及结构建模的负担从行为层面转移到涉及行为人动机与预期的更深层次,它并未免除经济学家在某一论述层次上对结构方程的因果内容加以定义与表达的责任。作者相信 SEM 的因果内容已逐渐从 SEM 实践者的意识中消退,主要由于以下原因:(1) SEM 实践者寻求通过让因果假设保持隐含来为 SEM 赢得尊重,因为统计学家——尊重性的仲裁者——厌恶不可直接检验的假设;(2) 统治 SEM 的代数语言缺乏足以让因果假设(区别于统计假设)显式化的符号设施。通过未给因果关系配备精确的数学符号,奠基者实际上把 SEM 的因果基础交给了遗忘。他们的信徒今天正别处寻找基础性的答案。作者展开后者这一点。SEM 奠基者完全理解,在结构模型中,等号传达的是非对称的"由…决定"关系,因此其行为更像程序语言中的赋值号(:=)而非代数等号。但也许出于数学纯粹性的理由,他们克制不引入代表这种非对称性的符号。据 Epstein(1987),1940 年代 Wright 在 Cowles Commission(SEM 的孕育地)就路径图作了一场研讨,但双方均未看到对方方法的特别价值。原因何在?毕竟,路径图不过是一组非参数结构方程,其中为避免混淆,等号被箭头取代。作者的解释是,早期计量经济学家是极其严谨的数学家,他们认为自己能把数学保持在纯粹的方程–统计形式中,仅在脑中推理结构。事实上,他们惊人地做到了这一点,因为他们是真正杰出的个体,能够在脑中完成。后果在 1980 年代初期浮现,那时他们的信徒开始把等号误作代数等号。结果突然"所谓的扰动项"完全说不通(Richard 1980, p. 3)。我们正生活在这一故事的悲伤结局中。通过未能用数学符号表达自己的洞见,SEM 奠基者造成了当前围绕结构方程解读的种种困难,Holland 那句"它意味着什么?"概括了这一切。
5.1.3 作为数学语言的图形(Graphs as a Mathematical Language)
图形方法的近期发展承诺把因果性带回科学建模与分析的主流。这些发展涉及对图形与概率之间关系、以及图形与因果性之间关系的更深入理解。但关键变化在于图形作为一种数学语言的浮现。这一数学语言不仅是显示代数关系的启发式助记工具(如 Blalock 1962 与 Duncan 1975 所著),图形为那些难以用代数方程与概率演算的标准数学语言表达的概念与关系提供了一套基本的符号系统。而且,图形方法如今为在因果假设与统计数据结合时推导其后果提供了强大的符号运算机制。具体地说明图形语言力量、并为 5.2 与 5.3 节讨论作铺垫的例子是 Simpson 悖论(在 3.3 节讨论、6.1 节进一步分析)。此悖论涉及两个变量(如性别与学校录取)之间的关联在对总体按更细分层(如按院系)后发生的反转。Simpson 反转自 1899 年发现以来一直是大量统计研究的主题。此研究聚焦于避开反转的条件,而未触及反转所提出的实际问题:"分层前与分层后哪个关联更有效?"在线性分析中,问题表现为对回归元选择——例如判定某变量 Z 是否可被加入回归方程而不使结果偏倚。这样的加入可能轻易地反转其他回归元系数的符号,此现象被称为"抑制效应"(Darlington 1990)。尽管经历了一个世纪的分析,回归元选择或协变量调整的问题仍以非正式、逐案方式决定,决策依据是民间经验与直觉,而非硬数学。标准统计学文献对此问题显著沉默。除了注意到不应调整受假定原因(X)影响的协变量,文献未提供关于哪些协变量可被容许调整、以及何种假设为正式作此判定所需的任何指引。这种沉默的原因清楚:Simpson 悖论与协变量选择问题的解(如 3.3.1 与 4.5.3 节所见)依赖于因果假设,而这些假设无法用统计学的标准语言形式表达。相比之下,用图形语言表述协变量选择问题立即给出既自然又形式的一般解。研究者用路径图熟悉的定性术语表达因果知识(或假设),一旦图完成,一个简单的程序即可判定相对于所评估量而言某个提出的调整(或回归)是否恰当。这一程序在定义 3.3.1 中被称为后门准则,它适用于所感兴趣的量为 X 对 Y 的总效应时。若要评估的为直接效应,则适用定理 4.5.3 的图形准则。一个针对线性模型中识别直接效应(即路径系数)的修正准则将在定理 5.3.1 中给出。这一例子不是图形方法带来清晰与理解的孤立实例。事实上,SEM 的概念基础通过图形达到了新的精确层次。是什么使一组方程成为"结构的"、这种方程的作者表达了什么假设、那些假设的可检验蕴含是什么、给定一组结构方程所宣称的政策主张是什么——这些问题通过图形方法得到简单且数学上精确的答案。这些问题即使在现代 SEM 写作者(Heckman and Vytlacil 2007;见 11.5.4 节)中也避而不答,将在以下各节讨论。
5.2 图形与模型检验(Graphs and Model Testing)
1919 年 Wright 发展了他的"路径系数方法",允许研究者从相关系数测量中计算因果–效应系数的量级,前提是路径图正确地代表了数据背后的因果过程。Wright 的方法包括为每对变量 (X_i, X_j) 写一组方程,并将(标准化的)相关系数 r_{ij} 等同于沿连接 X_i 与 X_j 的各路径上路径系数与剩余相关的乘积之和。然后可尝试从这些方程中按观察到的相关解出路径系数。当所得方程给出某路径系数 p_{mn} 的唯一解、且该解独立于(未观察到的)剩余相关时,该系数称为可识别的。若每组相关系数 r_{ij} 都与某种路径系数选择兼容,则模型称为不可检验或不可证伪的(亦称饱和、恰好识别等),因为它能完美拟合任何数据。Wright 的方法部分是图形的部分是代数的,但有向图的理论允许我们以纯图形方式——在数据收集之前——分析可检验性与可识别性问题,并将这些分析从线性扩展到非线性或非参数模型。本节处理线性与非线性模型中的可检验性问题。
5.2.1 结构模型的可检验蕴含(The Testable Implications of Structural Models)
当我们对数据生成过程提出一个模型时,该模型常常对所收集数据的统计施加限制。在观察性研究中,这些限制提供了检验或证伪所假设模型的唯一视角。在许多情况下,这些限制可以以零偏相关的形式表达;更重要的是,这些限制由路径图的结构本身独立于参数数值地蕴含,如 d-分离准则所示。
预备符号:在处理结构模型的可检验蕴含之前,先回顾 1.4 节的某些定义,并将其与 SEM 文献中的标准符号相关联。本章讨论的图形代表形如 x_i = f_i(pa_i, ε_i)(i = 1, …, n)的结构方程组,其中 pa_i(意指 parents)代表被判定为 X_i 即时原因的变量集,ε_i 代表由被省略因素造成的误差。方程 (5.1) 是标准线性方程 x_i = Σ_{k≠i} α_{ik} x_k + ε_i(i = 1, …, n)的非线性、非参数推广,其中 pa_i 对应 (5.2) 右端系数非零的那些变量。形如 (5.1) 的方程组若每一方程代表选取变量 X_i 值的过程(不仅是概率),则称为因果模型。由每条从 pa_i 成员到 X_i 的箭头所构成的图 G 称为因果图。因果图除完整箭头外,对应误差相依的任何一对变量之间应包含一条双向(即双箭头的)弧。重要的是,因果图(以及传统路径图)应与统计文献中种类繁多的图形模型(其构造与解读仅依赖于联合分布的性质;Kiiveri et al. 1984;Edwards 2000;Cowell et al. 1999;Whittaker 1990;Cox and Wermuth 1996;Lauritzen 1996;Andersson et al. 1998)相区别。统计模型中的缺失链代表条件独立性,而因果图中的缺失链代表因果连接的缺失(见注释 3 与 5.4 节),后者可能在分布中蕴含或不蕴含条件独立性。若其图无有向环且 ε_i 相互独立(即不存在双向弧),则该因果模型称为马尔可夫的。若图无环但包含相依误差,则称为半马尔可夫的。若 ε_i 服从多元正态(SEM 文献中的常见假设),则 (5.2) 中 X_i 也将服从多元正态并被相关系数 r_{ij} 完全刻画。多元正态分布的一个有用性质是条件方差 σ²_{X|Z}、条件协方差 σ_{XY|Z} 与条件相关系数 ρ_{XY|Z} 均与 z 值无关。它们分别称为偏方差、偏协方差与偏相关系数,记为 σ²_{X·Z}、σ_{XY·Z}、r_{XY·Z},其中 X、Y 为单变量、Z 为变量集。此外偏相关系数 r_{XY·Z} 为零当且仅当分布中成立 (X ⫫ Y | Z)。偏回归系数由 r_{YX·Z} = r_{YX·Z} σ_{Y·Z}/σ_{X·Z} 给出;它等于 Y 对 X 与 Z 线性回归中 X 的系数(下标顺序很关键)。换言之,回归方程 y = αx + β_1 z_1 + … + β_k z_k 中 x 的系数由 α = r_{YX·Z_1 Z_2 … Z_k} 给出。因此这些系数可用最小二乘法估计(Crámer 1946)。
d-分离与偏相关:马尔可夫模型(SEM 文献中的对应术语是递归模型;Bollen 1989)满足定理 1.2.7 的马尔可夫性质;因此马尔可夫模型的统计参数可由普通回归分析估计。特别是 d-分离准则在此类模型中有效(此处重述定理 1.2.4)。
定理 5.2.1(Verma and Pearl 1988;Geiger et al. 1990):若在 DAG G 中集合 X 与 Y 被 Z d-分离,则在按 G 构造的每个马尔可夫模型中,X 在 Z 条件下独立于 Y。反之,若在 DAG G 中 X 与 Y 不被 Z d-分离,则在按 G 构造的几乎所有马尔可夫模型中,X 与 Y 在 Z 条件下相依。
因为条件独立性蕴含零偏相关,定理 5.2.1 转化为识别模型中必须为零的那些偏相关的图形检验。
推论 5.2.2:在按 DAG G 构造的任意马尔可夫模型中,每当 Z 对应的节点在 G 中 d-分离节点 X 与节点 Y 时,偏相关 r_{XY·Z} 为零,与模型参数无关。此外不存在其他偏相关会在模型所有参数下为零。
无限制的半马尔可夫模型总能通过引入潜变量的马尔可夫模型来模拟,潜变量说明误差项之间的所有相依。因此若我们将双向弧解释为源于潜公共父节点,d-分离准则在此类模型中仍然有效。这在某些线性半马尔可夫模型中也许不可能,其中每个潜变量限制至多影响两个观测变量(Spirtes et al. 1996)。但已表明 d-分离准则在此类受限系统中仍然有效(Spirtes et al. 1996),且当网络包含环时有效性也保持(Spirtes et al. 1998;Koster 1999)。这些结果概括于下一定理。
定理 5.2.3(一般线性模型中的 d-分离):对按图 D 构造的任意线性模型(其中可包括环与双向弧),若对应集合 Z 的节点在 D 中 d-分离节点 X 与节点 Y,则偏相关 ρ_{XY·Z} 为零。(每条双向弧 i ↔ j 被解释为潜公共父节点 i ← L → j。)
对线性结构方程模型(见 (5.2)),定理 5.2.3 蕴含那些(且仅那些)由 d-分离检验识别的偏相关保证为零,与模型参数 α_{ik} 及误差方差独立。这提示了一种简单直接的模型检验方法:与其执行寻找模型参数最大似然估计并按拟合给这些估计打分这一标准练习,我们可直接检验自由模型所蕴含的每个零偏相关。这种检验的优势由 Shipley(1997)注意,他还设计了这些检验的实现。
但问题在于检验给定模型所蕴含的大量零偏相关是否可行。幸运的是,这些偏相关彼此并不独立;它们可由相对少量的偏相关推出,这些偏相关构成整个集合的基(Pearl and Verma 1987)。
定义 5.2.4(基):设 S 为一组偏相关。S 的一个基 B 是一组零偏相关,使得 (i) B 蕴含(利用概率定律)S 中每个元素的零,且 (ii) B 的任何真子集都不保持此蕴含。
DAG D 所蕴含零偏相关集的一个显然的基选择是等式集 B = {r_{ij·pa_i} = 0 | i ≠ j},其中 i 遍历 D 中的所有节点,j 遍历按 D 中箭头一致的某种顺序中 i 的所有前驱。实际上这组等式反映了马尔可夫模型的"父筛选"性质(定理 1.2.7),后者是 DAG 所编码全部概率信息的源头。检验这些等式因此足以检验线性马尔可夫模型的全部统计主张。此外,当父集 PA_i 较大时,可以选择更经济的基,如下一定理所示。
定理 5.2.5(图形基):设 (i, j) 为 DAG D 中一对不相邻节点,并设 Z_{ij} 为任意一组比 j 离 i 更近、且 d-分离 i 与 j 的节点集。零偏相关集 B = {r_{ij·Z_{ij}} = 0 | i ≠ j}(每对不相邻节点一个元素)构成 D 所蕴含全部零偏相关的基。
定理 5.2.5 声称对应于图中任何不相邻节点之间分离的零偏相关集囊括线性马尔可夫模型所传达的全部统计信息。定理 5.2.5 的证明见 Pearl and Meshkat(1999)。观察图 5.1 可知以下两个集合各构成图中模型的基:B_1 = {r_{32·1} = 0, r_{41·3} = 0, r_{42·3} = 0, r_{51·43} = 0, r_{52·43} = 0};B_2 = {r_{32·1} = 0, r_{41·3} = 0, r_{42·1} = 0, r_{51·3} = 0, r_{52·1} = 0}。基 B_1 对每个 (i, j) 使用父集 PA_i 来分离 i 与 j。基 B_2 则使用更小的分离集,因此所导致的检验涉及更少的回归元。注意基的每个成员对应 DAG 中一条缺失箭头;因此验证 DAG 所需的检验数等于其所含缺失箭头数。图越稀疏,对协方差矩阵施加的约束越多,验证这些约束所需的检验也越多。
5.2.2 检验可检验项(Testing the Testable)
在线性结构方程模型中,变量间假设的因果关系可表达为带系数注释的有向图形式,其中一些系数先验固定(通常为零)一些自由变动。对此模型相对数据进行检验的常规方法分两阶段:首先通过迭代最大化一个拟合测度(如似然函数)来估计自由参数;然后将估计参数所蕴含的协方差矩阵与样本协方差比较,并施加一个统计检验以判定后者是否可能源于前者(Bollen 1989;Chou and Bentler 1995)。此方法有两个主要弱点:(1) 若某些参数不可识别,第一阶段可能无法达到稳定的参数估计,研究者只能放弃检验;(2) 若模型未通过数据拟合检验,研究者几乎得不到关于哪些建模假设错误的指导。例如图 5.2 显示一个路径模型,其中参数 β 在假定 cov(ε_1, ε_2) 未知时不可识别,这意味着最大似然方法可能无法为 β 找到合适估计,从而排除检验的第二阶段。然而此模型并不比 cov(ε_1, ε_2) = 0、β 可识别的模型更难检验。两个模型对协方差矩阵施加同样的限制——即偏相关 r_{XZ·Y} 应为零(即 r_{XZ} = r_{XY} r_{YZ})——然而由于 β 不可识别,自由 cov(ε_1, ε_2) 的模型无法检验此限制。图 5.3 说明与模型诊断相关的弱点。假设真实数据生成模型在 X 与 W 之间有直接因果连接,如图 5.3(a),而假设的模型(图 5.3(b))无此连接。统计上两个模型在项 r_{XW·Z} 上有差异——按图 5.3(b) 应为零,按图 5.3(a) 自由。一旦差异的性质明朗,研究者必须决定实质性知识是否足以通过添加链或弧来更改 X 与 W 之间的连接。然而由于差异的效应会分散在多个协方差项中,全局拟合检验不能轻易孤立差异。即便对模型各种局部修改的多次拟合检验(如 LISREL 所提供)也帮助不大,因为结果可能被图中其他部分(如以 Y 为根的子图)中的差异所偏倚。因此全局拟合检验在模型调试中往往用处不大。一种有吸引力的全局拟合检验替代是局部拟合检验,其涉及列出模型所蕴含的限制并逐个检验。例如限制 r_{XW·Z} = 0 可在不必测量 Y 或其任何后代的情况下局部检验,从而使那些测量中的误差不至于干扰对 r_{XW·Z} = 0 的检验——这才是拟合欠缺的真正根源。更一般地,典型 SEM 模型常接近"饱和",仅以大型、否则无限制图中少数缺失边的形式声称少量限制。对这些限制的局部与直接检验比全局检验更可靠,因为它们涉及更少的自由度且不被不相关的测量误差所污染。5.2.1 节描述的缺失边方法提供了一种系统化方式,用于检测并枚举给定模型所需的局部检验。
5.2.3 模型等价(Model Equivalence)
在 2.3 节(定义 2.3.3)中我们定义两个结构方程模型为观察等价,若其中一个模型生成的每个概率分布也可被另一模型生成。在标准 SEM 中,模型被假定为线性、数据被协方差矩阵刻画。因此两个此类模型若协方差等价——即一个模型通过某种参数选择所生成的每个协方差矩阵也可被另一模型生成——则它们观察上不可区分。可轻易验证定理 1.2.8 的等价准则可扩展至协方差等价。
定理 5.2.6:两个马尔可夫线性正态模型协方差等价当且仅当它们蕴含同样的零偏相关集。此外两个此类模型协方差等价当且仅当其相应图具有同样的边集与同样的 v-结构集。
定理 5.2.6 的第一部分定义了马尔可夫模型的可检验蕴含。它声称在非操纵性研究中,马尔可夫结构方程模型除 d-分离检验所揭示的那些零偏相关外,不能就任何其他特征被检验。它还提供一个简单的等价检验,要求仅比较相应边及其方向性,而非检验所有 d-分离条件。在半马尔可夫模型(含相关误差的 DAG)中,d-分离准则仍对独立性检验有效(见定理 5.2.3),但独立性等价不再蕴含观察等价。在观测变量间蕴含同样零偏相关集的两个模型仍可能在协方差矩阵上施加不同不等式约束。然而定理 5.2.3 与 5.2.6 仍提供等价检验的必要条件。
生成等价模型:只要不破坏或生成 v-结构就允许反转箭头,我们可用定理 5.2.6 为任何马尔可夫模型生成等价替代。Meek(1995)与 Chickering(1995)证明 X → Y 可被 X ← Y 替换当且仅当 X 的所有父节点也是 Y 的父节点。他们还证明对任意两个等价模型,总存在某种边反转序列将一个模型变为另一模型。这一简单边反转规则与 Stelzl(1986)、Lee and Hershberger(1990)所提议的规则一致。在半马尔可夫模型中,生成等价模型的规则更为复杂。然而定理 5.2.6 对检验边替换规则的正确性提供方便的图形原则。基本原理是:若我们将每条双向弧 X ↔ Y 视为代表潜公共原因 X ← L → Y,则定理 5.2.6 的"若"部分仍然有效;即任何不破坏或不生成 v-结构的边替换变换是允许的。例如只要 X 与 Y 无其他父节点(潜或观),边 X → Y 可被双向弧 X ↔ Y 替换。同样只要 (1) X 与 Y 无潜父节点且 (2) X 或 Y 的每个父节点是两者共同的父节点,边 X → Y 可被双向弧 X ↔ Y 替换。这些替换不引入新 v-结构。然而由于 v-结构现在可涉及潜变量,我们可容忍某些 v-结构的生成或破坏,只要这不影响观测变量间的偏相关。图 5.4(a) 表明可容忍某些 v-结构的生成。通过反转箭头 X → Y,我们生成两条收敛箭头 Z → X ← Y,其尾通过潜公共原因相连而非直接。这一操作被容忍,因为虽然在 X 处的新收敛阻塞了路径 (Z, X, Y),但 Z 与 Y 之间通过弧 Z ↔ Y 的连接保持非阻塞,事实上任何观测变量集都不能阻塞之。我们可将这一原理进一步推广,概括 v-结构概念。在马尔可夫模型中 v-结构被定义为两条尾不相连的收敛箭头,我们现在将 v-结构定义为任意两条收敛箭头头,其尾"可分离"。所谓可分离指存在某条件集 S 能 d-分离两个尾。显然若两个尾由一条箭头或双向弧连接则不可分离。但在半马尔可夫模型中一对节点即使无边相连也可不可分离(Verma and Pearl 1990)。考虑到这一推广,我们可将边替换的必要条件陈述如下。
规则 1:箭头 X → Y 与 X ↔ Y 可互换当且仅当 X 的每个邻居或父节点与 Y 不可分离。(此处邻居指通过双向弧与 X 相连的节点。)
规则 2:箭头 X → Y 可被反向为 X ← Y 当且仅当反转前 (i) Y 的每个邻居或父节点(X 除外)与 X 不可分离,且 (ii) X 的每个邻居或父节点与 Y 不可分离。
例如考虑模型 Z ↔ X → Y。箭头 X → Y 不能被双向弧 X ↔ Y 替换,因为 Z(X 的邻居)可被集合 S = {X} 与 Y 分离。确实在 X 处生成的新 v-结构会使 Z 与 Y 边缘独立,与原模型相违。另一例子:考虑图 5.4(a) 中的图。这里替换 X → Y 为 X ↔ Y 或反向为 X ← Y 是合法的,因为 X 无邻居且 Z(X 的唯一父节点)与 Y 不可分离。同样的考虑适用于图 5.4(b):变量 Z 与 Y 虽然不相邻但不可分离,因为从 Z 经 W 到 Y 的路径不能被阻塞。图 5.4(c) 展示一个更复杂的例子,证明规则 1 与 2 不足以确保变换的合法性。这里似乎替换 X → Y 为 X ↔ Y 合法,因为(潜)v-结构在 X 处被箭头 Z → Y 旁路。然而原模型显示路径从 W 到 Y 在给定 Z 时 d-连接,而替换后模型显示同一路径在给定 Z 时 d-分离。因此偏相关 r_{WY·Z} 在替换后模型中为零,在原模型中则不然。相对于偏相关 r_{WY·ZX} 也存在类似差异:原模型显示从 W 到 Y 的路径在给定 {Z, X} 时被阻塞,替换后模型显示该路径在给定 {Z, X} 时 d-连接。因此偏相关 r_{WY·ZX} 在原模型中为零,在替换后模型中无约束。显然仅对 X 的父节点与邻居施加规则不够;遥远祖先(如 W)也应纳入考虑。这些规则只是 d-分离准则在半马尔可夫模型中的若干蕴含。Spirtes and Verma(1992)给出检验两个半马尔可夫模型 d-分离等价的必要充分准则。Spirtes and Richardson(1996)将该准则扩展至包含反馈环的模型。但应记住,因为两个半马尔可夫模型可零偏相关等价却仍非协方差等价,基于 d-分离的准则只能为模型等价提供必要条件。
等价模型的意义:定理 5.2.6 在方法论上有重要意义,因为它阐明了宣称结构模型"可检验"(Bollen 1989, p. 78)的含义。它声称我们从未检验一个模型,而检验一整类观察等价模型,所假设的模型无法通过任何统计手段从其中区分。它还声称此等价类可由图(通过观察)构造,因此为研究者提供竞争替代品的生动表示以供考虑。等价类中所有模型的图形表示由 Verma and Pearl(1990)(见 2.6 节)、Spirtes et al.(1993)、Andersson et al.(1998)设计。Richardson(1996)讨论了带环模型等价类的表示。尽管(过度识别的)结构方程模型具有可检验蕴含这一事实确实成立,这些蕴含仅是模型所代表内容的一小部分:一组主张、假设与蕴含。未能在因果假设、统计蕴含与政策主张之间做出区分,一直是社会科学中定量方法遭受怀疑与困惑的主要原因之一(Freedman 1987, p. 112;Goldberger 1992;Wermuth 1992)。然而由于图形方法让这些成分之间的区分变得生动而清晰,它们承诺让 SEM 被更广泛学科的研究者所接受。总体而言 SEM 文献已忽略对等价模型的显式分析。例如 Breckler(1990)发现社会与人格心理学领域的 72 篇文章中只有一篇承认等价模型的存在。一般态度曾是:数据拟合与模型过度识别的组合足以确认所假设模型。然而近来等价模型的存在似乎让一些 SEM 研究者感到不安。MacCallum et al.(1993, p. 198)得出结论"等价模型现象对使用 CSM 的经验研究者构成严重问题"且"对 CSM 结果解读的效度构成威胁"(CSM 指"协方差结构建模";这与 SEM 并无不同,但这一术语被一些社会科学家用以隐讳地掩饰其模型的因果内容)。Breckler(1990, p. 262)认为"若一个模型被支持,则其所有等价模型也被支持",因此他大胆声明"因果建模这一术语是用词不当"。这些极端观点不合理。等价模型的存在在我们接受因果关系不能仅从统计数据推出这一事实时是逻辑上必然的;正如 Wright(1921)所述,"因果关系的先验知识被假定为 SEM 的前提"。但这并不让 SEM 作为因果建模工具变得无用。从路径图结构所代表的定性因果前提(见注释 3)到图中系数所宣称的定量因果结论的飞跃,既非无用亦非平凡。考虑图 5.5 中所示模型,Bagozzi and Burnkrant(1979)用其说明与等价模型相关的问题。虽然此模型饱和(即恰好识别)且拥有(至少)27 个半马尔可夫等价模型,但发现 AFFECT 对 BEHAVIOR 的影响(标准化尺度下)几乎是 COGNITION 对 BEHAVIOR 影响的三倍,仍极富启发——它告诉我们不同行为调节政策的相对效力,前提是已知某些政策影响 AFFECT、其他影响 COGNITION。当路径系数在相应相关系数测得正向时变为负值时,这种定量分析对政策分析的影响可能更引人注目。这些定量结果可能对政策决定有深远影响,而得知这些结果逻辑上由数据与图中嵌入的定性前提所蕴含,应当让政策决定的基础在辩护或批评时更为透明(见 11.5.3 节)。总之社会科学家不必彻底放弃 SEM;只需放弃 SEM 是检验因果模型之方法的观念。结构方程建模是一种检验构成因果模型一小部分前提的方法,且在该小部分被发现与数据兼容时,该方法阐明前提与数据的必然定量后果。因此 SEM 使用者应集中于审视进入模型的隐含理论前提。5.4 节将表明图形方法让这些前提变得生动而精确。
5.3 图形与可识别性(Graphs and Identifiability)
从 5.2 节结尾的综合出发,社会科学家应理解 SEM 不是检验因果模型的方法——SEM 是检验构成因果模型一小部分前提的方法:若该部分被发现与数据兼容,则方法阐明前提与数据的必然定量后果;因此 SEM 使用者应集中于审视进入模型的隐含理论前提,而 5.4 节将表明图形方法让这些前提变得生动而精确。本节将转向另一个基本问题:在数据收集之前,确定哪些结构参数可被识别。这本质上是一个"识别"问题——给定一个路径图,能否由协方差矩阵(或非参数情形下由联合分布)解出我们关心的参数?5.3.1 节给出线性模型中路径系数与回归系数何时一致的简单图形准则(单门准则与后门准则);5.3.2 节将这些线性识别结果与第 3、4 章非参数因果效应识别结果作对照,并指出后者的更广泛有效性;5.3.3 节以结构方程模型中"因果效应 = 干预解读"这一关键概念收束全节,为 5.4 节的概念基础铺垫。
5.3.1 线性模型中的参数识别(Parameter Identification in Linear Models)
考虑有向边 X → Y 嵌于路径图 G 中,并设 β 为与该边关联的路径系数。众所周知回归系数 r_{YX} = r_{XY} σ_Y/σ_X 可分解为 r_{YX} = β + I_{YX} 之和,其中 I_{YX} 不是 β 的函数,因为它(例如用 Wright 规则)从连接 X 与 Y 的其他路径(穿过单与双向弧)计算得到。于是若我们从路径图中移除边 X → Y,并发现所生子图蕴含 X 与 Y 之间零相关,则可知 I_{YX} = 0 且 β = r_{YX};因此 β 被识别。这一蕴含可由图形建立:测试子图中 X 是否被(空集 Z = ∅)与 Y d-分离。图 5.6 说明这一简单识别检验:在子图 G_β 中 X 与 Y 之间的所有路径都被收敛箭头阻塞,β 可立即等同于 r_{YX}。我们可将这一基本思想扩展到 I_{YX} 非零但可通过调整位于 X 与 Y 之间各种 d-连接路径上的变量集 Z = {Z_1, Z_2, …, Z_k} 而变为零的情况。考虑偏回归系数 r_{YX·Z} = r_{YX·Z} σ_{Y·Z}/σ_{X·Z},它代表在 Z 被"偏出"后 Y 与 X 之间的剩余相关。若 Z 不含 Y 的后代,则再次可写 r_{YX·Z} = β + I_{YX·Z},其中 I_{YX·Z} 代表 X 与 Y 之间在将 β 设为零后的偏相关,即图 G 中去掉 X → Y 边但其余相同的模型中的偏相关。若 Z 在 G_β 中 d-分离 X 与 Y,则此模型中 I_{YX·Z} 确实为零,因此在原模型中 β 被识别且等于 r_{YX·Z}。又因为 r_{YX·Z} 由 Y 对 X 与 Z 回归中 x 的系数给出,β 可用回归 y = βx + β_1 z_1 + … + β_k z_k + e 估计。这一结果为 5.1.3 节所暗示的问题——(i) 何为充分的回归元集合以及 (ii) 何时回归系数提供路径系数的一致估计——提供了简单的图形答案。答案概括于下述定理。
定理 5.3.1(直接效应的单门准则):设 G 为任意路径图,其中 β 为与链 X → Y 关联的路径系数,并设 G_β 为从 G 中删除 X → Y 所得的图。系数 β 可识别当且仅当存在变量集 Z 使得 (i) Z 不含 Y 的后代且 (ii) Z 在 G_β 中 d-分离 X 与 Y。若 Z 满足这两个条件,则 β 等于回归系数 r_{YX·Z}。反之若 Z 不满足这些条件,则 r_{YX·Z} 不是 β 的一致估计量(除极少数零测例外)。
定理 5.3.1 的使用可举例说明。考虑图 5.7 中的图 G 与 G_β。G_β 中连接 X 与 Y 的唯一路径是穿过 Z 的路径,且由于该路径被 Z d-分离(阻塞),β 被识别且由 β = r_{YX·Z} 给出。系数 α 被识别当然成立,因为 Z 在 G_α 中(被空集 ∅)与 X d-分离,从而 α = r_{XZ}。注意这一"单门"检验与总效应的后门准则(定义 3.3.1)略有不同;这里的集合 Z 必须阻塞从 X 到 Y 的所有间接路径,而非仅后门路径。条件 (i) 与两种情况相同,因为若 X 是 Y 的父节点则 Y 的每个后代也是 X 的后代。我们现在把通过总效应(而非直接效应)的识别扩展到结构参数识别。考虑图 5.8 中的图 G。若我们通过移除链 X → Y 形成图 G_β,我们观察到不存在节点集 Z d-分离从 X 到 Y 的所有路径。若 Z 含 Z_1,则路径 X → Z_1 ↔ Y 将通过 Z_1 处的收敛箭头保持非阻塞。若 Z 不含 Z_1,则路径 X → Z_1 → Y 非阻塞。因此我们断定 β 不能用前述方法识别。然而若我们感兴趣的是 X 对 Y 的总效应,它由 β + αγ 给出。为使此和由 r_{YX} 识别,r_{YX} 不应来自从 X 到 Y 之外的路径。然而我们看到两条这样的路径(称为混杂或后门路径)存在于图中——即 X ← Z_2 → Y 与 X ↔ Z_2 → Y。幸运的是这些路径被 Z_2 阻塞,因此我们可断定对 Z_2 调整后 β + αγ 可识别,从而 β + αγ = r_{YX·Z_2}。这一思路由定义 3.3.1 的后门准则所捕获,此处为完整性重述。
定理 5.3.2(后门准则):对因果图 G 中任意两变量 X 与 Y,X 对 Y 的总效应可识别当且仅当存在测量集 Z 使得 (1) Z 中无 X 的后代;且 (2) Z 在从 G 中删除所有从 X 出发的箭头所形成的子图 G_X 中 d-分离 X 与 Y。此外若两个条件被满足,则 X 对 Y 的总效应由 r_{YX·Z} 给出。
定理 5.3.2 的两个条件,如 3.3.1 节所见,在非线性非高斯模型以及含离散变量的模型中也有效。该检验确保在对 Z 调整后,X 与 Y 不再通过混杂路径相联,这意味着回归系数 r_{YX·Z} 等于总效应。事实上可将定理 5.3.1 与 5.3.2 视为一个更一般方案的特殊情况:为识别任何偏效应(如由从 X 到 Y 的某一选定的因果路径束定义),我们应找到一组测量变量 Z 阻塞 X 与 Y 之间所有未选路径。该偏效应则将等于回归系数 r_{YX·Z}。图 5.8 表明某些总效应可直接由图整体确定,无需识别其各组分。聚焦于个别参数识别与估计的标准 SEM 方法(Bollen 1989;Chou and Bentler 1995)可能错过如图 5.8 中那种效应的识别与估计——它可以可靠估计,即使其某些组分仍未识别。某些总效应不能直接作为整体确定,而需要分别确定每个组分。例如在图 5.7 中,Z 对 Y 的效应(α + β)不满足后门准则,但该效应可由其组分 α 与 β 单独确定——它们各自满足后门准则——从而 α = r_{XZ}、β = r_{YX·Z}。还存在第三种因果参数:它既不能直接也不能通过其组分确定,而需要对其所属更广因果效应的求值。图 5.9 所示结构即此类例子。参数 β 既不能直接也不能由其组分(它没有组分)识别,但可由 β_2 与 α_2 确定——它们分别代表 Z 对 Y 与 Z 对 X 的效应。这两个效应可直接识别,因为不存在从 Z 到 Y 或 X 的后门路径;因此 β_2 = r_{YZ} 且 α_2 = r_{XZ}。从而 β = r_{YZ}/r_{XZ},即我们所熟悉的工具变量公式(Bowden and Turkington 1984;亦见 3.5 节方程 (3.46))。图 5.10 所示例子综合了至此所考虑的三种方法。X 对 Y 的总效应由 β_2 + γδ 给出,它不可识别,因为既不满足后门准则也不是另一可识别结构的一部分。然而若我们希望估计 α,通过对 Z 条件化,我们阻塞所有经 Z 的路径,得到 β_2 = r_{YX·Z},这是 X 经 W 介导的对 Y 的效应。因为不存在从 X 到 W 的后门路径,β 本身可直接求值为 β = r_{WX}。因此 α = r_{YX·Z}/r_{WX}。另一方面 γ 可通过对 X 条件化(从而阻塞从 Z 经 X 到 Y 的所有后门路径)直接求值,给出 γ = r_{YZ·X}。至此所使用的方法提示了以下系统化程序用于识别图中可识别系数:(1) 首先用后门准则与定理 5.3.1 在图中各对变量间搜索可识别的因果效应。这些可以是直接效应、总效应或偏效应(即由特定变量集介导的效应)。(2) 对每个此类识别出的效应,收集涉及的路径系数并放入一个桶中。(3) 按以下程序开始标记桶中的系数:(a) 若桶为单元素集,标记其系数为 I(表示可识别);(b) 若桶非单元素但仅含单个未标记元素,标记该元素为 I。(4) 重复此过程直到无新标记可行。(5) 列出所有标记系数;这些可识别。所描述的过程并不完整,因为我们坚持一次标记一个系数可能让我们错失某些机会。图 5.11 说明了这一点。从 (X, Z)、(X, W)、(X', Z)、(X', W) 对开始,我们发现 β、γ、β'、γ' 可识别。移到 (X, Y),我们发现 β_α + δγ 可识别;同样从 (X', Y) 看到 β'_α + δγ' 可识别。这还无法让我们标记 α 或 δ,但只要行列式 β γ; β' γ' 非零,我们便可对未知量 α 与 δ 联立两方程解之。因为我们关注的不是点的可识别性而是"几乎处处"可识别(Koopmans et al. 1950;Simon 1953),我们不必计算此行列式。只需检查行列式行的符号形式以确保方程非冗余;每个方程至少对标记系数的一个值对未标记系数施加新约束。在具有检测冗余能力的情况下,我们可通过添加以下规则增强程序功能:3*. 若存在 k 个非冗余桶包含至多 k 个未标记系数,标记这些系数并继续。另一种增强方式是不仅列出可识别效应,而且按 Wright 规则列出涉及双向弧相关的表达式。最后可以按 4.4 节所述列出多变量的联合效应。然而这些扩充倾向于让程序更复杂,并可能损害我们的主要目标——为研究者提供立即识别给定模型中已识别系数、并立即理解模型中影响目标量可识别性的特征的方法。我们现在将这些结果与 3.3 节中处理的非参数模型中的识别相关联。
5.3.2 与非参数识别的比较(Comparison to Nonparametric Identification)
前述小节的识别结果显著强于第 3、4 章中针对非参数模型所得结果。然而出于实践与概念两方面原因,参数建模者仍应研究非参数模型。在实践方面,研究者常发现难以捍卫线性与正态性假设(或其他函数分布假设),特别是涉及分类变量时。因为非参数结果对非线性函数与任意误差分布有效,握有这些结果让我们能评估标准技术对线性与正态假设的敏感性。在概念方面,非参数模型阐明了结构方程与代数方程之间的区别。寻找与路径系数类似的非参数量迫使我们阐明路径系数的真实含义、为何应致力于其识别、以及为何结构模型不仅是编码协方差信息的便捷方式。本节中我们把第 3 章中非参数因果效应识别问题置于线性模型参数识别的语境中。
参数与非参数模型:一个例子:考虑结构方程组 x = f_1(u, ε_1),z = f_2(x, ε_2),y = f_3(z, u, ε_3),其中 X、Z、Y 为观测变量,f_1、f_2、f_3 为未知任意函数,U、ε_1、ε_2、ε_3 为我们可视为潜变量或扰动的不可观测变量。为方便讨论我们假设 U、ε_1、ε_2、ε_3 相互独立且任意分布。图形上这些影响可由图 5.12 的路径图表示。问题如下:我们已从 (5.4)–(5.6) 所定义过程抽取了一长串独立样本并记录观测变量 X、Z、Y 的值;现在我们希望尽可能估计模型中未指定的量。为厘清问题的范围,我们考虑其线性版本,由 x = u + ε_1,z = βx + ε_2,y = αz + γu + ε_3 给出,其中 U、ε_1、ε_2、ε_3 为不相关零均值扰动。不难证明参数 β、α、γ 可由观测变量 X、Z、Y 间的相关唯一确定。这一识别已在图 5.7 的例子中演示,其中后门准则给出 α = r_{YZ·X}、β = r_{ZX},从而 γ = r_{YX} - βα。因此回到模型的非参数版本,似乎合理的推广是:要让模型可识别,函数 (f_1, f_2, f_3) 必须由数据唯一确定。然而这种情况不太可能发生,因为函数与分布之间的映射已知是多对一。换言之给定任何非参数模型 M,若存在一组与给定分布 P(x, y, z) 兼容的函数 (f_1, f_2, f_3),则存在无穷多这样的函数(见图 1.6)。因此似乎从像 (5.4)–(5.6) 给出的松散指定模型中无法推断出有用内容。然而识别本身并非目的,即使在线性模型中亦如此。识别服务于回答预测与控制的实际问题。所争议的不是数据是否允许我们识别方程的形式,而是数据是否允许我们对参数模型传统回答的那类问题提供明确答案。当 (5.4)–(5.6) 给出的模型被严格用于预测(即确定给定其他变量观测时某些变量的概率)时,识别问题失去其大部分(若非全部)重要性;所有预测可直接由协方差矩阵或这些协方差的样本估计估计。若需要降维(例如提高估计精度),协方差矩阵可由多种联立方程模型编码——都具有相同维度。例如线性模型 M(即 (5.7)–(5.9))中 X、Y、Z 之间的相关可很好地由模型 M'(图 5.13)表示:x = ε_1, z = β'x + ε_2, y = α'z + δx + ε_3。此模型与 (5.7)–(5.9) 同样紧凑,且对观测变量 X、Y、Z 与 M 协方差等价。当设 β' = β、α' = α、δ = γ 时,模型 M' 将产生与 (5.7)–(5.9) 模型相同的概率预测。然而当被视作数据生成机制时,两个模型并不等价。每个模型对生成 X、Y、Z 的过程讲述不同的故事,因此它们对外部干预下这些过程所发生变化的预测自然不同。
5.3.3 因果效应:结构方程模型的干预解读(Causal Effects: The Interventional Interpretation of Structural Equation Models)
模型 M 与 M' 之间的差异精确说明了结构方程模型的结构解读从何发挥用场——以及为何即便在因果方面羞怯的研究者也认为结构参数比协方差及其他统计参数更具"意义"。由 (5.12)–(5.14) 定义的模型 M' 将 X 视为直接参与决定 Y 值的过程,而由 (5.7)–(5.9) 定义的模型 M 将 X 视为间接因素,其对 Y 的效应由 Z 介导。这一差异不在数据本身显现,而在数据对外界干预响应方式中显现。例如假设我们希望在干预并将 X 固定为某常数 x 后预测 Y 的期望;这记为 E(Y | do(X = x))。在 (5.13) 与 (5.14) 中代入 X = x 后,模型 M' 给出 E[Y | do(X = x)] = E[α'β'x + α'ε_2 + δx + ε_3] = (α'β' + δ)x;模型 M 给出 E[Y | do(X = x)] = E[αβx + αε_2 + γu + ε_3] = αβx。当设 β' = β、α' = α、δ = γ(协方差等价所需;见 (5.10) 与 (5.11)),我们清楚地看到两个模型赋予 X 对 Y 的(总)因果效应不同的量级:模型 M 预测单位 x 变化将使 E(Y) 改变 αβ 量;模型 M' 将该量定为 αβ + γ。此时人们倾向于问:是否应在 (5.17) 取期望前将 x - ε_1 替换 u 代入 (5.9)。若我们允许将 (5.8) 代入 (5.9)(如推导 (5.17) 时所做),为何不允许将 (5.7) 代入 (5.9)?毕竟(论证继续),坚持一个模型者认为有效的数学等式 u = x - ε_1 不会有害。然而此论证有谬误。结构方程不应被视作不可变的数学等式,而应被视作定义一种平衡状态——该状态在平衡被外界干预扰动时被违反。事实上结构方程模型的威力在于它们不仅编码初始平衡状态,还编码必要的信息——以确定在新平衡状态下哪些方程必须被违反。例如若干预仅在于将 X 恒定为 x,则代表干预前决定 X 过程的方程 x = u + ε_1 应被否决并代之以方程 X = x。新方程组的解代表新的平衡。因此区别结构方程与普通数学方程的本质特征是:前者不是代表一个方程组而是代表多组方程,每组对应于从原模型中取出的某子集方程。每个这样的子集代表在某给定干预下将盛行的某假想物理实在。若我们采取立场认为结构方程的价值不在于总结分布函数而在于为预测政策效应编码因果信息(Haavelmo 1943;Marschak 1950;Simon 1953),则自然将这些预测视为结构系数的恰当推广。例如线性模型 M 中系数 α 的恰当推广将是对控制查询的答案——"若我们干预并将 Z 从 z 变为 z + 1,则 Y 期望值的变化是多少?"——这当然不同于观察性查询——"若我们发现 Z 处于 z + 1 而非 z 水平,则 Y 期望值的差异是多少?"观察性查询如第 1 章所述可直接从联合分布 P(x, y, z) 回答,而控制查询还需要因果信息。结构方程通过把等号左侧的变量作为效应、把右侧变量作为原因,在其语法中编码这一因果信息。第 3 章中我们用符号 do(·) 区分两类查询。例如我们为受控期望写 E(Y | do(x)) = E[Y | do(X = x)],为标准条件或观察期望写 E(Y | x) = E(Y | X = x)。E(Y | do(x)) ≠ E(Y | x) 在 (5.7)–(5.9) 模型中易见,其中 E(Y | do(x)) = βαx 而 E(Y | x) = r_{YX} x = (βα + γ)x。确实被动观测 X = x 不应违反任何方程,这正是把 (5.7) 与 (5.8) 都代入 (5.9) 后再取期望的依据。在线性模型中,对直接控制问题的答案由路径(或结构)系数编码,可用于推导任意变量对另一变量的总效应。例如 (5.7)–(5.9) 所定义模型中 E(Y | do(x)) 值为 βαx,即 x 乘以沿路径 X → Z → Y 的路径系数乘积。在非参数情况下 E(Y | do(x)) 的计算会更为复杂,即使我们已知函数 f_1、f_2、f_3。然而该计算有良定义;它要求(在 Y 的期望上)求解修改后的方程组,其中 f_1 被"擦除"且 X 被常数 x 替换:z = f_2(x, ε_2),y = f_3(z, u, ε_3)。因此 E(Y | do(x)) 的计算需要求 E(f_3[f_2(x, ε_2), u, ε_3]),期望对 U、ε_2、ε_3 取。值得注意的是图形方法无需知道 f_2、f_3 与 P(ε_2, ε_3, u) 即可执行此计算(3.3.2 节)。这正是非参数模型中可识别性的本质。仅从数据与图唯一回答干预查询的能力正是定义 3.2.3 对因果效应 P(y | do(x)) 识别的方式。如第 3、4 章所见,该能力可由图几乎凭观察识别,从伴随方程的图中。
5.4 若干概念基础(Some Conceptual Underpinnings)
至此所发展的图形工具回应了一组实践问题(何时两个模型观察上不可区分、何时回归系数代表路径系数、何时加入回归元引入偏差、如何在收集数据前判定路径系数可识别、何时可放弃线性–正态假设),但仍有一组基础性问题悬而未决:结构方程本身含义是什么?结构系数究竟意味着什么?误差项如何被赋予操作含义?直接与间接效应如何在操作上定义?外生性在因果而非纯统计意义上意味着什么?本节依次回答这些问题。在 5.4.1 节中给出结构方程(定义 5.4.1)、结构参数((5.24))、误差项((5.25)–(5.27))的操作定义,并以"反因果解读的两难悖论"作为切入点;5.4.2 节用这些操作定义为直接效应、间接效应、总效应给出形式定义(定义 5.4.2、5.4.3);5.4.3 节给出外生性的一般定义(定义 5.4.4、5.4.5),并把 Engle et al.(1983)的弱/强/超外生性三分、Leamer(1985)的过程定义、Maddala(1992)的边缘密度定义全部纳入一个统一框架,同时用图形方法为外生性提供程序性检验(定理 5.3.2 + Z = ∅)。
5.4.1 结构参数究竟意味着什么(What Do Structural Parameters Really Mean?)
每位 SEM 学习者在职业生涯的某时点都曾遇到下述悖论。若我们将方程 y = βx + e 中系数 β 解读为 E(Y) 在 X 单位变化下的变化量,则在将方程改写为 x = (y - e)/β 后,我们应当将 1/β 解读为 E(X) 在 Y 单位变化下的变化量。但这一解读既与直觉冲突也与模型预测冲突:若 Y 未作为自变量出现在 X 的原始结构方程中,则 E(X) 在 Y 单位变化下的变化应为零。SEM 教师通常通过两条逃逸路线之一规避这一困境。一条路线否认 β 具有任何因果解读并满足于纯统计解读,其中 β 度量由 X 解释的 Y 方差的减少(如 Muthen 1987)。另一路线仅容许对满足"隔离"限制的系数作因果解读(Bollen 1989;James et al. 1982):解释变量必须与方程中的误差不相关。因为(论证继续)e 不可能同时与 X 和 Y 不相关,β 与 1/β 不能同时具有因果含义,悖论由此消解。第一条路线自身一致,但它损害了 SEM 创立者意图——让 SEM 作为政策制定的辅助——并与多数 SEM 用户的直觉冲突。第二条路线在逻辑上易受攻击。众所周知每对二元正态变量 X 与 Y 可由两种等价方式表达:y = βx + ε_1 与 x = αy + ε_2,其中 cov(X, ε_1) = cov(Y, ε_2) = 0 且 α = r_{XY} = βσ²_X/σ²_Y。因此若条件 cov(X, ε_1) = 0 让 β 获得因果含义,则 cov(Y, ε_2) = 0 也应让 α 获得因果含义。但这也与直觉及 SEM 背后意图冲突:若不存在从 Y 到 X 的因果路径,则 E(X) 在 Y 单位变化下的变化应为零而非 r_{XY}。那么结构系数的含义是什么?结构方程呢?误差项呢?因果效应的干预解读与 do(x) 符号相结合为这些问题提供了简单答案。这些答案阐明了结构方程的操作含义,从而有望结束关于这些实体的争议与困惑时期。
结构方程的操作定义:定义 5.4.1(结构方程):方程 y = βx + e 称为结构的,若其被解读如下:在我们控制 X 为 x、并控制任何其他变量集 Z(不含 X 与 Y)为 z 的理想实验中,Y 的值 y 由 βx + e 给出,其中 e 不是设定 x 与 z 的函数。此定义为操作性的,因为所有量均可观测——虽然在受控操纵条件下。操纵在多数观察性研究中不可执行,这一事实并不否定定义的操作性,正如我们不能用肉眼观察细菌并不否定它们在显微镜下的可观察性。SEM 的挑战是从我们实际能观测的少量信息中提取我们希望观测之最大信息。注意上述操作解读并未就当我们控制 Y 时 X(或任何其他变量)将如何行为作任何主张。这一非对称性使结构方程中的等号不同于代数等号;前者关于 X 与 Y 上的观测对称地作用(如观测 Y = 0 蕴含 βx = e),但关于干预非对称地作用(如将 Y 设为零不告诉我们 x 与 e 之间的关系)。路径图中的箭头让这一双重角色显式,这也许解释了通过使用图所获得的洞见与推理力量。方程 y = βx + e 的最强经验主张在于从方程右侧排除其他变量,从而宣称 X 为 Y 的唯一即时原因。这转化为一个可检验的不变性主张:Y 在条件 do(x) 下的统计应对模型中任何其他变量的操纵保持不变(见 1.3.2 节)。此主张可符号化为 P(y | do(x), do(z)) = P(y | do(x)),对所有与 {X, Y} 不相交的 Z。相比之下回归方程不作任何经验主张。注意此不变性相对于对 Z 的操纵而非观测保持。在给定测量 Z = z 条件下 Y 在条件 do(x) 下的统计(即 P(y | do(x), z)),若测量取自 Y 的一个后果(即后代),则确实依赖于 z。注意普通条件概率 P(y | x) 不享受如此强的不变性性质,因为 P(y | x) 通常对模型中除 X 外的变量操纵敏感(除非 X 与 e 独立)。方程 (5.23) 相反地无论 e 与 X 之间统计关系如何都成立。推广至一组若干结构方程,(5.23) 阐明了给定因果图所基于的假设。若 G 为与一组结构方程相关联的图,则假设在 G 中体现如下:(1) 每条缺失箭头——比如在 X 与 Y 之间——代表假设 X 在我们干预并将 Y 的父节点保持固定后对 Y 无因果效应;且 (2) X 与 Y 之间每条缺失双向链代表假设(直接)影响 X 的被省略因素与(直接)影响 Y 的被省略因素不相关。我们将在 (5.25)–(5.27) 中给出后一假设的操作含义。
结构参数的操作定义:将结构方程解读为关于 Y 在假想干预下行为的陈述,为结构参数提供了简单定义。方程 y = βx + e 中 β 的含义即 ∂/∂x E[Y | do(x)],即 Y 期望在外控制 X 为 x 实验中相对 x 的变化率。此解读无论 e 与 X 在非实验研究中是否相关(例如通过另一方程 x = αy + d)都成立。我们此时几乎不需补充 β 与回归系数 r_{YX}、即条件期望 E(Y | x)(许多教科书所建议)无关。β 与回归系数一致的条件在定理 5.3.1 中阐明。尽管如此仍需将 (5.24) 定义与承认 β 不变性特征但在阐明 β 对哪些变化不变上有困难的理论相比较。Cartwright(1989, p. 194)例如将 β 刻画为一种她称为"能力"的不变性自然特征。她正确指出 β 在变化下保持不变但解释道,"随着 X 的统计变化,[β = E(YX)/E(X²)] 这一比值无论方差如何移动都保持不变"。此刻画在两点上不精确。第一 β 一般可不等于所述比值,也不等于任何其他统计参数组合。第二——这是定义 5.4.1 的主要点——结构参数对局部干预(即对系统中特定方程的改变)保持不变,而非对变量统计的一般变化保持不变。若我们从 cov(X, e) = 0 出发且 X 的方差因我们(或自然)局部修改生成 X 的过程而变化,则 Cartwright 正确;比值 β = E(YX)/E(X²) 将保持不变。然而若 X 方差因任何其他原因变化——比如我们观测到某些同时依赖 X 与 Y 的证据 Z = z,或生成 X 的过程变得依赖于更广变量集——则该比值将不保持不变。
神秘的误差项的操作定义:定义 5.4.1 与 (5.24) 给出的解读为那个神秘的误差项 e = Y - E[Y | do(x)] 提供了操作定义——尽管 e 在非操纵性研究中未观测,远非一些研究者(如 Richard 1980;Holland 1988, p. 460;Hendry 1995, p. 62)所暗示的形而上学或定义性。不同于回归方程中的误差,e 度量 Y 与其受控期望 E[Y | do(x)] 之间的偏差,而非与条件期望 E[Y | x] 之间的偏差。因此 e 的统计可在控制 X 后由 Y 的观测测量。或者因为 β 无论 X 是否被操纵或观测都保持不变,若已知 β,则 e = Y - βx 的统计可在观察性研究中测量。同样,误差之间的相关可由经验估计。对任意两个非相邻变量 X 与 Y,(5.25) 给出 E[ε_Y ε_X] = E[YX | do(pa_Y, pa_X)] - E[Y | do(pa_Y)] E[X | do(pa_X)]。一旦我们确定结构系数,受控期望 E[Y | do(pa_Y)]、E[X | do(pa_X)] 与 E[YX | do(pa_Y, pa_X)] 成为 pa_Y 与 pa_X 观测变量的已知线性函数;因此 (5.26) 右侧的期望可在观察性研究中估计。或者若系数未被确定,则该表达式可在干预研究中通过固定 pa_X 与 pa_Y(假设 X 与 Y 不在父子关系中)并从该条件下获得的数据估计 X 与 Y 的协方差直接评估。最后我们常感兴趣的不是评估 E[ε_Y ε_X] 的数值而是确定 ε_Y 与 ε_X 是否可被假定为不相关。为此确定只需检验等式 E[Y | x, do(s_{XY})] = E[Y | do(x), do(s_{XY})] 是否成立,其中 s_{XY} 代表模型中除 X 与 Y 之外所有变量的(任意设定)。除 Y 为 X 的父节点情况外(此时适用 X 与 Y 互换的对称方程),此检验可应用于模型中任意两变量。
神秘的误差项的概念解读:SEM 教科书作者通常将误差项解读为代表被省略因素的影响。许多 SEM 研究者不愿接受这一解读,部分因为未指定的被省略因素开启了形而上学臆测的大门,部分因为基于此类因素的论证被不当用作从路径图中省略双向弧的通用、缺乏内容的执照(McDonald 1997)。这些顾虑由误差项的操作解读 (5.25) 回答,因为它规定了误差如何被测量,而非如何产生。然而重要的是注意此操作定义在决定误差项对是否可被假定为不相关时不能替代被省略因素概念。因为此类决定在模型参数仍"自由"的阶段就需要,它们不能基于对相关的数值评估而必须基于关于机制如何相互关联及变量如何相互影响的定性结构知识。这类判断性的决定几乎得不到 (5.26) 操作准则的帮助,后者指导研究者评估两个偏差——取自不同变量在复杂实验条件下——是否相关或无关。此类评估在认知上不可行。相比之下被省略因素概念指导研究者判断是否可能存在同时影响多个观测变量的因素。此类判断在认知上可管理,因为它们是定性的并基于纯结构知识——后者是建模此阶段唯一可用的知识。研究者应考虑的另一误差相关来源是选择偏差。若两个不相关的未观测因素具有一被省略的共同效应,但该效应影响研究的样本选择,则对应的误差项将在抽样总体中相关;因此 (5.26) 中的期望在抽样总体上不为零(见 1.2.3 节 Berkson 悖论的讨论)。然而应强调的是图中缺失的弧、而非图中的弧,需要最多关注与仔细的实质性论证。添加一条额外的双向弧至多损害参数的可识别性,但删除一条现有双向弧可能产生错误结论以及模型可检验性的虚假感。因此双向弧应在默认下假定存在于图中任何两节点之间。只有在充分论证下才应删除,例如两变量之间不太可能存在共同原因及不太可能存在选择偏差。虽然我们永远无法知晓所有可能影响我们变量的因素,但实质性知识有时允许我们声明某可能共同因素的影响不太可能显著。因此正像科学中常发生的,我们测量物理实体的方式并非思考它们的最佳方式。误差的被省略因素概念因为基于结构知识,是构建、评估与思考因果模型时比操作定义更有用的指南。
5.4.2 效应分解的解读(Interpretation of Effect Decomposition)
结构方程建模以、也理应以、提供区分直接与间接效应的有原则方法论为荣。4.5 节已见这种区分在许多应用中很重要——从过程控制到法律纠纷——且 SEM 确实提供识别、估计直接与间接效应的融贯方法论。然而多数 SEM 研究者不愿承认结构参数的因果解读——连同他们对代数操作的专注——已导致直接与间接效应的不充分定义,如 Freedman(1987)与 Sobel(1990)所指。本节希望遵循结构系数的操作含义以纠正此混乱。我们从一般因果效应 P(y | do(x)) 概念出发,如定义 3.2.1。然后将其专门化以定义直接效应,如 4.5 节,最后以结构系数表达定义。
定义 5.4.2(总效应):X 对 Y 的总效应由 P(y | do(x)) 给出,即在 X 被固定为 x 而所有其他变量被允许自然运行时 Y 的分布。
定义 5.4.3(直接效应):X 对 Y 的直接效应由 P(y | do(x), do(s_{XY})) 给出,其中 S_{XY} 为系统中除 X 与 Y 外的所有观测变量集。
在线性分析中,定义 5.4.2 与 5.4.3 对 x 求导后,得出直接与间接效应通常所由之定义的熟悉路径系数。然而它们在几个重要方面不同于常规定义。第一直接效应定义为关于假想实验的——其中中间变量由物理干预而非统计调整保持固定(后者常伪装于误导性短语"控制"之下)。图 5.10 描绘一个简单例子,其中调整中间变量(Z 与 W)不会给出 X 对 Y 直接效应为零的正确值,而 ∂/∂X E(Y | do(x, z, w)) 确实给出正确值:∂/∂X (βw + γz) = 0。4.5.3 节(表 4.1)提供另一例子,其中涉及二分变量。第二无需将控制仅限于中间变量;系统中所有变量(X 与 Y 除外)都可被固定。假想地科学家控制所有可能条件 S_{XY},测量可在不知图结构的情况下开始。最后我们的定义不同于常规之处在于将总效应与直接效应独立于彼此地解读,作为两个不同实验的结果。教科书定义(如 Bollen 1989, p. 376;Mueller 1996, p. 141;Kline 1998, p. 175)通常将总效应等同于路径系数矩阵的幂级数。这一代数定义在递归(半马尔可夫)系统中与操作定义(定义 5.4.2)一致,但在含反馈的模型中产生错误表达式。例如给定方程对 {y = βx + e, x = αy + d},X 对 Y 的总效应就是 β,而非 Bollen(1989, p. 379)所述的 β(1 - αβ)⁻¹。后者不具有配得上"X 效应"这一短语的操作意义。我们以几条评论结束效应分解本节,这些评论对处理二分变量的研究者应具意义。这些变量之间的关系通常非线性,因此 4.5 节的结果应适用。特别地 X 对 Y 的直接效应将依赖于我们保持 Y 其他父节点的什么水平。若我们希望对这些值取平均,我们得到 (4.11) 给出的表达式——它援引嵌套反事实——并可化简为 (4.12)。我们在定义结构方程经验内容(定义 5.4.1)时所援引的操纵说明在系统中是充分的——其中多数感兴趣的因果量可在总体水平上由实验研究推断(见 11.7.1 节)。在非线性与非参数模型中,我们偶尔需要下沉到个体单位水平并援引(更根本的)结构方程反事实解读,如方程 (3.51) 与第 160 页注释 17 所表述。间接效应分析即为一例;其定义 (4.14) 基于嵌套反事实且不能以总体平均表达。此类分析对于赋予间接效应独立于总效应与直接效应的操作含义是必要的(见 11.4.2 节)。然而借助反事实语言,我们可给间接效应一个简单操作定义:X 对 Y 的间接效应是当我们保持 X 固定并将介导变量 Z 提高到 Z 在 X 单位增长下本应达到的值时所观察到的 Y 中的增量(形式定义见 4.5.5 节)。在线性系统中此定义的确与总效应与直接效应之差一致。社会科学与政策分析中间接效应角色的进一步讨论见第 11 章(Pearl 2005a)。
5.4.3 外生性、超外生性及其他装饰(Exogeneity, Superexogeneity, and Other Frills)
经济学教科书照例告诫读者外生变量与内生变量之间的区别,一方面"对模型构建最重要"(Darnell 1994, p. 127),另一方面"是一个微妙且有时有争议的复杂化"(Greene 1997, p. 712)。经济学学生自然会期望本章所发展概念与工具能对该主题有所启示——确实应如此。我们接下来给出一个简单的外生性定义,捕获文献中出现的重要细微差别,且既合口味又精确。当今时尚区分三种外生性:弱、强与超(Engle et al. 1983);前两者是统计的,后者是因果的。然而外生性的重要性——及其争议地位的缘由——在于其对政策干预的蕴含。一些经济学家因此相信只有因果方面(即超外生性)才配得上"外生"这一称号,且统计版本是不请自来的闯入者,倾向于将识别与可解释性问题与估计效率问题混淆(Ed Leamer 个人通信)。我将通过首先给出一个简单因果外生性定义、然后提供一个更一般定义来同时服务两个阵营——后者中因果与统计两方面都将作为特例推出。因此我们所谓"外生性"对应 Engle et al. 所称"超外生性"——一种捕获政策干预下某些关系结构不变性的概念。假设我们考虑对变量集 X 干预并希望刻画结果变量集 Y 在干预 do(X = x) 下的统计行为。用通常表达式 P(y | do(x)) 记 Y 的干预后分布。若我们感兴趣的是该分布的一组参数 Γ,则我们的任务是从可用数据估计 Γ[P(y | do(x))]。然而可用数据通常在不同条件下生成:X 未被固定,而是被允许随过去促使决策者设定 X 的经济压力与预期变化。用 M 记过去生成数据的过程,用 P_M(y) 记与 M 相关的概率分布,我们问:给定我们关于 M 的背景知识 T(意指"理论"),Γ[P_M(y | do(x))] 是否可由来自 P_M(y) 的样本一致估计?这是本章与前面各章已分析的识别问题,但有一个重要差别:我们现在问 Γ[P(y | do(x))] 是否可仅由条件分布 P(y | x) 识别,而非由整个联合分布 P(y)。识别在此受限条件下成立时,我们说 X 相对于 (Y, Γ, T) 是外生的。我们可将此形式化为如下。
定义 5.4.4(外生性):设 X 与 Y 为两组变量,Γ 为干预后概率 P(y | do(x)) 的任意参数集。我们说 X 相对于 (Y, Γ, T) 是外生的,若 Γ 可由条件分布 P(y | x) 识别,即若对满足理论 T 的任意两个模型 M_1、M_2,P_{M_1}(y | x) = P_{M_2}(y | x) 蕴含 Γ[P_{M_1}(y | do(x))] = Γ[P_{M_2}(y | do(x))]。在 Γ 构成干预后概率完整说明的特殊情况下,(5.28) 约化为蕴含 P_{M_1}(y | x) = P_{M_2}(y | x) 蕴含 P_{M_1}(y | do(x)) = P_{M_2}(y | do(x))。若我们进一步假设对每个 P(y | x),我们的理论 T 不先验地排除满足 P_{M_2}(Y | do(x)) = P_{M_2}(y | x) 的某模型 M_2,则 (5.29) 约化为等式 P(y | do(x)) = P(y | x),即我们认识为"无混杂"的条件(见 3.3 与 6.2 节)。方程 (5.30)(由 (5.29))成立因为 (5.29) 必须对 T 中的所有 M_1 成立。注意由于理论 T 未被显式提及,(5.30) 可应用于任何个体模型 M 并可被视作外生性的又一定义——尽管比 (5.28) 强。坚持 Γ 可仅由条件分布 P(y | x) 识别——即使边缘分布 P(x) 可用——其动机在于其对估计过程的蕴含。如 (5.30) 所述,发现 X 是外生的允许我们直接从被动观测预测干预(在 X 中)的效应,甚至不必调整混杂因素。3.3 与 5.3 节的分析进一步提供外生性的图形检验:X 对 Y 是外生的若从 X 到 Y 无未阻塞后门路径(定理 5.3.2)。此检验以程序性定义补足 (5.30) 的声明性定义,从而完成外生性的形式化。通常归因于超外生性的不变性性质可从因果图拓扑中辨别——这并不令人惊讶,考虑到每个因果图代表一个结构模型且每个结构模型已体现政策预测所需的不变性假设(见定义 5.4.1)。Leamer(1985)将 X 定义为外生的若 P(y | x) 在"生成"X 的过程变化下保持不变。此定义(在变化限于修改函数而不改变每函数中参数(即父节点)集的条件下)与 (5.30) 一致,因为 P(y | do(x)) 由一个其中决定 X 的方程被擦除的结构模型支配;因此 P(y | x) 必对这些方程的性质不敏感。相比之下 Engle et al.(1983)以 X"边缘密度"变化定义外生性(即其超外生性);照例从过程语言到统计术语的转换导致歧义。按 Engle et al.(1983, p. 284),外生性要求条件分布 P(y | x) 的所有参数对条件变量分布(即 P(x))的任何变化"不变"。这一对 P(x) 任何变化下的不变性要求过强——即使 X 完全外生,新条件或新观测也可轻易同时改变 P(x) 与 P(y | x)。(举例:考虑一种变化将 X 不可否认外生的随机实验变为非随机实验;我们不应坚持 P(y | x) 在此变化下不变。)所考虑的变化类必须限于决定 X 的机制(或方程)的局部修改,如 Leamer 所述,且此限制必须被纳入外生性的任何定义中。然而为使此限制精确,SEM 的词汇必须如 P(y | do(x)) 定义那样被援引;边缘与条件密度的词汇过于粗糙,无法正确定义 P(y | x) 应保持不变所对应的变化。我们现在准备定义更一般的、其下"弱"与"超"外生性并于同一概念下的外生性概念。为此我们从定义 5.4.4 移除 Γ 必须代表干预后分布特征的限制。我们允许 Γ 代表基础模型 M 的任何特征——包括路径系数、因果效应、反事实等结构特征,以及可(当然)仅从联合分布确定的统计特征。随着此推广,我们也获得外生性的更简单定义。
定义 5.4.5(一般外生性):设 X 与 Y 为两组变量,Γ 为理论 T 中结构模型 M 上定义的任意参数集。我们说 X 相对于 (Y, Γ, T) 是外生的,若 Γ 可由条件分布 P(y | x) 识别,即若对满足理论 T 的任意两个模型 M_1、M_2,P_{M_1}(y | x) = P_{M_2}(y | x) 蕴含 Γ(M_1) = Γ(M_2)。
当 Γ 由结构参数(如路径系数或因果效应)构成时,(5.31) 表达对各种干预的不变性,不仅限于 do(X = x)。虽然干预本身未在 (5.31) 中显式提及,等式 Γ(M_1) = Γ(M_2) 通过 Γ 的结构性质反映这些干预。特别地若 Γ 代表因果效应函数 P(y | do(x)) 在选定点 x 与 y 处的值,则 (5.31) 约化为蕴含 P_{M_1}(y | x) = P_{M_2}(y | x) 蕴含 P_{M_1}(y | do(x)) = P_{M_2}(y | do(x)),与 (5.29) 相同。故外生性的因果性质随之而来。当 Γ 由严格统计参数(如均值、众数、回归系数或其他分布特征)构成时,M 的结构特征不进入考虑;我们有 Γ(M) = Γ(P_M),从而 (5.31) 约化为对与 T 一致的任意两个概率分布 P_1(x, y) 与 P_2(x, y),P_1(y | x) = P_2(y | x) 蕴含 Γ(P_1) = Γ(P_2)。我们从而获得一种允许我们在估计 Γ 时忽略边缘 P(x) 的统计外生性概念,我们可称之为"弱外生性"。最后若 Γ 由 Y 中变量间的因果效应(X 除外)构成,我们获得工具变量的广义定义。例如若我们关注因果效应 Γ = P(w | do(z)),其中 W 与 Z 为 Y 中两组变量,则 X 相对于该参数的外生性保证因果效应 P(w | do(z)) 由条件概率 P(z, w | x) 识别。这确实是工具变量的角色——协助识别不涉及工具本身的因果效应。(见图 5.9,其中 Z、X、Y 分别代表 X、Z、W。)
关于多数教科书所用语言的一个警告:外生性常通过询问参数是否"进入"条件或边缘密度的表达式来定义。例如 Maddala(1992, p. 392)将弱外生性定义为边缘分布 P(x)"不涉及"Γ 的要求。此类定义并非毫不含糊,因为某参数是否"进入"密度或密度是否"涉及"某参数取决于语法;不同代数表示可能让某些参数显式或隐晦。例如若 X 与 Y 为二分变量且感兴趣参数为 Γ = P(y_0 | x_0),则边缘概率 P(x) 当然"涉及"参数如 Γ_1 = P(x_0, y_0) + P(x_0, y_1) 与 Γ_2 = P(x_0, y_0),且 Γ"涉及"它们的比值:Γ = Γ_2/Γ_1。因此写 P(x_0) = Γ_2/Γ 显示 Γ 与 Γ_2 都涉及边缘概率 P(x_0),人们可能由此断定 X 相对于 Γ 非外生。然而 X 实际上相对于 Γ 是外生的,因为比值 Γ = Γ_2/Γ_1 不外是 P(y_0 | x_0);因此它由 P(y_0 | x_0) 唯一确定,如 (5.33) 所要求。(5.31) 给出的定义之优势在于它不依赖于密度函数的语法表示而仅依赖于其语义内容。参数被视为由模型计算的量,而非描述模型的数学符号。因此该定义既适用于统计参数也适用于结构参数,事实上适用于任何可由结构模型 M 计算的量 Γ,无论它是否在边缘或条件密度的描述中起作用(或可能起作用)。
神秘的误差项再访:历史上引起最多争议的外生性定义是用变量与误差之间相关性表达的。它陈述如下。
定义 5.4.6(基于误差的外生性):变量 X 是外生的(相对于 Γ = P(y | do(x)))若 X 独立于所有影响 Y 的误差——除由 X 介导者外。
Hendry and Morgan(1995)将此定义追溯到 Orcutt(1952),它在 1950 至 1970 年代成为计量经济学文献中的标准(如 Christ 1966, p. 156;Dhrymes 1970, p. 169),且仍服务于指导多数计量经济学家的思路(如工具变量的选择;Bowden and Turkington 1984)。然而它在 1980 年代早期受到批评——当时结构误差(方程 (5.25))与回归误差之间的区别变得模糊(Richard 1980)。(按定义回归误差与回归元正交。)Cowles Commission 的结构方程逻辑(见 5.1 节)未达到完全数学成熟——且因否认结构参数与回归参数之间的符号区分——已让所有基于误差项的概念易受歧义之嫌。建立外生性的全新基础——表面上摆脱"误差"与"结构"等理论术语(Engle et al. 1983)的可能性——进一步劝阻经济学家整理 Cowles Commission 逻辑,对基于误差的外生性定义的批评日益成为时尚。例如 Hendry and Morgan(1995)写道"外生性的概念迅速演变为一种关于可观测变量与未观测误差不相关的宽松性质",Imbens(1997)也欣然同意此概念"不充分"。然而若我们考虑在用正确符号(如 (5.25))时结构误差能被定义所具有的精度与清晰度,这些批评者几乎不成立。当应用于结构误差时,外生性的标准基于误差准则与 (5.30) 形式一致——这可由定理 5.3.2 的后门检验验证(Z = ∅)。因此标准定义传达的信息与蕴含于更复杂且较不易传达的外生性定义中的信息相同。作者因此深信标准定义终将重新赢得它一直应得的接受与尊重。图形与反事实外生性定义以及工具变量之间的关系将在第 7 章(7.4.5 节)讨论。
5.5 结论(Conclusion)
今天被称为结构方程建模的事业正日益受到攻击。奠基者已经退休,他们的教诲被遗忘,实践者、教师与研究者当前发现他们继承的方法论既难以捍卫也难以取代。现代 SEM 教科书专注于参数估计,很少阐明这些参数在因果解释或政策分析中所扮演的角色;例如涉及干预效应例子明显缺失。SEM 研究如今几乎完全专注于模型拟合,而涉及 SEM 模型含义与使用的问题是困惑与争议的主题。这些困惑中一些反映在我从读者那里收到的许多问题(11.5 节)中,我为他们奉献了一个"SEM 生存工具箱"(11.5.3 节)——一组用于捍卫 SEM 因果解读及其科学原理的论证。作者深信当代 SEM 危机起源于缺乏处理结构方程所嵌入因果信息的数学语言。图形模型提供了这样一种语言。它们因此帮助我们回答了驱动当前危机的许多悬而未决的问题:(1) 在什么条件下结构系数可获得因果解读?(2) 给定结构方程模型的因果假设是什么?(3) 给定结构方程模型的统计蕴含是什么?(4) 给定结构系数的操作含义是什么?(5) 给定结构方程模型的政策制定主张是什么?(6) 何时方程不是结构的?本章描述了现在解决此类基础问题的概念发展。(11.5.2 与 11.5.3 节提供进一步详述。)此外我们展示了若干用于回答具有实践重要性问题的工具:(1) 何时两个结构方程模型观察上不可区分?(2) 何时回归系数代表路径系数?(3) 何时加入回归元会引入偏差?(4) 如何在收集任何数据之前判定哪些路径系数可识别?(5) 何时可放弃线性–正态假设仍能从数据中提取因果信息?作者仍然希望研究者会认识到这些概念与工具的益处,并使用它们复兴社会科学与行为科学中的因果分析。
5.6 第二版后记(Postscript for the Second Edition)
第二版新增的本节记录了自第一版(2000)以来本章主题上出现的三组实质性进展:(1) 经济学界——以 Heckman(2000, 2003, 2005, 2007;Heckman and Vytlacil 2007)为代表——是否已开始恢复 SEM 的因果解读?Morgan and Winship(2007)一书是否在社会科学中具有同样效应?(2) 线性半马尔可夫模型中可识别图类的扩展——Brito and Pearl(2002a,b, 2006)的工作如何将工具变量概念推广到经典模式之外?(3) 因果主张的稳健性——Pearl(2004)如何把"参数对模型中假设违反的敏感度"形式化为 k-识别概念,从而把标准 SEM 中"自由度"的概念推广到个别参数与个别因果主张?
5.6.1 计量经济学的觉醒?(An Econometric Awakening?)
在经济学中因果分析被忽视数十年后,一股兴趣的激增似乎正在进行。在近期一系列论文中 Jim Heckman(2000, 2003, 2005, 2007(与 Vytlacil))做出了巨大努力来恢复并重振 Cowles Commission 对结构方程模型的解读,并说服经济学家近期因果分析的进步根植于 Haavelmo(1943)、Marschak(1950)、Roy(1951)、Hurwicz(1962)的思想。然而 Heckman 仍未给计量经济学家提供本章所提问题(第 133、170、171、215–217 页)的明确答案。特别地,过度关注实施问题,Heckman 拒绝 Haavelmo 的"方程擦除"作为反事实定义的基础,且未给计量经济学家提供替代定义——亦即像方程 (3.51) 那样在良好设定经济模型中计算反事实 Y(x, u) 的过程,其中 X 与 Y 为模型中任意两变量。(见 11.5.4–5 节。)此定义对于赋予"潜在结果"方法以基于 SEM 的形式语义是必要的,从而统一目前孤立工作的两个计量经济学阵营。另一正面觉醒迹象来自社会科学:通过 Morgan and Winship 的《反事实与因果推断》(Counterfactual and Causal Inference)(2007)一书的出版,SEM 的因果解读被明确恢复。然而遗憾的是反事实的 SEM 基础未被阐明。
5.6.2 线性模型中的识别(Identification in Linear Models)
在一系列论文中 Brito and Pearl(2002a,b, 2006)已建立显著扩展本章所讨论可识别半马尔可夫线性模型类的图形准则。他们首先证明识别在所有不含弓弧的图中得到保证——即不允许原因与其直接效应之间的误差相关,而对间接原因相关的误差不施加限制(Brito and Pearl 2002b)。随后将工具变量概念推广到图 5.9 与 5.11 经典模式之外,他们建立一个可在多项式时间内检验的一般识别条件,并涵盖文献中已知的所有条件。代数方法见 McDonald(2002a),温和介绍与结果综述见 Brito(2010)。
5.6.3 因果主张的稳健性(Robustness of Causal Claims)
SEM 中的因果主张通过数据与模型所体现因果假设集的结合建立。例如图 5.9 中因果效应 E(Y | do(x)) 由 (β r_{YZ}/r_{XZ}) x 给出的主张基于以下假设:cov(ε_Z, ε_Y) = 0 与 E(Y | do(x, z)) = E(Y | do(x));两者均在图中显示。当主张对模型中某些假设的违反不敏感时称该主张稳健。例如上述主张对假设 cov(ε_Z, ε_X) = 0(该假设在模型中显示)不敏感。当若干不同假设集给出参数 β 的 k 个不同可估计量时,该参数称为 k-识别;k 越高,基于 β 的主张越稳健,因为这些可估计量之间的等式对协方差矩阵施加 k - 1 个约束——若在数据中满足,则表示 k 个不同假设集之间的一致,从而支持其有效性。一个典型例子出现在有多个(独立)工具变量 Z_1, Z_2, …, Z_k 可用于单链 X → Y 时,给出等式 β = r_{YZ_1}/r_{XZ_1} = r_{YZ_2}/r_{XZ_2} = … = r_{YZ_k}/r_{XZ_k}。Pearl(2004)给出此稳健性概念的正式定义,并建立用于量化给定因果主张稳健性程度的图形条件。k-识别推广了标准 SEM 分析中自由度的概念;后者刻画整个模型,而前者适用于个别参数且更一般地适用于个别因果主张。
本章个人批注
本章的核心主张是 SEM 的因果解读已被其使用者自己遗忘,而恢复这一解读的钥匙在于图形语言与 do(·) 算符。读完之后我反思几个层面。
第一,"因果解读"与"统计解读"之争本质上是关于模型对象本体论地位之争。Pearl 反复强调 Wright 与 Haavelmo 当年的清晰:方程 y ← βx + e 的"结构"身份是研究者按语义承诺(X 是 Y 的唯一即时原因)赋予的,而不是从统计性质中浮现的。换言之,结构的因果含义优先于、并独立于 cov(x, e) 是否为零这一统计条件。这一本体论翻转是 James、Mulaik、Brett、Bollen 等社会科学家以及 Hendry、LeRoy、Holland 等计量经济学家共同错过的——他们把等号当成了代数等号、把统计性质(误差正交)当成了因果含义的来源。我自己的训练背景更多在物理与连续介质力学,类似的争议也存在——把本构方程误读为纯经验拟合、还是承认其内蕴的物理机制建模意义——Pearl 对 SEM 的诊断与我对本构建模的诊断有同构性。
第二,Pearl 对 Cowles Commission 衰落的归因相当犀利:奠基者把数学保持在纯方程–统计形式、只在脑中推理结构,他们靠"惊人地优秀"的个体能力维持因果直觉,但当信徒继承时这种能力就丢失了。Holland 那句"它意味着什么?"是这一传承失败的极致表达。Pearl 把这归因于两个机制——为赢得统计学家的尊重而把因果假设隐含化、代数语言缺乏显式因果假设的符号设施——这两个机制之间其实有协同:越是隐含因果假设,就越依赖代数形式承载因果信息,而代数形式又没有承载因果信息的工具。这是个恶性循环。图形语言打破这个循环的方式是让因果信息以图本身的拓扑结构显式编码,每条缺失箭头就是一个"X 在 Y 的父节点被固定后不影响 Y"的假设。
第三,5.4.1 节的操作定义 (5.4.1) 与不变性主张 (5.23) 是本章最具方法论洞见的部分。结构方程 y ← βx + e 的最强经验主张不在于 P(y | x) 如何变化,而在于 P(y | do(x), do(z)) = P(y | do(x))——即当我们控制 X 为 x 时,Y 的统计对任何其他变量 Z 的操纵保持不变。这一不变性不是统计性质,而是关于世界组织方式的因果承诺。Pearl 把它称为"操纵下的不变性"而非"观测下的不变性",这一区分精确对应了 Pearl 在第 3 章发展出的 do-演算与单纯条件化的根本区别。对我自己而言,这一不变性表述与不变性原理在连续介质力学中的角色相似——本构方程之所以"结构",是因为它声明某种关系在特定类型扰动下不变。
第四,5.4.3 节对外生性的处理体现了 Pearl 一贯的策略——用一个广义定义统摄文献中的不同版本。Engle et al.(1983)的弱/强/超外生性三分、Leamer 的过程语言定义、Maddala 的边缘密度定义、Hendry 的误差相关定义,全部纳入定义 5.4.5 的"Γ 可由 P(y | x) 识别"这一框架。我欣赏 Pearl 对"参数视为由模型计算的量而非描述模型的符号"这一去语法化的强调——它直接消解了 Maddala 例子中"P(x) 是否'涉及' Γ"的歧义(语法依赖)。这一策略与我熟悉的纲领一致——优先以操作语义而非代数形式化为基础。
第五,5.2 节关于局部检验替代全局检验的论证(特别是图 5.3 的反例)让我想起模型诊断与模型选择文献中的常见失败模式:全局拟合优度检验对单一缺失边的违规不敏感,因为违规的效应会分散到多个协方差项。Pearl 倡导的"列出模型蕴含的所有零偏相关并逐个检验"——每个检验对应一条缺失边——既更具诊断力,又符合 d-分离的图形语义。这与 Pearl 在 5.2.5 中证明的"基 = 每对不相邻节点一个零偏相关"完全契合。
第六,我注意到本章对非参数模型与线性模型关系的处理(第 5.3.2、5.3.3 节)采取了 Pearl 一贯的论证模式:先举一个反例(这里是非参数 M 与线性 M' 协方差等价但 do(X = x) 后的因果效应不同),由此说明线性模型中"结构系数"的概念实际上已经隐含了干预解读;然后把这一解读与 do(x) 算符对接,最终把第 3 章的非参数识别结果作为线性参数识别的语义基础。这种"反例驱动 + 干预语义对接"的双重策略是 Pearl 论证的标志。
最后,5.6 节后记中 Pearl 对 Heckman 的批评值得注意——Heckman 拒绝 Haavelmo 的"方程擦除"作为反事实定义基础但未提供替代。Pearl 指出这阻碍了"潜在结果"方法获得基于 SEM 的形式语义,从而两个计量经济学阵营仍孤立工作。这一批评与 Pearl 在第 1 章对 Holland 潜在结果方法的批评同构:潜在结果作为定义基础没问题,但需要结构性语义把它锚定到可计算的机制。Pearl 在 4.1.1 节也已指出 Newcomb 悖论与"证据决策理论"中的怪异源于把行动当作由过去联想约束的行为(即当作条件事件而非干预),这一诊断在本章 5.3.3 节被再次印证——结构方程之所以不能被视作数学等式,是因为干预会破坏某些方程(如 x = u + ε_1 被 X = x 替换),从而产生新的平衡方程组。这一"机制修改而非条件化"的语义贯穿了全书。
待补 / 待澄清:无。
与上下章的衔接(一段话)
本章在全书结构中处于"理论重整"的关键位置。第 3 章奠定了非参数因果效应识别的图形基础(do-演算、后门准则、前门准则),第 4 章把 do-演算推广到条件行动、随机策略、规划与直接/间接效应分解。本章面对的听众是 SEM 与计量经济学的实践者——他们自 1950 年代以来一直在用结构方程但已遗忘了其因果解读。Pearl 的策略是把第 3、4 章的非参数结果改写为参数形式(SEM 研究者最熟悉的形式),并以此作为重新点亮结构方程因果内容的契机。具体地,5.2 节把第 1、3 章的 d-分离准则翻译为关于零偏相关的可检验蕴含;5.3 节用图形单门准则与后门准则(定理 5.3.1、5.3.2)给出路径系数与回归系数何时一致的清晰判定,从而把第 3.3 节的非参数识别结果锚定到 SEM 的参数识别问题;5.4 节用 do(x) 算符为结构方程、参数、误差项、外生性提供操作定义,从而回应 SEM 文献中长期悬而未决的解读问题。本章向后为第 6 章(Simpson 悖论、混杂、可压缩性)作铺垫——6.1 节将详细回到 Simpson 悖论并把本章关于混杂的图形工具用于解决经典悖论;也为第 7 章的反事实逻辑埋下伏笔——5.3.3 节末尾已明确指出非参数因果效应识别本质上是回答 do(x) 干预查询,唯一地、可由数据与图推出;7.4.4 节将进一步证明 SEM 与潜在结果模型数学等价,5.6 节后记则把这一等价关系与第二版期间的实证经济学进展(Heckman、Morgan-Winship、Brito-Pearl 的新识别准则、k-识别稳健性)对接。本章在全书中的角色是把第 3、4 章的理论成果重新锚定到 SEM 与计量经济学的传统表述与争议中,从而实现"恢复 SEM 因果解读"这一野心目标。