线性回归模型

但如果仅仅停留在 $p(H, I, T)$ 的整体分布，实际上并无法揭示变量之间机制性的联系。统计学里，通常我们关注条件分布，而不是联合分布。利用概率分解公式，

我们可以把联合分布拆解为两个部分：其一，是收入和保险组合在总体中的分布 $p(I, T)$，其二，是在已知收入与保险情况下对“医疗服务需求”的条件分布 $p(H \mid I, T)$。

在实际模型构建中，研究者更关注变量间的条件变异性，即 $Y$ 在给定 $\mathbf{X}$ 时如何变化，而不关心所有变量的联合波动。

于是，条件分布的概念提供了分析因变量 $Y$ 与协变量 $\mathbf{X}$ 之间关系的基础。例如在经济学中，我们常常关注 $p(Y \mid \mathbf{X})$ ——即给定协变量的条件下，因变量的分布情况。

回归函数为何居于核心地位

进一步深入，统计建模实际上是在条件分布 $p(Y \mid \mathbf{X})$ 中选择我们感兴趣的特征。计量经济学中，经常关注的是条件期望，也就是回归函数：

以医生就诊次数 $Y$ 为例，回归函数 $\mathbb{E}[Y|I,T]$ 就描述了在特定收入和保险情况下，平均就诊次数如何变化。这是我们后续多次会提到的典型设定。

然而，均值未必永远最重要。例如，若我们研究收入 $I$ 的条件分布，且其分布存在强烈偏态时，条件中位数 $M[I|\mathbf{X}]$ 或某一特定分位数（如20分位、50分位等）可能更有代表性。有时目标甚至是量化第5百分位收入（贫困线）随协变量如何变动。

在金融领域，若关注的是股票等资产回报率 $R$，均值并非唯一关注点。条件方差 $\operatorname{Var}(R|\mathbf{X})$ 有时更加重要，因为它体现了风险。

多元线性回归模型的基本框架

多元线性回归模型是用于刻画一个因变量（又称被解释变量）$y$与多个自变量（解释变量）$x_1, x_2, ..., x_K$之间数量关系的统计工具。在实际经济应用中，这一模型帮助我们理解并量化多个影响因素共同作用下的结果变量变化。

模型的数学表达形式为：

其中，$y$代表因变量，$x_1, x_2, ..., x_K$为各个自变量，$$是待估参数，为干扰项或误差项。理论研究常常决定具体的函数形式，最常见的设定就是右侧这类线性加权结构，其也被称为对的“总体回归方程”。

在这个结构中，$y$通常是我们关注的依赖变量，而$x_k$（$k = 1,...,K$）作为回归量，通常体现的是外部可观测和可控制因素。基础的经济理论与现实问题会指定哪些变量是因变量、哪些是自变量。

在建模过程中，我们通常假定自变量（解释变量）可以以“外生”或“自主变动”的方式变化，即这些变量的取值不会被本模型内部的其他机制影响。相应地，因变量的变动被认为是这些外部刺激下的被动反应。

随机干扰项的含义与来源

误差项$\varepsilon$（有时也写作$u$）反映了实际观测中无法完全由模型中自变量解释的部分。之所以需要引入$\varepsilon$，是因为在真实世界中不可能解释所有导致因变量波动的影响因素，无论模型设计多么精细。

被遗漏的变量、数据测量误差、模型制定简化、理论假设与实际的偏离等，都可能成为误差项的来源。例如，若研究工资水平时不能观察到每个人的能力或工作态度，这些因素的作用就会被归入$\varepsilon$之中。

更极端的情形下，模型理论中的某些变量在实际中根本无法被观测到。例如，著名的“持久收入”理论研究中，个体预期未来收入的真实情况难以数据化，这也意味着只能将其与测量误差一并视作模型的随机成分。

假设在一组样本中，每个观测点$(y_i, x_{i1}, x_{i2}, ..., x_{iK})$ 符合如下生成过程：

其中，观测到的$y_i$由一部分可由自变量精确解释（即线性项），另一部分为$\varepsilon_i$代表的成分捕捉不可见影响。我们的分析任务，就是用数据方法估计未知参数$\beta_1, ..., \beta_K$，验证理论构想的逻辑，以及借助所建模型进行预测或政策推演。

究竟该如何展开计量分析，并不在于具体模型写法本身，而在于我们对观测数据产生机制（特别是$\varepsilon$的行为特征）所作出的科学假设——在后续章节会进一步详细阐述。

凯恩斯消费函数的实证扩展

凯恩斯在《就业、利息和货币通论》中首次提出了消费函数的概念，即社会整体消费支出 $C$ 与可支配收入 $X$ 之间存在着系统性关系。以年度宏观数据为例，我们经常观察到消费与收入呈现出正相关的趋势。用计量经济学的语言，凯恩斯的思想可被表述为，存在一种近似的函数关系使得：

其中，$f(\cdot)$ 是待定的函数。最常用的简化线性形式为：

但需注意，这种线性设定仅能近似地捕捉到“常规年份”消费与收入之间的总体趋势，而难以囊括一切影响因素。对宏观经济数据的直观观察揭示，即使剔除极端年份，消费与收入的关系依然受到多种复杂因素的扰动。试图通过确定性模型对所有波动进行解释是不现实的。

因此，计量分析会进一步引入不可观测的随机扰动，将现实复杂性纳入模型之中。这样，我们将消费函数表达为：

其中，$\varepsilon$ 表示各种不可测或被遗漏因素的集合（如偏好、信心、非观测政策等）。最简便的办法，是假设 $\varepsilon$ 以加性方式作用于消费函数：

这是最常见的随机线性消费函数。它实际对应着凯恩斯消费理论在实证检验上的基本模型框架。

此时，我们可以通过引入虚拟变量（虚拟或哑变量，dummy variable），将异常年份的结构特殊性显式建模。具体而言，对于具备 $n$ 年观测的样本，其战时（如 1942–1945 年）可用 $d_{\text{war}}$ 表示，令：

则调整后的消费函数形式为：

其中 $\delta_{\text{war}}$ 反映了战时配给等结构性事件对消费的系统性下调效应（期望 $\delta_{\text{war}} < 0$）。

下面的图表根据实际经济数据模拟了不同年份的消费—收入关系：

如图所示，在大多数年份内，$C$ 与 $X$ 呈明显正相关，但在特殊时期（如战争配给），$C$ 明显低于理论值，通过引入虚拟变量、分段回归等方法可以有效纠正整体模型预测。实际上，这也说明了回归方程的灵活性和对现实细节的适应能力。

教育与收入关系的多元建模

多元回归分析的一大优势是它能够考察多个自变量对因变量的独立边际影响。常见的一个实证问题是分析受教育年限与个人收入之间的关系。

直观地，我们会假设教育越高，收入越高。最简单的设定是：

然而，实际生活中影响收入的因素远超教育。比如，不同年龄段的人（即使受教育年限一样）其收入水平普遍不同。若忽略年龄因子，将高估教育的真实回报。因为通常教育高的人年龄也更大，简单回归会把“年龄增长”的效应混入“教育回报”中。

因此，更完整的模型应引入年龄控制变量：

此外，经济学和劳动力数据表明，收入随年龄增加先升后降或增长逐渐趋缓。为此，我们可以扩展为二次项：

一般来说，$\beta_3>0$，$\beta_4<0$，即收入随年龄提升，增幅在年纪渐长后趋于下降。

下图以四个年龄层为例，展示教育年限与收入的关系随年龄不同而变化的曲线：

这个图像直观展现，多元线性回归不仅有助于把复杂关系（如教育、年龄和收入）解耦，还能支持政策推演和现实外推。无论在某个教育水平比较不同年龄，还是在一个年龄段比较不同学历，其解释力都远强于单变量分析。

线性的含义与广义解释

“线性”这个词在回归分析中拥有特定且富有灵活性的含义。它的真正约束，并非在于解释变量 $x$ 与被解释变量 $y$ 的关系必须是严格的线性（直线）函数，而是指模型参数以线性方式进入方程，以及误差项 $\varepsilon$ 与参数无关。

举例来说，下列多种不同形式的回归模型虽然函数形式各异，但在参数和误差项的体现上均为“线性”模型：

值得一提的是，不仅 $x$ 可以被变换，$y$ 也可做变换。例如幂函数模型 $y = A x^{\beta} e^{\varepsilon}$，对两边取对数，便得到

这样即转化为 $(\ln y)$ 关于 $(\ln x)$ 的线性关系，参数 $\alpha, \beta$ 仍然线性进入方程，因此属于广义的线性回归框架。

下面的图展示了多种典型函数形式的走势差异：

正如图中所示，尽管 $x$ 与 $y$ 的函数关系可以有很大差异，但通过对变量做恰当变换（如取倒数、对数、余弦等），这些都能被纳入“线性回归”分析框架中。重点在于，线性指的是模型对参数 $\beta$ 的线性性，而非原始变量之间的直线关系。变量可以高度非线性，只要参数仍是线性地出现，模型即属于线性回归的一种。

对数线性模型在经济学中的价值

在众多实证分析中，对数线性（log-log）模型因其优美的弹性解释和简洁形式而备受青睐。其一般结构为：

这种模型有时被称为常弹性模型。原因在于：对于每个解释变量 $x_k$，

即 $y$ 关于 $x_k$ 的弹性由 $\beta_k$ 直接给出，且不随 $x_k$ 具体数值而改变。这让政策分析和经济推断极为直观、透明。

此模型在需求、生产等领域中普遍应用。不同的系数 $\beta_k$ 能刻画需求对价格、收入等因素变化的敏感度。例如，在消费需求分析、生产函数形态推断中经常见到。

例如，我们可以用近年来中国国家统计局的城镇居民数据，对食品支出、家庭收入以及食品价格的弹性进行估计。简化后的模型为：

通过对该模型进行回归，可以直观得出中国家庭食品消费对于收入、食品价格与非食品价格的弹性，从而理解各主要变量对食品消费的影响。

半对数模型与增长率分析

半对数模型（Semi-log Model）在实际应用中常用于增长过程的建模。具体而言，半对数模型可以表示为：

在这个模型中，$y_t$ 是因变量（如收入、产出）、$x_t$ 是自变量的向量，$\beta$ 是参数，$\delta$ 是时间趋势项，$\varepsilon_t$ 是误差项。该模型假设 的对数（而非 本身）与自变量及时间呈线性关系，广泛应用于时间序列分析、经济增长、工资函数等领域。

在上述半对数模型中，对时间 $t$ 的偏导数反映了 $y_t$ 的即时增长率。具体地，其年/期增长率计算为：

这意味着 $\delta$ 直接反映了 $y_t$ 持续增长的速度。例如如果 $\delta = 0.02$，即每期约有 $2\%$ 的增长。

更一般地，回归模型可以具有如下广义形式：

其中 $f(\cdot)$ 和 $g(\cdot)$ 可为各种变换函数。例如，$f(y_t) = \ln y_t$ 则为对数模型，这为模型应用提供了极大的灵活性。计量经济学家可以通过变换目标变量或解释变量实现多种非线性结构，同时模型参数依旧线性进入，仍符合线性模型的广义概念。

线性回归模型有时也被理解为对一个未知的底层真实函数 $h(x_t)$ 的线性近似。也就是说，实际关系可能是 $y_t = h(x_t) + \varepsilon_t$，我们用 （或加常数项、多项式项等）进行线性近似。但是，线性近似通常只在 变化范围较小时效果较好。如果 跨度较大，线性项加二次项的近似能力有限。

与此相比，跨对数（log-log）模型，即：

已被证明作为一般函数近似更为有效。它具有“弹性”解释，可以揭示自变量和因变量的相对变动关系，因此受到经济学领域的广泛青睐。

现代需求、生产、成本等经济研究通常倾向于采用灵活的函数形式（Flexible Functional Form）。例如，常见的跨对数模型、超越对数（Translog）模型、AIDS模型（Almost Ideal Demand System），它们能够高效地刻画如替代弹性等二阶属性，使研究者得以分析产品间的可替代性或规模报酬等问题。这些弹性（如 Hicks、Allen-Uzawa 弹性等）都与生产函数、成本函数或效用函数的二阶导数密切相关。

总之，半对数以及跨对数模型的广泛使用扩大了线性回归理论在经济行为建模上的解释力和适用范围，为经验分析提供了更能契合实际复杂经济关系的工具。

线性回归模型的基本假设及解析

在线性回归分析中，建模过程依赖一系列关于“观测数据来自何种概率机制”的假设。这些假设不仅决定了模型形式（即因变量与自变量之间的数量关系），也直接影响参数估计与统计推断的有效性。下面系统梳理最常见的六项核心假设，解释其意义及经济计量应用中的常见情形。

假设一：线性结构

数学表达：

即，因变量 $y_i$ 与各个自变量 $x_{ij}$ 之间呈现参数线性关系。令 $y$ 表示 $n$ 维观测向量，$X$ 为 的数据矩阵（ 为参数个数）， 为参数列向量， 为误差项列向量，则有：

多数实际中，$X$ 的第一列全为 1，对应截距项 $\beta_0$。线性假设意味着，任何自变量的一个单位变动会带来 $y$ 的线性变动；该假设下参数易于解释和估计。特别地，若 $X$ 仅含两列（常数和一个解释变量），即为简单线性回归模型。

参数向量 $\beta$ 的估计与推断是回归分析的核心目标。线性假设保证最小二乘估计（OLS）具有明确的最优性解释。

假设二：设计矩阵满秩

数学表达：

亦即 $X$ 的所有 $K$ 列线性无关，且样本量 $n \geq K$。这一“可辨识性”或“列满秩”要求，保证参数可以唯一确定，否则会出现共线性（Collinearity）问题。

例如，设某模型如下：

若 $\text{总收入} = \text{工资} + \text{非工资收入}$，则三变量完全线性相关，任意线性组合参数都能让右端不变——参数不可识别。

约束$X$满秩是回归分析顺利进行的先决条件，违背时模型无解或解不唯一。二元模型中，该假设需 $x$ 有变异，否则数据全部落在一根垂直线上——无法估计回归斜率。

假设三：外生性（零条件均值）

数学表达：

即对于任意解释变量取值，误差项期望都为零。整体上也可写成：

这说明，自变量 $X$ 的任何观察信息都不揭示关于误差项均值的信息，意味着 $X$ 与 $\epsilon$ 非系统相关。

由该假设推出 $E(\epsilon_i) = 0$（无条件均值），也有

若无外生性，$X\beta$ 不再是 $y$ 关于 $X$ 的条件期望函数，最小二乘解释失效。

假设四：球形扰动（等方差与无自相关）

数学表达：

即，所有误差均具有相同方差且互不相关。这称为“同方差性”（Homoskedasticity）和“无自相关性”（No Autocorrelation）。对向量化写法：

现实中，若大企业利润的方差远大于小企业，此假设不成立，应采用稳健方法或广义最小二乘等。时间序列中若误差存惯性，需检验与调整自相关。

下图直观展示球形扰动与异方差的不同：

如图，左侧每个 $x$ 取值下误差分布宽度均等，右侧误差随 $x$ 增大变宽，显示异方差性。当不满足假设时，应采用稳健标准误或调整方法。

假设五：解释变量的数据特性

假设要求：

• 解释变量 $X$ 可以被视作非随机（固定设计），此为自然科学实验常见情景。例如化学实验中由实验设计决定 $x_i$。
• 在社会科学实际中，$X$ 通常是随机向量。这种情况下，假设 $X$ 的“生成机制”独立于误差 $\epsilon$，或者关注 $X$ 的条件分布性质即可。

无论 $X$ 是固定还是随机，回归理论大多数结论依然成立。尤其在经济、金融等领域，通常假定样本 $X$ 为总体的随机抽样，以便进行统计推断。

假设六：误差项正态分布

数学表达：

其中 $\mathcal{N}$ 表示正态分布。此假设便于导出参数估计的精确分布，并用于原假设检验、置信区间等推断。一般认为，当样本容量足够大时，中心极限定理保证OLS估计近似正态。

正态性并非保证参数一致性和无偏性的必要条件，但在有限样本、精确推断时具有便利性。在参数众多或样本小的情况下，若正态性不成立，建议采用非参数方法或稳健推断技术。

不同类型的“独立性”

在这一部分中，“独立”一词以几种方式使用，我们需要澄清这些不同的含义：

线性独立性是一个代数概念，涉及X的列秩。在这种情况下，基础解释是模型中的变量必须能够彼此线性独立地变化。

如果变量不能彼此独立地变化，那么就不可能在假设变量可以在保持其他变量不变的情况下各自变化的线性回归模型中分析它们。

这里有一个关于独立性讨论的歧义。在教育与收入的例子中，我们既有年龄又有年龄的平方。这些不能独立变化，但在包含年龄和年龄平方的回归模型中没有障碍。解决方案是年龄和年龄的平方虽然在函数上不独立，但它们是线性独立的。这是线性回归模型中的关键假设。

经典回归模型的可视化理解

经典的线性回归（classic linear regression）模型最基础的可视化方式是考虑二元的情形。令自变量为 $x$，因变量为 $y$。在此框架下，条件期望 $\mathbb{E}(y|x)$ 是 $x$ 的线性函数，即：

对于每一个给定的 $x$（例如 $x_0,\,x_1,\,x_2$），$y$ 的分布都是正态分布，其均值为 ，方差为 。公式如下：

这样的图示对于理解回归模型至关重要，因为它直观地展示了三个核心特性：

• $\mathbb{E}(y|x)$ 关于 $x$ 呈线性关系；
• 对于任意 $x$，$y$ 的方差始终相等（同方差性）；
• $y$ 在每个 $x$ 下的条件分布都是正态分布。

此图清晰地展现了，随着 $x$ 变化，$\mathbb{E}(y|x)$ 以线性轨迹变动，并且对于任一 $x$，$y$ 在该点的条件分布都具有相同的方差 $\sigma^2$，是正态分布。这就是经典回归模型假设的直观反映。

实际应用中的挑战和局限性

尽管线性回归模型极具灵活性与广泛适用性，现实经济和社会数据往往存在偏离这些经典假设的情况。下面举例说明几种典型的挑战：

非线性关系的处理

有些研究对象本质上具有非线性结构。例如，设 $y$ 表示某患者一段时期内医生就诊次数，$x$ 为其健康或社会因素，一种更切合实际的模型为：

直观上，采用对数变换好像可以“线性化”模型，因为：

但实际中，$\ln \mathbb{E}[y|x] \ne \mathbb{E}[\ln y|x]$。更进一步地，如果 $y = 0$（很多样本确实为零），$\ln y$ 就根本不存在。因此，直接将 作为响应变量建模既不合理，也无法保证对参数的有效估计。

下图直观演示了线性回归在应对强非线性趋势时的局限性：

从上图可见，简单用线性模型逼近指数型增长的趋势，会导致严重的系统性误差。尤其是在 $y$ 取零或者很小值的情况下，线性与对数拟合都可能失效。这提醒我们在实际经济计量研究中，模型选择必须紧密结合实际数据的特征与理论假设。

模型识别（identification）问题举例

在实证研究中，变量间的线性相关性（共线性）有时会导致模型“不可识别”。下例展示了经典识别问题：

假设研究者（出于理论或惯性）设定如下莫奈画作售价的模型：

注：$\text{尺寸} = \text{宽度} \times \text{高度}$，$\text{长宽比} = \text{宽度}/\text{高度}$。

通过对数运算不难得到：

可见，上述三个协变量存在严格的线性关系，即

因而，上述回归模型无法被识别（not identified）：协变量线性相关，估计将无法唯一确定各系数。这与变量必须“线性独立变化”的基本假设直接冲突。哪怕任意两个变量可以独立变化，三个协变量一起仍然受限。

这个案例提醒我们，建立模型时务必检查变量之间有无隐藏的函数（特别是线性）依赖，否则必然产生不可识别的问题。

线性回归模型的重要地位

线性回归模型在现代经济分析中扮演着不可替代的核心角色。它不仅作为一种独立且高效的分析工具广泛应用，还为理解和构建更复杂的计量经济模型奠定了坚实的理论和实践基础。无论是在理论研究还是在实际数据分析中，线性回归几乎都是推进经济学实证研究的第一步。

模型的普适性与灵活性

线性回归模型最突出的优势在于其普适性与灵活性。首先，它可以适用于处理多种类型的经济数据和问题。通过对变量进行恰当的变换（例如对数变换、标准化、哑变量扩展等）和模型形式的调整，线性回归理论上可以逼近任意平滑的函数关系。因此，几乎所有常见的经济现象——无论是线性还是某种非线性的经济关系——都能在一定程度上线性化，从而纳入线性回归的分析框架。

实际上，许多复杂的非线性关系，经过合理的函数变换后，可以用线性回归模型进行近似和刻画。例如对收入-消费关系、需求弹性、资本边际产出等领域，研究者往往通过对变量取对数将其转化为线性框架下可解的问题。此外，线性回归模型也方便地兼容分类变量（虚拟变量/哑变量），使得对制度变革、政策冲击等“离散效应”可以直接量化分析。

作为分析起点的不可替代价值

即使在高级且复杂的现代研究中，线性回归模型依然是几乎所有实证分析的出发点。其不可替代的价值主要体现在以下几个方面：

因此，无论是在探索数据、验证理论、还是为复杂分析做准备，线性回归模型都发挥着独特且不可替代的作用。正如许多著名计量经济学教材所强调，“所有的回归起点都是 OLS（普通最小二乘法）”。

总结与展望

线性回归模型作为计量经济学的基石，为我们提供了一个强大而灵活的工具来理解经济变量之间的关系。

模型构建始于对变量关系的基本直觉，然后通过数学形式化和统计假设来建立可检验的框架。线性回归模型通过其六个核心假设，为我们提供了一个既严谨又实用的分析框架。

虽然线性模型有其局限性，但正如我们所看到的，通过适当的变量变换和模型设定，它可以处理广泛的经济关系。更重要的是，它为理解和应用更高级的计量经济学方法提供了必要的基础。

也可以反过来写成所谓的反需求方程

两者本质上都描述市场机制，只是解释视角不同。