生成函数、矩母函数与随机变量和

前面一章用卷积直接处理随机变量函数和随机变量和。卷积的优点是忠实、可见，缺点是算起来容易散开。本章换一个角度：把一个分布编码成一个函数，让“求和”变成“函数相乘”，再从函数的导数里读出矩。

本章有三条主线。第一条是概率生成函数，适合非负整数型随机变量；第二条是矩母函数，适合在零点附近有指数矩的随机变量；第三条是特征函数，它总是存在，是后续学习更一般极限定理时的入口。

为什么要把分布装进函数

设 $X$ 和 $Y$ 是独立随机变量。若我们只看分布本身， $S=X+Y$ 的概率通常要通过卷积计算。离散情形是求和，连续情形是积分：

P(S=k)=\sum_j P(X=j)P(Y=k-j)

分布	PGF	MGF	备注
Bernoulli $(p)$	$1-p+ps$	$1-p+pe^t$	取值 $0,1$
Binomial $(n,p)$	$(1-p+ps)^n$	$(1-p+pe^t)^n$
Geometric $(p)$	$\frac{p}{1-(1-p)s}$	$\frac{p}{1-(1-p)e^t}$
Negative Binomial $(r,p)$	$\left(\frac{p}{1-(1-p)s}\right)^r$
Poisson $(\lambda)$	$\exp\{\lambda(s-1)\}$	$\exp\{\lambda(e^t-1)\}$	独立 Poisson 和仍是 Poisson
Normal $(\mu,\sigma^2)$	不适用	$\exp\{\mu t+\sigma^2t^2/2\}$	连续分布不用 PGF
Exponential $(\lambda)$	不适用	$\frac{\lambda}{\lambda-t}$	MGF 要求 $t<\lambda$
Gamma $(\alpha,\lambda)$	不适用	$\left(\frac{\lambda}{\lambda-t}\right)^\alpha$	同 rate 时可加

要找 $P(S=7)$ ，就是找 $G_S(s)$ 中 $s^7$ 的系数。两次点数和为 7 的有序组合为 $(1,6),(2,5),(3,4),(4,3),(5,2),(6,1)$ 。

每个有序组合在展开式中贡献一个 $s^7$ 项，且系数都有 $\frac{1}{36}$ 。因此 $s^7$ 的总系数是。

得到结论：

P(S=7)=\frac{1}{6}

Gamma $(\alpha,\lambda)$ 的 MGF 是

M(t)=\left(\frac{\lambda}{\lambda-t}\right)^\alpha

其中 $t<\lambda$ 。

独立性给出

M_{X+Y}(t)=M_X(t)M_Y(t)

代入两个 MGF 后得到

M_{X+Y}(t)=\left(\frac{\lambda}{\lambda-t}\right)^{\alpha_1} \left(\frac{\lambda}{\lambda-t}\right)^{\alpha_2}

合并指数：

M_{X+Y}(t)=\left(\frac{\lambda}{\lambda-t}\right)^{\alpha_1+\alpha_2}

先判断随机变量是否独立。若没有独立性，不能直接把 PGF、MGF 或特征函数相乘。

再判断随机变量类型。非负整数型优先考虑 PGF；连续型或一般实值随机变量可以考虑 MGF。

使用 MGF 前检查存在区间。若 MGF 在 $0$ 的邻域内不存在，改用特征函数，或者回到卷积、条件分布等方法。

若目标是概率，PGF 的系数最直接；若目标是普通矩，MGF 的零点导数最直接；若目标是证明和的分布，比较生成函数形式最直接。