【CT3系列】MGF 矩量母函数:和 My Girlfriend 缩写一样的函数



  • 导语

    看了上一篇《恋爱险的起源》的朋友们应该都了解MGF这个梗了。没看过上一篇,真的以为MGF是My Girlfriend才点进来看的同学,请自行面壁思过,不好好考精算证,想什么女朋友(手动doge)。

    进入正题。MGF的全称是Moment Generating Function,即矩量母函数。在统计学中,矩又被称为动差(moment)。因此,矩量母函数(Moment Generating Function,简称MGF)又被称为动差生成函数。MGF是IFoA CT3第五章的内容。

    定义

    首先,我们引入MGF的定义。
    随机变量 X 的矩量母函数 MX(t) 对所有存在期望值的 t 定义为:
    MX(t)=E[etX]
    我们知道,期望的公式为
    $$
    E[ g(x)]=\left{
    xg(x)P(X=x),X -g(x)fX(x)dx,X
    \right.
    MGFM_{X} (t)=E[ e^{tX} ]=\left{
    xetxP(X=x),X -etxfX(x)dx,X
    \right. $$

    随机变量的所有矩能由矩量母函数相继求微分得到

    我们把 MX(t) 称为矩量母函数,因为 X 的所有矩能由 MX(t) 相继求微分得到。例如:
    MX(t)=ddtE[etX]=E[ddt(etX)]=E[XetX]
    因此,
    MX(0)=E[X]
    类似地,
    MX(t)=ddtMX(t)=ddtE[XetX]=E[ddt(XetX)]=E[X2etX]
    所以,
    MX(0)=E[X2]
    一般地,MX(t)n 阶导数在 t=0 时等于 E[Xn],也就是说,
    MX(n)(0)=E[Xn],n1

    我们换种方法再证明一次:

    首先将 MX(t) 各项根据泰勒级数展开:
    MX(t)=E(etX)=E(1+tX+t22!X2+t33!X3+...) =1+tE[X]+t22!E[X2]+t33!E[X3]+...
    MX(t) 的展开式中,第 r 项为 trr!E[Xr]
    MX(t) 求一阶导:
    MX(t)=E[X]+tE[X2]+t22!E[X3]+...
    所以,
    MX(0)=E[X]

    MX(t) 求二阶导:
    MX(t)=E[X2]+tE[X3]+...
    所以,
    MX(0)=E[X2]

    计算特定分布的矩量母函数

    接下来,我们以泊松分布为例,介绍如何计算特定分布的矩量母函数。
    已知 Xpoi(λ),那么
    MX(t)=E[etX] =etXP(X=x) =etxλxx!eλ =eλ(λet)xx! =eλeλet =eλ(et1)
    考试中可能会出现这种题型,但如果题目中没有特别的要求,我们无需背诵每个分布对应的矩量母函数。直接查找公式书即可。

    两个重要性质

    矩量母函数的一个重要性质是,独立随机变量和的矩量母函数正是单个矩量母函数的乘积。
    为了理解这一点,假设XY是独立的,它们分别有矩量母函数 MX(t)MY(t),那么 X+Y 的矩量母函数 MX+Y(t) 是:
    MX+Y(t)=E[et(X+Y)]=E[etXetY]=E[etX]E[etY]=MX(t)MY(t)
    矩量母函数的另一个重要性质是,矩量母函数唯一地确定了分布。这就是说,在随机变量的矩量母函数和分布函数之间存在一一对应关系。
    这个性质的一个重要应用是,如果两种概率分布的MGF相同,那么他们的概率密度函数(概率分布也相同)。因此,只要推导出复合函数的MGF的表达式,就可以知道复合函数的概率分布。
    这样说可能还有点抽象,不要着急,我们来举例说明。
    例:如果 XY 分别是以 (n,p)(m,p) 为参数的独立二项随机变量,那么 X+Y 的分布是什么?
    解:
    X+Y 的矩量母函数为:
    MX+Y(t)=MX(t)MY(t)=(pet+1p)n(pet+1p)m=(pet+1p)n+m
    (pet+1p)n+m 正是以 (n+m,p) 为参数的二项随机变量的矩量母函数,从而它一定是 X+Y 的分布。即是说,X+Y 的分布为以 (n+m,p) 为参数的二项分布。

    总结

    可以说,MGF概念的引入让CT3变得生动起来。通过MGF,我们可以很方便地推导概率分布的种种性质,而无需重复地使用积分求解。矩的推导,独立随机变量线性组合的概率分布,复合分布的性质,都因为MGF的引入变得非常简单。
    如果你很遗憾地想,自己不仅没有Girlfriend,连矩量母函数都看不懂,那该怎么办呢?没关系,除了MGF以外,母函数还包括累计量母函数(cumulant generating function,简称CGF),概率母函数(probability generating function,简称PGF)。它们都使得矩的推导变得相当便捷。CGF,PGF,MGF,看懂其中一种,其余两种自然就懂了。
    CGF,MGF和PGF之间存在一些对应关系,比如,CGF是MGF的对数;而将PGF中的t换成et,即可得到MGF。三者原理相似,这里不再赘述,请自行参阅教材。

    思考题

    用MGF的相关知识证明以下结论:

    如果随机变量X服从参数为(α,λ)的伽马分布,那么2λX服从自由度为2α的卡方分布。

    {% raw %}
    <details>
    <summary>
    证明:
    </summary>
    {% endraw %}

    查表可知,伽马分布的矩量母函数
    MX(t)=(11λ)α
    Y=a+bX
    MY(t)=E[etY]=E[et(a+bX)]=eatE[ebtX]=eatMX(bt)
    这里,a=0b=2λ,所以:
    MY(t)=MX(2λt)=(12λtλ)α=(12t)α
    这正是自由度为 2α 的卡方分布的矩量母函数。
    因此,2λX 服从自由度为 2α 的卡方分布。

    {% raw %}</details>{% endraw %}


登录后回复