浅谈条件期望 Mather King 数学 话题的 优秀回答者 已关注 yx3x 、 黑猫Q形态 、 Tingzhou Yu 等 283 人赞同了该文章 学习高等概率论的时候,会遇到条件期望这一概念,而且这一概念出现在鞅的定义之中,自然非常重要。但这一概念又比较难以理解(起码对于当年的我)。

让我们从头讲起。

首先,在初等概率论里,我们可以定义某个事件对另一个事件的条件概率,比如P(骰子点数是3或4|骰子点数是偶数)。其实就是把原先的样本空间限制到当做条件的事件上,做个归一化,当做一个新的概率空间。于是有Bayes公式

对于事件A,考虑其示性函数。那么我们有. 同理我们有. 所以条件概率只是条件期望的一个特例,以下我们只考虑条件期望。

目前为止,条件期望只是把原先的变量限制在的一个子集上,把概率归一化了之后求期望,算出来是一个实数。

对于两个离散型随机变量X和Y,也是一样的道理,限制在子集上求期望。但注意到这个值是的取值,即的函数,。于是我们可以把看做的函数,一个随机变量.

当X和Y有联合密度 的时候,不难想象 . 于是可以写出 , 其中 .

现在我们已经能够接受条件期望作为的一个函数,比如上面,按照的不同取值,可以得到条件期望的不同取值。

注意在上面的例子中,两个是否对应相同的取值,只依赖于两个是否取相同的值,而与这个值到底是多少没关系。于是我们试图剥离『Y的取值具体是什么』这个额外信息,只留下『Y的不同取值对的分划』这个信息。而能记录Y的不同取值而不记录取值具体是什么的,就是,上使得Y可测的最小的域。于是上面的可以写成.

既然我们只用了域这个信息,那么其实我们不用管这个域是哪个随机变量生成的,直接对域定义条件期望就可以了。

(对域的)条件期望的定义如下:考虑一个测度空间上的一个随机变量,满足。考虑一个子域。对的条件期望是一个随机变量,满足

(i)对可测.

(ii)对于任意,有.

条件期望不唯一,但任两个『版本』的条件期望只在一个零测集上不一样。

有兴趣的读者可以按照上述定义验证, 其中.

某种意义下,条件期望是把一个局部瞎jb取值的随机变量通过局部取均值打磨得光滑一些,于是就对更小的域可测了。由于是局部取均值,这个变换是保积分的。

条件期望的存在性需要用到Radon-Nikodym定理:

令和是上的两个有限的测度。如果,则存在对可测的函数,对于任意,有. 一般记作,叫做Radon-Nikodym导数。

(,即对绝对连续,如果对有,则.)

回到条件期望的存在性:先假设. 令, ,不难证明是一个有限的测度,并且有。那么由上述定理可得,存在Radon-Nikodym导数,使得. 不难验证Radon-Nikodym导数就是我们要的条件期望。对于一般的,取其正部和负部分别处理即可。

条件期望的存在性有一个泛函分析的证明,非常直观。

, 即 上的 (平方可积)函数,是一个yydqz空间, 上的 函数是其子空间。考虑一个 的随机变量 ,其相对于 的条件期望就是其在 这一子空间上的正交投影。

记投影为, . 注意和正交,所以, . 于是, 所以确实是条件期望。对于的变量,可以通过的变量逼近获得。

参考文献主要是Durrett的《概率论》,还有Bobrowski的《概率论与随机过程中的泛函分析》。

最后写个笑话,笑点和https://zhuanlan.zhihu.com/p/23393355最后的笑话一样。

我点了个椰子鸡,为啥上来个栗子鸡?

因为coconut就是nut。

谁告诉你nut是自反(reflexive)的?

之后要闭关干活,半个月内估计没空写东西了。

编辑于 2016-11-20 数学 概率论 随机过程 ​ 赞同 283​ ​ 32 条评论 ​ 分享 ​ 收藏 ​