Random Matrix Theory · 课时
L01 习题与完整解答
源文件:L01-exercises.md
L01 习题与完整解答
对应讲义:L01:概率空间、事件与期望
本习题集共 8 题:基础题 3 道、证明题 3 道、探索题 2 道。每题后的完整解答默认折叠。建议先独立作答,再展开核对。
一、基础题
基础题 1:指示函数与二事件容斥
设 $A,B$ 是同一概率空间中的两个事件。
-
证明逐点恒等式
$$ \mathbf 1_{A\cup B} =\mathbf 1_A+\mathbf 1_B-\mathbf 1_{A\cap B}. $$ -
对恒等式取期望,推出二事件容斥公式。
完整解答
所用事实
- 指示函数 $\mathbf 1_A$ 在 $A$ 上取 1,在 $A^c$ 上取 0;
- $\mathbb E[\mathbf 1_A]=\mathbb P(A)$;
- 期望具有线性。
逐步推导
固定任意 $\omega\in\Omega$。按照 $\omega$ 是否属于 $A$、$B$,共有 4 种情形:
- 若 $\omega\notin A$ 且 $\omega\notin B$,等式两边都是 0;
- 若 $\omega\in A$ 且 $\omega\notin B$,左边为 1,右边为 $1+0-0=1$;
- 若 $\omega\notin A$ 且 $\omega\in B$,左边为 1,右边为 $0+1-0=1$;
- 若 $\omega\in A\cap B$,左边为 1,右边为 $1+1-1=1$。
因此恒等式对每个 $\omega$ 都成立。两边取期望并使用线性,得到
$$
\mathbb P(A\cup B)
=\mathbb P(A)+\mathbb P(B)-\mathbb P(A\cap B).
$$
假设用途
$A,B$ 必须是事件,才能保证相关指示函数可测、概率和期望有定义。整个证明不需要 $A,B$ 独立。
常见错误
把 $\mathbb P(A\cap B)$ 直接写成 $\mathbb P(A)\mathbb P(B)$。这个乘法公式需要独立性,本题没有该假设,也不需要它。
基础题 2:简单随机变量的期望
设 $A$ 是事件,$\mathbb P(A)=p$。随机变量 $X$ 定义为:在 $A$ 上取 2,在 $A^c$ 上取 $-1$。
- 求 $\mathbb E[X]$;
- 求使 $\mathbb E[X]=0$ 的 $p$;
- 说明为什么本题反驳了“期望一定是随机变量可能取到的值”。
完整解答
所用事实
简单随机变量的期望是各取值按其概率加权的和;也可将 $X$ 写成指示函数的线性组合。
逐步推导
因为 $X=2$ 在 $A$ 上、$X=-1$ 在 $A^c$ 上,所以
$$
X=2\mathbf 1_A-\mathbf 1_{A^c}
=2\mathbf 1_A-(1-\mathbf 1_A)
=3\mathbf 1_A-1.
$$
利用期望线性以及 $\mathbb E[\mathbf 1_A]=p$,
$$
\mathbb E[X]=3p-1.
$$
要使期望为 0,必须有 $3p-1=0$,故
$$
p=\frac13.
$$
当 $p=1/3$ 时,$X$ 仍然只可能取 $2$ 或 $-1$,从不取 0,但其期望等于 0。因此期望是概率加权中心,不必属于随机变量的值域。
假设用途
条件 $\mathbb P(A)=p$ 决定两种取值的权重;$\mathbb P(A^c)=1-p$ 来自概率空间总质量为 1。
常见错误
把期望理解成“最常出现的值”。最常出现的值是众数概念,和期望不是同一个对象。
基础题 3:期望线性不要求独立
设 $X$ 可积,并令 $Y=X$。
- 求 $\mathbb E[X+Y]$;
- 判断 $X,Y$ 是否独立;
- 解释这个例子为什么说明期望线性不依赖独立性。
完整解答
所用事实
只要 $X,Y$ 可积,期望就满足
$$
\mathbb E[X+Y]=\mathbb E[X]+\mathbb E[Y],
$$
不需要独立性。
逐步推导
因为 $Y=X$,所以逐点有 $X+Y=2X$。于是
$$
\mathbb E[X+Y]=\mathbb E[2X]=2\mathbb E[X].
$$
除非 $X$ 几乎处处为常数等退化情形,否则 $Y=X$ 表示二者完全相关,并不独立。例如事件 $\{X\in C\}$ 与 $\{Y\in C\}$ 实际是同一事件,通常不会满足概率乘法公式。
假设用途
可积性 $\mathbb E|X|<\infty$ 保证上述期望都是有限且有定义的。没有使用独立性。
常见错误
把“独立随机变量的方差可加”误记成“只有独立随机变量的期望才可加”。前者通常需要独立性,后者不需要。
二、证明题
证明题 1:零距离推出几乎处处相等
设 $a\in\mathbb R$,随机变量 $X$ 满足
$$
\mathbb E|X-a|=0.
$$
证明 $X=a$ 几乎处处。
完整解答
所用事实
若非负随机变量 $Y$ 满足 $\mathbb E[Y]=0$,则 $Y=0$ 几乎处处。
逐步推导
定义
$$
Y=|X-a|.
$$
绝对值保证 $Y\ge0$,题设给出 $\mathbb E[Y]=0$。为不把所用命题当成黑箱,也可直接证明:对每个正整数 $m$,Markov 不等式给出
$$
\mathbb P(Y\ge1/m)
\le m\mathbb E[Y]=0.
$$
又因为
$$
\{Y>0\}=\bigcup_{m=1}^{\infty}\{Y\ge1/m\},
$$
可数次可加性给出 $\mathbb P(Y>0)=0$。因此 $Y=0$ 几乎处处,也就是 $|X-a|=0$ 几乎处处,等价于 $X=a$ 几乎处处。
假设用途
绝对值使 $Y$ 非负,这是从零期望推出几乎处处为零的关键。若只知道 $\mathbb E[X-a]=0$,正负部分可能抵消,不能推出 $X=a$。
常见错误
从 $\mathbb E[X-a]=0$ 直接推出 $X=a$。例如对称取值 $-1,1$ 的随机变量期望为 0,但并不恒等于 0。
证明题 2:完整证明 Markov 不等式
设 $X\ge0$,且 $t>0$。证明
$$
\mathbb P(X\ge t)\le\frac{\mathbb E[X]}{t}.
$$
完整解答
所用事实
使用指示函数、期望的单调性以及 $\mathbb E[\mathbf 1_A]=\mathbb P(A)$。
逐步推导
先证明逐点不等式
$$
t\mathbf 1_{\{X\ge t\}}\le X.
$$
固定 $\omega$:
- 若 $X(\omega)\ge t$,左边为 $t$,故左边不超过 $X(\omega)$;
- 若 $X(\omega)
对逐点不等式取期望,由单调性得到
$$
t\mathbb E[\mathbf 1_{\{X\ge t\}}]\le\mathbb E[X].
$$
指示函数期望等于事件概率,因此
$$
t\mathbb P(X\ge t)\le\mathbb E[X].
$$
最后因为 $t>0$,两边除以 $t$,得到所需结论。
假设用途
$X\ge0$ 用于事件补集上的比较 $0\le X(\omega)$;$t>0$ 用于最后除以 $t$ 且不改变不等号方向。
常见错误
对可能取负值的 $X$ 直接套用该形式。一般实随机变量应先对 $|X|$ 使用 Markov 不等式。
证明题 3:方差为零的等价刻画
设 $X$ 二阶可积。证明
$$
\operatorname{Var}(X)=0
\quad\Longleftrightarrow\quad
X=\mathbb E[X]\ \text{几乎处处}.
$$
完整解答
所用事实
方差定义为
$$
\operatorname{Var}(X)
=\mathbb E\!\left[|X-\mathbb E[X]|^2\right],
$$
且非负随机变量期望为 0 当且仅当它几乎处处为 0。
逐步推导
先证正向。若 $\operatorname{Var}(X)=0$,令
$$
Y=|X-\mathbb E[X]|^2.
$$
则 $Y\ge0$ 且 $\mathbb E[Y]=0$,因此 $Y=0$ 几乎处处。平方为 0 当且仅当底数为 0,所以
$$
X=\mathbb E[X]\qquad\text{几乎处处}.
$$
再证反向。若 $X=\mathbb E[X]$ 几乎处处,则 $|X-\mathbb E[X]|^2=0$ 几乎处处,故其期望为 0,即 $\operatorname{Var}(X)=0$。
假设用途
二阶可积保证方差有限且定义良好。正向证明依赖平方偏差的非负性。
常见错误
混淆“$\mathbb E[X]=0$”与“$\operatorname{Var}(X)=0$”。前者允许正负取值抵消;后者才表示随机变量几乎处处是常数。
三、探索题
探索题 1:异常事件计数
设 $X_1,\ldots,X_n$ 为可积随机变量,不假设相互独立。对 $t>0$ 定义
$$
N_t=\sum_{i=1}^n\mathbf 1_{\{|X_i|\ge t\}}.
$$
- 求 $\mathbb E[N_t]$;
- 仅利用 $\mathbb E|X_i|$,证明 $\mathbb P(N_t\ge1)$ 的一个上界;
- 指出推导中的哪些步骤不需要独立性。
完整解答
所用事实
使用期望线性、指示函数期望公式和 Markov 不等式。也可用 union bound 得到同一概率上界。
逐步推导
首先,由期望线性,
$$
\mathbb E[N_t]
=\sum_{i=1}^n\mathbb E[\mathbf 1_{\{|X_i|\ge t\}}]
=\sum_{i=1}^n\mathbb P(|X_i|\ge t).
$$
由于 $N_t\ge0$,对阈值 1 使用 Markov 不等式,
$$
\mathbb P(N_t\ge1)\le\mathbb E[N_t].
$$
再分别对非负随机变量 $|X_i|$ 使用 Markov 不等式,
$$
\mathbb P(|X_i|\ge t)
\le\frac{\mathbb E|X_i|}{t}.
$$
合并得到
$$
\mathbb P(N_t\ge1)
\le\frac1t\sum_{i=1}^n\mathbb E|X_i|.
$$
另一条路线是注意
$$
\{N_t\ge1\}
=\bigcup_{i=1}^n\{|X_i|\ge t\},
$$
然后先用 union bound,再对每项使用 Markov 不等式。
假设用途
可积性保证每个 $\mathbb E|X_i|$ 有限;$t>0$ 允许除以 $t$。期望线性、union bound 和以上 Markov 估计都不需要 $X_i$ 独立。
常见错误
把并集概率写成各事件概率之和。一般只有上界;事件重叠时直接相加会重复计算。也不要为了使用期望线性而额外假设独立。
探索题 2:均值为零不等于没有随机性
令 $X$ 以概率 $1/2$ 取 1,以概率 $1/2$ 取 $-1$。
- 计算 $\mathbb E[X]$ 和 $\operatorname{Var}(X)$;
-
令 $X_1,\ldots,X_n$ 为 $X$ 的独立副本,并令
$$ H=\operatorname{diag}(X_1,\ldots,X_n). $$
计算 $\mathbb E[H]$,并判断 $H$ 是否可能等于零矩阵; -
解释这个例子对随机矩阵“矩阵元均值归一化”的提醒。
完整解答
所用事实
离散随机变量的期望按概率加权求和;矩阵期望按矩阵元逐项计算。
逐步推导
首先,
$$
\mathbb E[X]
=\frac12\cdot1+\frac12\cdot(-1)=0.
$$
又因为 $X^2=1$ 恒成立,
$$
\operatorname{Var}(X)
=\mathbb E[X^2]-(\mathbb E[X])^2
=1-0=1.
$$
对角矩阵的期望逐项计算:
$$
\mathbb E[H]
=\operatorname{diag}(\mathbb E[X_1],\ldots,\mathbb E[X_n])
=0.
$$
但是每个对角元都等于 $1$ 或 $-1$,从不为 0。因此 $H$ 不可能是零矩阵;事实上
$$
H^2=I_n
$$
恒成立。
随机矩阵连接
“矩阵元均值为 0”只消除了确定性的平均偏移,不会消除方差或谱波动。随机矩阵模型还必须明确方差和尺度;否则仅写“中心化”远远不够。
假设用途
独立性不是计算 $\mathbb E[H]$ 所必需的,但它把 $X_i$ 组织成标准的独立随机符号模型,便于后续研究联合谱行为。
常见错误
从 $\mathbb E[H]=0$ 推出 $H=0$。矩阵期望仍是平均值,不能代表每次随机实现。