多维随机变量 ¶

若多个随机变量构建新的变量，Z= g(X,Y), 则可以通过联合分布得到 Z 的分布

[ E(g(X,Y)) = \sum_x\sum_y g(x,y)p(x,y)]

若 g 是 X,Y 的线性函数时

[ E(aX+bY+c) = a E(X)+ bE(Y)+c]

班上有 300 个学生，每人得 A 的概率是 1/3。X 是班上得到 A 的学生的总数，问 X 的期望值？

多维正态分布 ¶

二维正态随机变量 $(\boldsymbol{X}_1, \boldsymbol{X}_2)$ 的概率密度函数为：

$$ f(x_1, x_2) = \frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}} \exp \left\{ \frac{-1}{2(1-\rho^2)} \left[ \frac{(x_1 - \mu_1)^2}{\sigma_1^2} + \frac{(x_2 - \mu_2)^2}{\sigma_2^2} - 2\rho \frac{(x_1 - \mu_1)(x_2 - \mu_2)}{\sigma_1\sigma_2} \right] \right\} $$

将上式中的协方差矩阵 $\boldsymbol{C}$ 写成矩阵形式，为：

$$ \boldsymbol{C} = \begin{pmatrix} c_{11} & c_{12} \\ c_{21} & c_{22} \end{pmatrix} = \begin{pmatrix} \sigma_1^2 & \rho\sigma_1\sigma_2 \\ \rho\sigma_1\sigma_2 & \sigma_2^2 \end{pmatrix} $$

它的行列式 $\det \boldsymbol{C} = \sigma_1^2\sigma_2^2(1-\rho^2)$，$\boldsymbol{C}$ 的逆矩阵为：

$$ \boldsymbol{C}^{-1} = \frac{1}{\det \boldsymbol{C}} \begin{pmatrix} \sigma_2^2 & -\rho\sigma_1\sigma_2 \\ -\rho\sigma_1\sigma_2 & \sigma_1^2 \end{pmatrix} = \frac{1}{\sigma_1^2\sigma_2^2(1-\rho^2)} \begin{pmatrix} \sigma_2^2 & -\rho\sigma_1\sigma_2 \\ -\rho\sigma_1\sigma_2 & \sigma_1^2 \end{pmatrix} $$

经过计算可知，这里矩阵 $(\boldsymbol{X}-\boldsymbol{\mu})^T$ 是 $(\boldsymbol{X}-\boldsymbol{\mu})$ 的转置矩阵：

$$ (\boldsymbol{X}-\boldsymbol{\mu})^T \boldsymbol{C}^{-1} (\boldsymbol{X}-\boldsymbol{\mu}) = \frac{1}{\det \boldsymbol{C}} \begin{pmatrix} x_1 - \mu_1 & x_2 - \mu_2 \end{pmatrix} \begin{pmatrix} \sigma_2^2 & -\rho\sigma_1\sigma_2 \\ -\rho\sigma_1\sigma_2 & \sigma_1^2 \end{pmatrix} \begin{pmatrix} x_1 - \mu_1 \\ x_2 - \mu_2 \end{pmatrix} = \frac{1}{\sigma_1^2\sigma_2^2(1-\rho^2)} \left[ (x_1 - \mu_1)^2 \sigma_2^2 + (x_2 - \mu_2)^2 \sigma_1^2 - 2\rho (x_1 - \mu_1)(x_2 - \mu_2) \sigma_1\sigma_2 \right] $$

于是 $(\boldsymbol{X}_1, \boldsymbol{X}_2)$ 的概率密度函数可写成：

$$ f(x_1, x_2) = \frac{1}{2\pi\sqrt{\det \boldsymbol{C}}} \exp \left\{ -\frac{1}{2} (\boldsymbol{X}-\boldsymbol{\mu})^T \boldsymbol{C}^{-1} (\boldsymbol{X}-\boldsymbol{\mu}) \right\} $$

好的，以下是图片中公式的 OCR 结果，使用 Markdown 公式表示，其中向量用 \boldsymbol 表示：

二维正态随机变量 $(\boldsymbol{X}_1, \boldsymbol{X}_2)$ 的概率密度函数为：

$$ f(x_1, x_2) = \frac{1}{(2\pi)^{2/2} (\det \boldsymbol{C})^{1/2}} \exp \left\{ -\frac{1}{2} (\boldsymbol{X}-\boldsymbol{\mu})^T \boldsymbol{C}^{-1} (\boldsymbol{X}-\boldsymbol{\mu}) \right\} $$

上式容易推广到 $n$ 维正态随机变量 $(\boldsymbol{X}_1, \boldsymbol{X}_2, \cdots, \boldsymbol{X}_n)$ 的情况。引入列矩阵：

$$ \boldsymbol{X} = \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix} \quad \text{和} \quad \boldsymbol{\mu} = \begin{pmatrix} \mu_1 \\ \mu_2 \\ \vdots \\ \mu_n \end{pmatrix} = \begin{pmatrix} E(\boldsymbol{X}_1) \\ E(\boldsymbol{X}_2) \\ \vdots \\ E(\boldsymbol{X}_n) \end{pmatrix} $$

$n$ 维正态随机变量 $(\boldsymbol{X}_1, \boldsymbol{X}_2, \cdots, \boldsymbol{X}_n)$ 的概率密度定义为：

$$ f(x_1, x_2, \cdots, x_n) = \frac{1}{(2\pi)^{n/2} (\det \boldsymbol{C})^{1/2}} \exp \left\{ -\frac{1}{2} (\boldsymbol{X}-\boldsymbol{\mu})^T \boldsymbol{C}^{-1} (\boldsymbol{X}-\boldsymbol{\mu}) \right\} $$

其中 $\boldsymbol{C}$ 是 $(\boldsymbol{X}_1, \boldsymbol{X}_2, \cdots, \boldsymbol{X}_n)$ 的协方差矩阵。

边缘分布 ¶

对于给定给定 $\mu_1$ , $\mu_2$ , $\sigma_1$ , $\sigma_2$, $\rho$ 的二维正态分布，不同的 $\rho$ 对应不同的二位正态分布，他们的边缘分布是一样的

条件分布 ¶

多维随机变量 ¶