3.4.3 协方差

二维联合分布中除含有各分量的边际分布外，还含有两个分量间相互关系的信息。描述这种相互关联程度的一个特征数就是协方差，它的定义如下：

定义 3.4.1

设 $(X,Y)$ 是一个二维随机变量，若 $E[(X-E(X))(Y-E(Y))]$ 存在，则称此数学期望为 $X$ 与 $Y$ 的协方差，或称为 $X$ 与 $Y$ 的相关（中心）矩，并记为

$$\mathrm{Cov}(X,Y)=E[(X-E(X))(Y-E(Y))]$$

特别有 $\mathrm{Cov}(X,X)=\mathrm{Var}(X)$。

协方差的含义

从协方差的定义可以看出，它是 $X$ 的偏差 “$X-E(X)$” 与 $Y$ 的偏差 “$Y-E(Y)$” 乘积的数学期望。由于偏差可正可负，故协方差也可正可负，也可为零，其具体表现如下：

• 当 $\mathrm{Cov}(X,Y)>0$ 时，称 $X$ 与 $Y$ 正相关。
  这时两个偏差 $(X-E(X))$ 与 $(Y-E(Y))$ 有同时增加或同时减少的倾向。由于 $E(X)$ 与 $E(Y)$ 都是常数，故等价于 $X$ 与 $Y$ 有同时增加或同时减少的倾向，这就是正相关的含义。

• 当 $\mathrm{Cov}(X,Y)<0$ 时，称 $X$ 与 $Y$ 负相关。
  这时有 $X$ 增加而 $Y$ 减少的倾向，或有 $Y$ 增加而 $X$ 减少的倾向，这就是负相关的含义。

• 当 $\mathrm{Cov}(X,Y)=0$ 时，称 $X$ 与 $Y$ 不相关。
  这时可能由两类情况导致：一类是 $X$ 与 $Y$ 的取值毫无关联（见性质 3.4.5），另一类是 $X$ 与 $Y$ 间存有某种非线性关系（见例 3.4.6）。

协方差的性质

下面的性质在协方差的计算中是很有用的。

性质 3.4.4

$$\mathrm{Cov}(X,Y)=E(XY)-E(X)E(Y)$$

证明： 由协方差的定义和数学期望的性质可知
$$\begin{array}{rl}\mathrm{Cov}(X,Y)& =E[XY-XE(Y)-YE(X)+E(X)E(Y)]\\ & =E(XY)-E(X)E(Y)\end{array}$$

性质 3.4.5

若随机变量 $X$ 与 $Y$ 相互独立，则 $\mathrm{Cov}(X,Y)=0$，反之不然。

证明： 这是因为在独立场合有 $E(XY)=E(X)E(Y)$，再由以上性质 3.4.4 即可得协方差为零。反之不然，可见下面的反例。

例 3.4.6

设随机变量 $X\sim N(0,{\sigma }^2)$，且令 $Y=X^2$，则 $X$ 与 $Y$ 不独立。此时 $X$ 与 $Y$ 的协方差为
$$\mathrm{Cov}(X,Y)=\mathrm{Cov}(X,X^2)=E(X\cdot X^2)-E(X)E(X^2)=0$$

最后的等式是因为正态分布 $N(0,{\sigma }^2)$ 的奇数阶原点矩均为零，即 $E(X)=E(X^3)=0$。

这个例子表明，“独立"必导致"不相关”，而"不相关"不一定导致"独立"。独立要求严，不相关要求宽。因为独立性是用分布定义的，而不相关只是用矩定义的。

图 3.4.1 不相关与独立的逻辑关系

现可以将条件"独立"降弱为"不相关"。

性质 3.4.6

对任意二维随机变量 $(X,Y)$，有
$$\mathrm{Var}(X\pm Y)=\mathrm{Var}(X)+\mathrm{Var}(Y)\pm 2\mathrm{Cov}(X,Y)$$

证明： 由方差的定义知
$$\begin{array}{rl}\mathrm{Var}(X\pm Y)& =E[(X\pm Y)-E(X\pm Y){]}^2\\ & =E\{[X-E(X)]\pm [Y-E(Y)]{\}}^2\\ & =E\{[X-E(X){]}^2+[Y-E(Y){]}^2\pm 2[X-E(X)][Y-E(Y)]\}\\ & =\mathrm{Var}(X)+\mathrm{Var}(Y)\pm 2\mathrm{Cov}(X,Y)\end{array}$$

这个性质表明：在 $X$ 与 $Y$ 相关的场合，和的方差不等于方差的和。$X$ 与 $Y$ 的正相关会增加和的方差，负相关会减少和的方差，而在 $X$ 与 $Y$ 不相关的场合，和的方差等于方差的和。这又可将前面有关方差的性质 3.4.3 修改如下：

若 $X$ 与 $Y$ 不相关，则
$$\mathrm{Var}(X\pm Y)=\mathrm{Var}(X)+\mathrm{Var}(Y)$$

以上性质 3.4.6 还可以推广到更多个随机变量场合，即对任意 $n$ 个随机变量 $X_1,X_2,\cdots ,X_n$，有
$$\mathrm{Var}\left(\sum _{i=1}^n{X}_i\right)=\sum _{i=1}^n\mathrm{Var}(X_i)+2\sum _{i=1}^{n-1}\sum _{j=i+1}^n\mathrm{Cov}(X_i,X_j)$$

协方差的计算性质

关于协方差的计算，还有下面四条有用的性质。

性质 3.4.7

协方差 $\mathrm{Cov}(X,Y)$ 的计算与 $X,Y$ 的次序无关，即
$$\mathrm{Cov}(X,Y)=\mathrm{Cov}(Y,X)$$

证明： 这由协方差的定义就可看出。

性质 3.4.8

任意随机变量 $X$ 与常数 $a$ 的协方差为零，即
$$\mathrm{Cov}(X,a)=0$$

证明： 这只要用协方差的定义计算一下即可得知。

性质 3.4.9

对任意常数 $a,b$，有
$$\mathrm{Cov}(aX,bY)=ab\mathrm{Cov}(X,Y)$$

证明： 由协方差的定义知
$$\mathrm{Cov}(aX,bY)=E[(aX-E(aX))(bY-E(bY))]$$
把公因子 $a$ 与 $b$ 提出，即得 $ab\mathrm{Cov}(X,Y)$。

性质 3.4.10

设 $X,Y,Z$ 是任意三个随机变量，则
$$\mathrm{Cov}(X+Y,Z)=\mathrm{Cov}(X,Z)+\mathrm{Cov}(Y,Z)$$

证明： 由协方差的性质 3.4.4 得
$$\begin{array}{rl}\mathrm{Cov}(X+Y,Z)& =E[(X+Y)Z]-E(X+Y)E(Z)\\ & =E(XZ)+E(YZ)-E(X)E(Z)-E(Y)E(Z)\\ & =[E(XZ)-E(X)E(Z)]+[E(YZ)-E(Y)E(Z)]\\ & =\mathrm{Cov}(X,Z)+\mathrm{Cov}(Y,Z)\end{array}$$

计算实例

例 3.4.7

设二维随机变量 $(X,Y)$ 的联合密度函数为
$$p(x,y)=\{\begin{array}{ll}3x,& 0<y<x<1,\\ 0,& \text{其他}\end{array}$$

试求 $\mathrm{Cov}(X,Y)$。

解： 利用协方差的计算公式，我们需要先计算 $E(X),E(Y),E(XY)$ 的值，它们可直接用 $p(x,y)$ 导出，但要注意积分限的确定，具体如下：

$$\begin{array}{rl}E(X)& ={\int }_0^1{\int }_0^{x}x\cdot 3xdydx={\int }_0^{1}3x^{3}dx=\frac{3}{4}\\ E(Y)& ={\int }_0^1{\int }_0^{x}y\cdot 3xdydx={\int }_0^1\frac{3x^3}{2}dx=\frac{3}{8}\\ E(XY)& ={\int }_0^1{\int }_0^{x}xy\cdot 3xdydx={\int }_0^1\frac{3x^4}{2}dx=\frac{3}{10}\end{array}$$

因此我们得
$$\mathrm{Cov}(X,Y)=\frac{3}{10}-\frac{3}{4}\times \frac{3}{8}=\frac{3}{160}>0$$

由此我们还可以得结论：$X$ 与 $Y$ 不相互独立。

例 3.4.8

设二维随机变量 $(X,Y)$ 的联合密度函数为
$$p(x,y)=\{\begin{array}{ll}\frac{1}{3}(x+y),& 0<x<1,0<y<2,\\ 0,& \text{其他}\end{array}$$

试求 $\mathrm{Var}(2X-3Y+8)$。

解： 因为
$$\begin{array}{rl}\mathrm{Var}(2X-3Y+8)& =\mathrm{Var}(2X)+\mathrm{Var}(3Y)-2\mathrm{Cov}(2X,3Y)\\ & =4\mathrm{Var}(X)+9\mathrm{Var}(Y)-12\mathrm{Cov}(X,Y)\end{array}$$

所以我们先要分别计算 $E(X),E(X^2),E(Y),E(Y^2),E(XY)$。

为此先计算两个边际密度函数：
$$\begin{array}{rl}{p}_X(x)& ={\int }_0^2\frac{1}{3}(x+y)dy=\frac{2}{3}(x+1),0<x<1\\ p_Y(y)& ={\int }_0^1\frac{1}{3}(x+y)dx=\frac{1}{3}\left(\frac{1}{2}+y\right),0<y<2\end{array}$$

然后再计算一、二阶矩：
$$\begin{array}{rl}E(X)& ={\int }_0^1\frac{2}{3}x(x+1)dx=\frac{5}{9}\\ E(X^2)& ={\int }_0^1\frac{2}{3}{x}^2(x+1)dx=\frac{7}{18}\\ E(Y)& ={\int }_0^2\frac{1}{3}y\left(\frac{1}{2}+y\right)dy=\frac{11}{9}\\ E(Y^2)& ={\int }_0^2\frac{1}{3}{y}^2\left(\frac{1}{2}+y\right)dy=\frac{16}{9}\end{array}$$

由此得
$$\mathrm{Var}(X)=\frac{7}{18}-{\left(\frac{5}{9}\right)}^2=\frac{13}{162},\mathrm{Var}(Y)=\frac{16}{9}-{\left(\frac{11}{9}\right)}^2=\frac{23}{81}$$

最后还需要计算 $E(XY)$，它只能从联合密度函数导出：
$$E(XY)=\frac{1}{3}{\int }_0^1{\int }_0^{2}xy(x+y)dydx=\frac{1}{3}{\int }_0^1\left(2x^2+\frac{8}{3}x\right)dx=\frac{2}{3}$$

于是得协方差为
$$\mathrm{Cov}(X,Y)=\frac{2}{3}-\frac{5}{9}\times \frac{11}{9}=-\frac{1}{81}$$

代回原式得
$$\mathrm{Var}(2X-3Y+8)=4\times \frac{13}{162}+9\times \frac{23}{81}-12\times \left(-\frac{1}{81}\right)=\frac{245}{81}$$

---

3.4.4 相关系数

协方差 $\mathrm{Cov}(X,Y)$ 是有量纲的量，比如 $X$ 表示人的身高，单位是米 (m)，$Y$ 表示人的体重，单位是千克 (kg)，则 $\mathrm{Cov}(X,Y)$ 带有量纲 (m·kg)。为了消除量纲的影响，现对协方差除以相同量纲的量，就得到一个新的概念——相关系数，它的定义如下。

定义 3.4.2

设 $(X,Y)$ 是一个二维随机变量，且 $\mathrm{Var}(X)={\sigma }_X^2>0,\mathrm{Var}(Y)={\sigma }_Y^2>0$。则称

$$\mathrm{Corr}(X,Y)=\frac{\mathrm{Cov}(X,Y)}{\sqrt{\mathrm{Var}(X)}\sqrt{\mathrm{Var}(Y)}}=\frac{\mathrm{Cov}(X,Y)}{{\sigma }_X{\sigma }_Y}$$

为 $X$ 与 $Y$ 的（线性）相关系数。

相关系数的性质

从以上定义中可看出：相关系数 $\mathrm{Corr}(X,Y)$ 与协方差 $\mathrm{Cov}(X,Y)$ 是同符号的，即同为正，或同为负，或同为零。这说明，从相关系数的取值也可反映出 $X$ 与 $Y$ 的正相关、负相关和不相关。

相关系数的另一个解释是：它是相应标准化变量的协方差。若记 $X$ 与 $Y$ 的数学期望分别为 ${\mu }_X,{\mu }_Y$，其标准化变量为

$$X^{\ast }=\frac{X-{\mu }_X}{{\sigma }_X},Y^{\ast }=\frac{Y-{\mu }_Y}{{\sigma }_Y}$$

则有

$$\mathrm{Cov}(X^{\ast },Y^{\ast })=\mathrm{Cov}\left(\frac{X-{\mu }_X}{{\sigma }_X},\frac{Y-{\mu }_Y}{{\sigma }_Y}\right)=\frac{\mathrm{Cov}(X,Y)}{{\sigma }_X{\sigma }_Y}=\mathrm{Corr}(X,Y)$$

相关系数的实例

例 3.4.9

二维正态分布 $N({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho )$ 的相关系数就是 $\rho$。

解： 下面先求 $\mathrm{Cov}(X,Y)$。

$$\begin{array}{rl}\mathrm{Cov}(X,Y)& =E[(X-E(X))(Y-E(Y))]\\ & =\frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}{\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }(x-{\mu }_1)(y-{\mu }_2)\cdot \\ & \exp \left\{-\frac{1}{2(1-{\rho }^2)}\left[\frac{(x-{\mu }_1{)}^2}{{\sigma }_1^2}-2\rho \frac{(x-{\mu }_1)(y-{\mu }_2)}{{\sigma }_1{\sigma }_2}+\frac{(y-{\mu }_2{)}^2}{{\sigma }_2^2}\right]\right\}dxdy\end{array}$$

先将上式中方括号内化成
$${\left(\frac{x-{\mu }_1}{{\sigma }_1}-\rho \frac{y-{\mu }_2}{{\sigma }_2}\right)}^2+{\left(\sqrt{1-{\rho }^2}\frac{y-{\mu }_2}{{\sigma }_2}\right)}^2$$

再作变量变换
$$\{\begin{array}{l}u=\frac{1}{\sqrt{1-{\rho }^2}}\left(\frac{x-{\mu }_1}{{\sigma }_1}-\rho \frac{y-{\mu }_2}{{\sigma }_2}\right)\\ v=\frac{y-{\mu }_2}{{\sigma }_2}\end{array}$$

则
$$\{\begin{array}{l}x-{\mu }_1={\sigma }_1(u\sqrt{1-{\rho }^2}+\rho v)\\ y-{\mu }_2={\sigma }_{2}v\end{array}$$

$$dxdy=|J|dudv={\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}dudv$$

由此得
$$\mathrm{Cov}(X,Y)=\frac{{\sigma }_1{\sigma }_2}{2\pi }{\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }(uv\sqrt{1-{\rho }^2}+\rho v^2)\exp \left\{-\frac{1}{2}(u^2+v^2)\right\}dudv$$

上式右端积分可以分为两个积分之和，其中
$$\begin{array}{rl}{\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }uv\exp \left\{-\frac{1}{2}(u^2+v^2)\right\}dudv& =0\\ {\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }{v}^2\exp \left\{-\frac{1}{2}(u^2+v^2)\right\}dudv& =2\pi \end{array}$$

从而
$$\begin{array}{rl}\mathrm{Cov}(X,Y)& =\frac{{\sigma }_1{\sigma }_2}{2\pi }\cdot \rho \cdot 2\pi =\rho {\sigma }_1{\sigma }_2\\ \mathrm{Corr}(X,Y)& =\frac{\mathrm{Cov}(X,Y)}{{\sigma }_1{\sigma }_2}=\rho \end{array}$$

为了研究相关系数的性质, 需要如下引理.

引理 3.4.1 (施瓦茨 (Schwarz) 不等式)

对任意二维随机变量 $(X,Y)$，若 $X$ 与 $Y$ 的方差都存在，且记

$${\sigma }_X^2=\mathrm{Var}(X),{\sigma }_Y^2=\mathrm{Var}(Y)$$

则有

$$[\mathrm{Cov}(X,Y){]}^2\le {\sigma }_X^2{\sigma }_Y^2\text{\hspace{1em}(3.4.11)}$$

证明

不妨设 ${\sigma }_X^2>0$，因为当 ${\sigma }_X^2=0$ 时，则 $X$ 几乎处处为常数，因而其与 $Y$ 的协方差亦为零，从而 (3.4.11) 式两端皆为零，结论成立。

若 ${\sigma }_X^2>0$ 成立，考虑 $t$ 的如下二次函数：

$$g(t)=E[t(X-E(X))+(Y-E(Y)){]}^2=t^2{\sigma }_X^2+2t\cdot \mathrm{Cov}(X,Y)+{\sigma }_Y^2$$

由于上述的二次三项式非负，平方项系数 ${\sigma }_X^2$ 为正，所以其判别式小于或等于零，即

$$[2\mathrm{Cov}(X,Y){]}^2-4{\sigma }_X^2{\sigma }_Y^2\le 0$$

移项后即得施瓦茨不等式。

相关系数的重要性质

利用施瓦茨不等式立即可得相关系数的一个重要性质。

性质 3.4.11

$$-1\le \mathrm{Corr}(X,Y)\le 1$$

或

$$|\mathrm{Corr}(X,Y)|\le 1$$

这个性质表明：相关系数介于 -1 与 1 之间。当相关系数为 $\pm 1$ 时，有另一重要性质。

性质 3.4.12

$\mathrm{Corr}(X,Y)=\pm 1$ 的充要条件是 $X$ 与 $Y$ 间几乎处处有线性关系，即存在 $a(\ne 0)$ 与 $b$，使得

$$P(Y=aX+b)=1$$

其中：

• 当 $\mathrm{Corr}(X,Y)=1$ 时，有 $a>0$
• 当 $\mathrm{Corr}(X,Y)=-1$ 时，有 $a<0$

证明

充分性：若 $Y=aX+b$（$X=cY+d$ 也一样），则将

$$\mathrm{Var}(Y)=a^2\mathrm{Var}(X),\mathrm{Cov}(X,Y)=a\mathrm{Cov}(X,X)=a\mathrm{Var}(X)$$

代入相关系数的定义中得

$$\mathrm{Corr}(X,Y)=\frac{\mathrm{Cov}(X,Y)}{{\sigma }_X{\sigma }_Y}=\frac{a\mathrm{Var}(X)}{|a|\mathrm{Var}(X)}=\{\begin{array}{ll}1,& a>0\\ -1,& a<0\end{array}$$

必要性：因为

$$\mathrm{Var}\left(\frac{X}{{\sigma }_X}\pm \frac{Y}{{\sigma }_Y}\right)=2[1\pm \mathrm{Corr}(X,Y)]\text{\hspace{1em}(3.4.12)}$$

所以当 $\mathrm{Corr}(X,Y)=1$ 时，有

$$\mathrm{Var}\left(\frac{X}{{\sigma }_X}-\frac{Y}{{\sigma }_Y}\right)=0$$

由此得

$$P\left(\frac{X}{{\sigma }_X}-\frac{Y}{{\sigma }_Y}=c\right)=1$$

或

$$P\left(Y=\frac{{\sigma }_Y}{{\sigma }_X}X-c{\sigma }_Y\right)=1$$

这就证明了：当 $\mathrm{Corr}(X,Y)=1$ 时，$Y$ 与 $X$ 几乎处处为线性正相关。

当 $\mathrm{Corr}(X,Y)=-1$ 时，由 (3.4.12) 式得

$$\mathrm{Var}\left(\frac{X}{{\sigma }_X}+\frac{Y}{{\sigma }_Y}\right)=0$$

由此得

$$P\left(\frac{X}{{\sigma }_X}+\frac{Y}{{\sigma }_Y}=c\right)=1$$

或

$$P\left(Y=-\frac{{\sigma }_Y}{{\sigma }_X}X+c{\sigma }_Y\right)=1$$

这也证明了：当 $\mathrm{Corr}(X,Y)=-1$ 时，$Y$ 与 $X$ 几乎处处为线性负相关。

相关系数的说明

对于这个性质可作以下几点说明：

1. 线性相关性：相关系数 $\mathrm{Corr}(X,Y)$ 刻画了 $X$ 与 $Y$ 之间的线性关系强弱，因此也常称其为"线性相关系数"。

2. 不相关：若 $\mathrm{Corr}(X,Y)=0$，则称 $X$ 与 $Y$ 不相关。不相关是指 $X$ 与 $Y$ 之间没有线性关系，但 $X$ 与 $Y$ 之间可能有其他的函数关系，比如平方关系、对数关系等。

3. 完全相关：

   • 若 $\mathrm{Corr}(X,Y)=1$，则称 $X$ 与 $Y$ 完全正相关
   • 若 $\mathrm{Corr}(X,Y)=-1$，则称 $X$ 与 $Y$ 完全负相关

4. 部分相关：若 $0<|\mathrm{Corr}(X,Y)|<1$，则称 $X$ 与 $Y$ 有"一定程度"的线性关系。

   • $|\mathrm{Corr}(X,Y)|$ 越接近于 1，则线性相关程度越高
   • $|\mathrm{Corr}(X,Y)|$ 越接近于 0，则线性相关程度越低

   而协方差看不出这一点。若协方差很小，而其两个标准差 ${\sigma }_X$ 和 ${\sigma }_Y$ 也很小，则其比值就不一定很小，这可从下面例 3.4.10 看出。

例 3.4.10

已知随机向量 $(X,Y)$ 的联合密度函数为

$$p(x,y)=\{\begin{array}{ll}\frac{8}{3},& 0<x-y<0.5,0<x,y<1\\ 0,& \text{其他}\end{array}$$

求 $X,Y$ 的相关系数 $\mathrm{Corr}(X,Y)$。

解

先计算两个边际密度函数。

求 $X$ 的边际密度函数：

当 $0<x<0.5$ 时，
$$p_X(x)={\int }_{-\infty }^{\infty }p(x,y)dy={\int }_0^x\frac{8}{3}dy=\frac{8}{3}x$$

当 $0.5<x<1$ 时，
$$p_X(x)={\int }_{-\infty }^{\infty }p(x,y)dy={\int }_{x-0.5}^x\frac{8}{3}dy=\frac{4}{3}$$

所以得 $X$ 的边际密度函数为

$$p_X(x)=\{\begin{array}{ll}\frac{8}{3}x,& 0<x<0.5\\ \frac{4}{3},& 0.5<x<1\\ 0,& \text{其他}\end{array}$$

求 $Y$ 的边际密度函数：

当 $0<y<0.5$ 时，
$$p_Y(y)={\int }_{-\infty }^{\infty }p(x,y)dx={\int }_y^{y+0.5}\frac{8}{3}dx=\frac{4}{3}$$

当 $0.5<y<1$ 时，
$$p_Y(y)={\int }_{-\infty }^{\infty }p(x,y)dx={\int }_y^1\frac{8}{3}dx=\frac{8}{3}(1-y)$$

所以得 $Y$ 的边际密度函数为

$$p_Y(y)=\{\begin{array}{ll}\frac{4}{3},& 0<y<0.5\\ \frac{8}{3}(1-y),& 0.5<y<1\\ 0,& \text{其他}\end{array}$$

计算一、二阶矩：

$$\begin{array}{rl}E(X)& ={\int }_0^{0.5}\frac{8}{3}{x}^{2}dx+{\int }_{0.5}^1\frac{4}{3}xdx=\frac{11}{18}\\ E(Y)& ={\int }_0^{0.5}\frac{4}{3}ydy+{\int }_{0.5}^1\frac{8}{3}y(1-y)dy=\frac{7}{18}\\ E(X^2)& ={\int }_0^{0.5}\frac{8}{3}{x}^{3}dx+{\int }_{0.5}^1\frac{4}{3}{x}^{2}dx=\frac{31}{72}\\ E(Y^2)& ={\int }_0^{0.5}\frac{4}{3}{y}^{2}dy+{\int }_{0.5}^1\frac{8}{3}{y}^2(1-y)dy=\frac{5}{24}\end{array}$$

计算方差：

$$\begin{array}{rl}\mathrm{Var}(X)& =\frac{31}{72}-{\left(\frac{11}{18}\right)}^2=\frac{37}{648}\\ \mathrm{Var}(Y)& =\frac{5}{24}-{\left(\frac{7}{18}\right)}^2=\frac{37}{648}\end{array}$$

计算 $E(XY)$：

$$\begin{array}{rl}E(XY)& ={\int }_0^{0.5}{\int }_0^x\frac{8}{3}xydydx+{\int }_{0.5}^1{\int }_{x-0.5}^x\frac{8}{3}xydydx\\ & ={\int }_0^{0.5}\frac{4}{3}{x}^{3}dx+{\int }_{0.5}^1\frac{4}{3}x\left(x-\frac{1}{4}\right)dx\\ & =\frac{1}{48}+\frac{7}{18}-\frac{1}{8}=\frac{41}{144}\end{array}$$

最终结果：

$$\begin{array}{rl}\mathrm{Cov}(X,Y)& =\frac{41}{144}-\frac{11}{18}\times \frac{7}{18}=\frac{61}{1296}=0.0471\\ \mathrm{Corr}(X,Y)& =\frac{\mathrm{Cov}(X,Y)}{{\sigma }_X{\sigma }_Y}=\frac{61}{1296}\times \frac{648}{37}=\frac{61}{74}=0.8243\end{array}$$

这里协方差很小，但其相关系数并不小。

分析

上例中，从相关系数 $\mathrm{Corr}(X,Y)=0.8243$ 看，$X$ 与 $Y$ 有较高程度的正相关；但从相应的协方差 $\mathrm{Cov}(X,Y)=0.0471$ 看，$X$ 与 $Y$ 的相关性很微弱，几乎可以忽略不计。

造成这种错觉的原因在于没有考虑标准差，若两个标准差都很小，即使协方差小一些，相关系数也能显示一定程度的相关性。由此可见，在协方差的基础上加工形成的相关系数是更为重要的相关性的特征数。

独立与不相关的关系

在一般场合，独立必导致不相关，但不相关推不出独立。但也有例外，下面的性质指出了这个例外。

性质 3.4.13

在二维正态分布 $N({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho )$ 场合，不相关与独立是等价的。

证明

由上面例 3.4.9 知，二维正态分布 $N({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho )$ 的相关系数是 $\rho$，因此我们只需证 $\rho =0$ 与独立是等价的。

因为二维正态分布 $N({\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho )$ 的两个边际分布为 $N({\mu }_1,{\sigma }_1^2)$ 和 $N({\mu }_2,{\sigma }_2^2)$，所以记其联合密度函数为 $p(x,y)$，边际密度函数为 $p_X(x)$ 与 $p_Y(y)$。

当 $\rho =0$ 时，可从正态密度函数的表达式中看出

$$p(x,y)=p_X(x)p_Y(y)$$

即 $X$ 与 $Y$ 相互独立。

反之，若 $X$ 与 $Y$ 相互独立，则 $X$ 与 $Y$ 不相关，从而有 $\rho =0$。

结论得证。

例 3.4.11 (投资组合的风险)

设有一笔资金，总量记为 1（可以是 1 万元，也可以是 100 万元等），如今要投资甲、乙两种证券。若将资金 $x_1$ 投资于甲证券，将余下的资金 $1-x_1=x_2$ 投资于乙证券，于是 $(x_1,x_2)$ 就形成了一个投资组合。

记 $X$ 为投资甲证券的收益率，$Y$ 为投资乙证券的收益率，它们都是随机变量。如果已知 $X$ 和 $Y$ 的均值（代表平均收益）分别为 ${\mu }_1$ 和 ${\mu }_2$，方差（代表风险）分别为 ${\sigma }_1^2$ 和 ${\sigma }_2^2$，$X$ 和 $Y$ 间的相关系数为 $\rho$。

试求该投资组合的平均收益与风险（方差），并求使投资组合风险最小的 $x_1$ 是多少？

解

因为组合收益为

$$Z=x_{1}X+x_{2}Y=x_{1}X+(1-x_1)Y$$

所以该组合的平均收益为

$$E(Z)=x_{1}E(X)+(1-x_1)E(Y)=x_1{\mu }_1+(1-x_1){\mu }_2$$

而该组合的风险（方差）为

$$\begin{array}{rl}\mathrm{Var}(Z)& =\mathrm{Var}[x_{1}X+(1-x_1)Y]\\ & =x_1^2\mathrm{Var}(X)+(1-x_1{)}^2\mathrm{Var}(Y)+2x_1(1-x_1)\mathrm{Cov}(X,Y)\\ & =x_1^2{\sigma }_1^2+(1-x_1{)}^2{\sigma }_2^2+2x_1(1-x_1)\rho {\sigma }_1{\sigma }_2\end{array}$$

求最小的组合风险，即求 $\mathrm{Var}(Z)$ 关于 $x_1$ 的极小点，为此令

$$\frac{d(\mathrm{Var}(Z))}{d{x}_1}=2x_1{\sigma }_1^2-2(1-x_1){\sigma }_2^2+2\rho {\sigma }_1{\sigma }_2-4x_1\rho {\sigma }_1{\sigma }_2=0$$

从中解得

$$x_1^{\ast }=\frac{{\sigma }_2^2-\rho {\sigma }_1{\sigma }_2}{{\sigma }_1^2+{\sigma }_2^2-2\rho {\sigma }_1{\sigma }_2}$$

它与 ${\mu }_1,{\mu }_2$ 无关。又因为 $\mathrm{Var}(Z)$ 中 $x_1^2$ 的系数为正，所以以上的 $x_1^{\ast }$ 可使组合风险达到最小。

数值例子：比如，${\sigma }_1^2=0.3$，${\sigma }_2^2=0.5$，$\rho =0.4$，则

$$x_1^{\ast }=\frac{0.5-0.4\sqrt{0.3\times 0.5}}{0.3+0.5-2\times 0.4\sqrt{0.3\times 0.5}}=0.704$$

这说明应把全部资金的 70% 投资于甲证券，而把余下的 30% 资金投向乙证券，这样的投资组合风险最小。

3.4.5 随机向量的数学期望向量与协方差矩阵

以下我们用矩阵形式给出 $n$ 维随机变量的数学期望与方差。

定义 3.4.3

记 $n$ 维随机向量为 $\mathbf{X}=(X_1,X_2,\cdots ,X_n{)}^{\prime }$，若其每个分量的数学期望都存在，则称

$$E(\mathbf{X})=(E(X_1),E(X_2),\cdots ,E(X_n){)}^{\prime }$$

为 $n$ 维随机向量 $\mathbf{X}$ 的数学期望向量，简称为 $\mathbf{X}$ 的数学期望，而称

$$\begin{array}{rl}& E[(\mathbf{X}-E(\mathbf{X}))(\mathbf{X}-E(\mathbf{X}){)}^{\prime }]\\ & =\left(\begin{array}{cccc}\mathrm{Var}(X_1)& \mathrm{Cov}(X_1,X_2)& \cdots & \mathrm{Cov}(X_1,X_n)\\ \mathrm{Cov}(X_2,X_1)& \mathrm{Var}(X_2)& \cdots & \mathrm{Cov}(X_2,X_n)\\ ⋮& ⋮& & ⋮\\ \mathrm{Cov}(X_n,X_1)& \mathrm{Cov}(X_n,X_2)& \cdots & \mathrm{Var}(X_n)\end{array}\right)\end{array}$$

为该随机向量的方差-协方差矩阵，简称协方差阵，记为 $\mathrm{Cov}(\mathbf{X})$。

至此我们可以看出，$n$ 维随机向量的数学期望是各分量的数学期望组成的向量。而其方差就是由各分量的方差与协方差组成的矩阵，其对角线上的元素就是方差，非对角线元素为协方差。

定理 3.4.2

$n$ 维随机向量的协方差矩阵 $\mathrm{Cov}(\mathbf{X})=(\mathrm{Cov}(X_i,X_j){)}_{n\times n}$ 是一个对称的非负定矩阵。

证明

因为 $\mathrm{Cov}(X_i,X_j)=\mathrm{Cov}(X_j,X_i)$，所以对称性是显然的。

下证非负定性。因为对任意的 $n$ 维实向量 $\mathbf{c}=(c_1,c_2,\cdots ,c_n{)}^{\prime }$，有

$$\begin{array}{rl}{\mathbf{c}}^{\prime }\mathrm{Cov}(\mathbf{X})\mathbf{c}& =(c_1,c_2,\cdots ,c_n)\left(\begin{array}{ccc}\mathrm{Var}(X_1)& \cdots & \mathrm{Cov}(X_1,X_n)\\ \mathrm{Cov}(X_2,X_1)& \cdots & \mathrm{Cov}(X_2,X_n)\\ ⋮& & ⋮\\ \mathrm{Cov}(X_n,X_1)& \cdots & \mathrm{Var}(X_n)\end{array}\right)\left(\begin{array}{c}{c}_1\\ c_2\\ ⋮\\ c_n\end{array}\right)\\ & =\sum _{i=1}^n\sum _{j=1}^n{c}_i{c}_j\mathrm{Cov}(X_i,X_j)\\ & =\sum _{i=1}^n\sum _{j=1}^{n}E\{[c_i(X_i-E(X_i))][c_j(X_j-E(X_j))]\}\\ & =E\left\{\sum _{i=1}^n\sum _{j=1}^n[c_i(X_i-E(X_i))][c_j(X_j-E(X_j))]\right\}\\ & =E\left\{\left[\sum _{i=1}^n{c}_i(X_i-E(X_i))\right]\left[\sum _{j=1}^n{c}_j(X_j-E(X_j))\right]\right\}\\ & =E{\left[\sum _{i=1}^n{c}_i(X_i-E(X_i))\right]}^2\ge 0\end{array}$$

所以矩阵 $\mathrm{Cov}(\mathbf{X})$ 是非负定的，定理得证。

例 3.4.12 ($n$ 元正态分布)

设 $n$ 维随机变量 $\mathbf{X}=(X_1,X_2,\cdots ,X_n{)}^{\prime }$ 的协方差矩阵 $\mathbf{B}=\mathrm{Cov}(\mathbf{X})$ 是正定的，数学期望向量为 $\mathbf{a}=(a_1,a_2,\cdots ,a_n{)}^{\prime }$。

又记 $\mathbf{x}=(x_1,x_2,\cdots ,x_n{)}^{\prime }$，则由密度函数

$$p(x_1,x_2,\cdots ,x_n)=p(\mathbf{x})=\frac{1}{(2\pi {)}^{\frac{n}{2}}|\mathbf{B}{|}^{\frac{1}{2}}}\exp \left\{-\frac{1}{2}(\mathbf{x}-\mathbf{a}{)}^{\prime }{\mathbf{B}}^{-1}(\mathbf{x}-\mathbf{a})\right\}\text{\hspace{1em}(3.4.13)}$$

定义的分布称为 $n$ 元正态分布，记为 $\mathbf{X}\sim N(\mathbf{a},\mathbf{B})$。

其中：

• $|\mathbf{B}|$ 表示 $\mathbf{B}$ 的行列式
• ${\mathbf{B}}^{-1}$ 表示 $\mathbf{B}$ 的逆阵
• $(\mathbf{x}-\mathbf{a}{)}^{\prime }$ 表示向量 $(\mathbf{x}-\mathbf{a})$ 的转置

若记 ${\mathbf{B}}^{-1}=(r_{ij})$，则 (3.4.13) 式可写成

$$p(x_1,x_2,\cdots ,x_n)=\frac{1}{(2\pi {)}^{\frac{n}{2}}|\mathbf{B}{|}^{\frac{1}{2}}}\exp \left\{-\frac{1}{2}\sum _{i,j=1}^n{r}_{ij}(x_i-a_i)(x_j-a_j)\right\}$$

二元正态分布的特例

在 $n=2$ 的场合，若取数学期望向量和协方差矩阵分别为

$$\mathbf{a}=\left(\begin{array}{c}{\mu }_1\\ {\mu }_2\end{array}\right),\mathbf{B}=\left(\begin{array}{cc}{\sigma }_1^2& {\sigma }_1{\sigma }_2\rho \\ {\sigma }_1{\sigma }_2\rho & {\sigma }_2^2\end{array}\right)$$

代入 (3.4.13) 式，则可得到 (3.1.8) 式给出的二元正态密度函数。

重要性

$n$ 元正态分布是一种最重要的多维分布，它在概率论、数理统计和随机过程中都占有重要地位。