协方差矩阵

在统计学与概率论中，协方差矩阵的每个元素是各个向量元素之间的协方差，是从标量随机变量到高纬度随机向量的自然推广

设X = (X_1, X_2,...,X_N)^T 为n维随机变量，称矩阵

C = (c_{ij})_{n*n} = \begin{pmatrix}c_{11}& c_{12}&\cdots &c_{1n}\\ c_{21}&c_{22}&\cdots&c_{2n}\\\cdot&\cdot&&\cdot&\\ \\\cdot&\cdot&&\cdot&\\ \\\cdot&\cdot&&\cdot&\\c_{n1}&c_{n2}&\cdots&c_{nn)}&\end{pmatrix}

为n维随机变量X的协方差矩阵，也极为D(X)，其中

c_{ij} = Cov(X_i,X_j),i,j = 1,2,3...,n

为X的分量X_i 和X_j 的协方差（设它们都存在）

例如，二维随机变量(X_1,X_2) 的协方差矩阵为

c = \begin{pmatrix} c_{11} && c_{12} \\ c_{21} && c_{22} \end{pmatrix}

其中c_{11} = E[X_1 - E(X_1)]^2,c_{12} = E[X_1 - E(X_1)][X_2 - E(x_2)]

c_{21} = E[X_2 - E(X_2)][X_1 - E(X_1)],c_{22} = E[X_2 - E(X_2)]^2

由于c_{ij} = c_{ji}(i,j=1,2,...,n), 所以协方差矩阵为对称非负定矩阵

协方差具有如下性质：