La pregunta es verificar que $X'X/n = \frac{1}{n} \sum_i x_i x_i'$ Voy a ignorar la división por n. Mi problema es si $X$ es una matriz de $m \times n$, entonces $X'X$ es una matriz de $n \times m$ multiplicada por una matriz de $m \times n$ dando como resultado una matriz de $n \times n$. Mientras que $x_i$ (asumo) es el vector de la columna i, por lo que $x_i x_i'$ es un vector de columna de $m \times 1$ multiplicado por un vector de fila de $1 \times m$ dando como resultado una matriz de $m \times m$. Luego sumas todas las matrices i y aún obtienes una matriz de $m \times m$. ¿Es esto un error tipográfico? ¿o me estoy perdiendo algo?
Respuestas
¿Demasiados anuncios?Sea $X$ una matriz de $3\times2$.
Puedes hacer particionamiento por filas
$$X^\top X = \begin{bmatrix}x^\top_1\\x^\top_2\\x^\top_3\end{bmatrix}^\top\begin{bmatrix}x^\top_1\\x^\top_2\\x^\top_3\end{bmatrix} = [x_1\ x_2 \ x_3] \begin{bmatrix}x^\top_1\\x^\top _2\\x^\top_3\end{bmatrix} = \sum_i x_i x^\top_i$$
nota que $x_i^\top$ es la fila $i$ escrita como un vector fila y $x_i$ es la fila $i$ escrita como un vector columna. La convención es por lo tanto que los vectores no transpuestos están en forma de columna (pero aún pueden ser una fila en la matriz de diseño original) mientras que los vectores transpuestos están en forma de fila.
Obtienes la suma de 3 matrices de dimensión 2 $\times$ 2. Al igual que $X^\top X$ es $(3 \times 2)^\top (3 \times 2) = 2 \times 2$
O puedes hacer particionamiento por columnas
$$X^\top X = \begin{bmatrix}x_1 \ \ x_2\end{bmatrix}^\top\begin{bmatrix}x_1 \ \ x_2\end{bmatrix} = \begin{bmatrix}x^\top_1 \\ x^\top_2\end{bmatrix}\begin{bmatrix}x_1 \ \ x_2\end{bmatrix} = \begin{bmatrix}x_1^\top x_1 & x_1^\top x_2 \\ x_2^\top x_1 & x_2^\top x_2\end{bmatrix}$$
El primer enfoque te da la multiplicación de matrices como una suma de productos externos, el otro enfoque te da el producto de matrices como una matriz de productos internos.
Página 6 de Hayashi presenta las notaciones: $X$ es una matriz de $n\times K$, es decir, con $n$ filas y $K$ columnas, y $x_i$ es un vector de $K\times1$ de regresores para la observación $i$. Así, $$\underset{(n\times K)}X = \begin{bmatrix}x_1'\\\vdots\\x_i'\\\vdots\\x_n'\end{bmatrix}$$
Nota que $X'X$ es una matriz de $K\times K$. Para cada observación $i$, $x_ix_i'$ es también una matriz de $K\times K$. Sumando sobre todas las observaciones $n$, tenemos que $X'X = \sum_{i=1}^nx_ix_i'$.