Porción de la derivación de la prueba F

Question

En el libro de Greene Análisis Econométrico hay una derivación sobre la estadística F. La configuración es una hipótesis nula de la forma: $H_0: R\beta =q$ donde $\beta$ es un vector de parámetros de $k\times 1$, $R$ es una matriz de $J\times k$ y $q$ es un vector de $J\times 1$. $R$ y $q$ juntos definen las restricciones que se hipotetizan. $e_*$ son los residuos que resultan de OLS al imponer las restricciones y $e$ son los residuos al estimar OLS sin restricciones. $b_*$ y $b$ son las respectivas estimaciones de parámetros. (Nota que $Rb_*=q$).

En la derivación de Greene hay una parte en la que se muestra esta línea,

$$(1) \hspace{3.2cm} e_*'e_*=e'e +(b-b_*)'X'X(b-b_*)$$ La siguiente línea muestra,

$$(2) \hspace{0.5cm}e_*'e_*-e'e =(Rb-q)'[R(X'X)^{-1}R']^{-1}(Rb-q)$$

Me intriga cómo pasar de estas líneas. Si $R$ fuera una matriz cuadrada invertible, sería inmediato porque $e'e +(b-b_*)'X'X(b-b_*) =e'e +(b-b_*)'R'(R')^{-1}X'XR^{-1}R(b-b_*)$ luego simplificamos más.

$R$ no es una matriz cuadrada invertible, por lo que este método no puede aplicarse. Además, recurrir a la pseudoinversa no ayuda, porque $R$ no tiene rango completo de columnas, por lo tanto $R^+R\ne I$ y no podemos proceder con $e'e +(b-b_*)'X'X(b-b_*) =e'e +(b-b_*)'R'(R')^{+}X'XR^{+}R(b-b_*)$.

En resumen, debe haber un truco algebraico para pasar de la ecuación (1) a la (2). Me intriga cuál es ese truco.

Answer 1

Considere el problema de mínimos cuadrados restringidos: $$\min \underbrace{(Y - Xb_\ast)'}_{(1\times n)}\underbrace{(Y - Xb_\ast)}_{n\times 1} \text{ s.t. } \underbrace{R}_{(j \times k)}\underbrace{b_\ast}_{(k \times 1)} - \underbrace{q}_{(j \times 1)}$$ Establecemos el Lagrangiano $$L(b_\ast,\lambda) = (Y - Xb_\ast)'(Y - Xb_\ast) - 2 \underbrace{\lambda'}_{(1 \times j)}(Rb_\ast-q).$$ Las condiciones de primer orden son: $$\underbrace{X'(Y - X b_\ast)}_{(k \times k)} + \underbrace{R'\lambda}_{(k \times k)} = 0.$$ Lo cual nos da: $$b_\ast = \underbrace{(X'X)^{-1}X'Y}_{b} - (X'X)^{-1}R'\lambda.$$ El primer término es el estimador de MCO (no restringido) habitual, digamos $b$. Multiplicando ambos lados por $R$ tenemos: $$\underbrace{Rb_\ast}_{q} = \underbrace{R b}_{(j \times 1)} - \underbrace{R(X'X)^{-1}R'}_{(j \times j)} \underbrace{\lambda}_{j \times j}$$ Si $R(X'X)^{-1}R'$ es de rango completo, esto se puede resolver para $\lambda$: $$\lambda = (R(X'X)^{-1}R')^{-1}(Rb - q).$$ Sustituyendo en la expresión de $b_\ast$ obtenemos: $$b_\ast - b = \underbrace{(X'X)^{-1}}_{(k \times k)} \underbrace{R'}_{(k \times j)}\underbrace{(R(X'X)^{-1}R')^{-1}}_{(j \times j)} \underbrace{(q - Rb)}_{(j \times 1)}$$

Ahora, sustituya esto en la expresión $(b-b_\ast)'X'X(b - b_ast)$

$$(q - Rb)' (R(X'X)^{-1}R')^{-1}R(X'X)^{-1} X'X (X'X)^{-1}R'(R(X'X)^{-1}R')^{-1}(q - Rb)$$

Podemos simplificar la parte intermedia como $X'X (X'X)^{-1} = I$. $$(q - Rb)' (R(X'X)^{-1}R')^{-1}R(X'X)^{-1} R'(R(X'X)^{-1}R')^{-1}(q - Rb)$$ A continuación, también $R(X'X)^{-1}R'(R(X'X)^{-1}R')^{-1} = I$ por lo que obtenemos que: $$(b- b_\ast) X'X (b - b_\ast) = (q - Rb)' (R(X'X)^{-1}R')^{-1}(q - Rb)$$ Esto es la expresión (2).