Transformación de una matriz de variable explicativa en la regresión

Question

Dada la ecuación de regresión partitiva (en $X_1$ y $X_2$ ), quiero transformar $X_1$ , digamos que $X^*_1$ , de tal manera que $X_2$ y $X^*_1$ se convierte en ortogonal, es decir $X_2^T$ . $X_1^*$ = 0. Una matriz puede transformarse como $X_1^*$ = $X_1$ .p donde P es la matriz de transformación.

Si premultiplicamos $X_1^*$ = $X_1$ .p con $X_2^T$ obtendremos $X_2^T$ . $X_1$ .p = $X_2^T$ . $X_1^*$ = 0. ¿Cómo puedo encontrar P?

La parte (ii) es fácil de resolver. Los parámetros de $X_2^T$ y $X_1^*$ dependerá de su regresión por separado con Y.

Answer 1

$\boldsymbol X^*_1$ es el residuo del proyección de $\boldsymbol X_1 $ en $\boldsymbol X_2 $ . La matriz del "fabricante residual" es $\boldsymbol I - \boldsymbol X_2 \left(\boldsymbol X_2^T\boldsymbol X_2\right)^{-1}\boldsymbol X_2^T$ . Por lo tanto, $$ \boldsymbol X_1^* = \left(\boldsymbol I -\boldsymbol X_2 \left(\boldsymbol X_2^T\boldsymbol X_2\right)^{-1}\boldsymbol X_2^T\right)\boldsymbol X_1.$$