La prueba de que las raíces se encuentran fuera del círculo unitario garantiza la estacionariedad de la serie temporal

Question

Para un proceso AR(p)

$$\begin{align} y_t &= \mu + \phi_1 y_{t-1} + \phi_2 y_{t-2} + \cdots + \phi_p y_{t-p} + \epsilon_t \\[4ex] &y_t (1 - \phi_1 L - \phi_2 L^2 - \cdots - \phi_p L^p) =\mu + \epsilon_t \end{align}$$

con $Ly_t=y_{t-1}$

Las raíces de la expresión en el paréntesis, es decir

$$1 - \phi_1 z - \phi_2 z^2 - \cdots - \phi_p z^p=0$$

determinan el carácter estacionario de la serie temporal: es estacionaria si el módulo $\vert z \vert >0,$ o geométricamente, "fuera del círculo".

Se puede encontrar un argumento similar para los procesos MA, lo cual no es sorprendente ya que todos los procesos AR pueden expresarse como procesos MA, y viceversa.

¿Pero por qué?

Answer 1

Dando un ejemplo:

Creo que la mejor manera de verificar cómo se relacionan las raíces de la ecuación característica con covarianza estacionariedad del proceso de la serie temporal, es a través de un ejemplo en la forma de un proceso AR(1). En un sentido vago, el uso del operador de retardo para obtener la ecuación característica ofrece una transformación del proceso autorregresivo que facilita el examen de la estacionariedad (simplemente comprobando si las raíces características están fuera del círculo unitario). Esto facilita la comprobación de la estacionariedad cuando se trata de procesos AR(p) para grandes $p$ -valores.

---

_La definición de covarianza estacionaria para un proceso se satisface cuando el primer y segundo momento existen y son invariables en el tiempo_ . Consideremos un proceso AR(1) de la forma:

$$y_t = \phi y_{t-1} + \varepsilon_t, \qquad \varepsilon_t \sim WN(\mu,\sigma^2),$$

donde $\varepsilon_t$ es un proceso de ruido blanco distribuido de forma gaussiana (la gaussianidad es una suposición arbitraria, aunque a menudo se utiliza para un proceso de ruido blanco) con media y varianza constantes. Utilizando el operador de retardo ( $L$ ), podemos redefinir el proceso como

$$y_t-\phi y_{t-1}=\varepsilon_t \quad \Rightarrow (1-\phi L)y_t = \varepsilon_t.$$

En general, el proceso de la serie temporal es estacionario si las raíces de la ecuación característica ( $1-\phi_1 z - \cdots-\phi_p z^p=0$ ) tienen un valor superior a 1, $|z|>1$ y, por lo tanto, se encuentra fuera del círculo unitario (véase este enlace ). En relación con nuestro ejemplo, podemos encontrar root característica resolviendo para $z$ en la ecuación característica ( $1-\phi z=0$ ):

$$|z|=\bigg|\frac{1}{\phi}\bigg| >1 \qquad \iff \qquad |\phi|<1$$

Por lo tanto, garantizar la estacionariedad en el proceso AR(1) es equivalente a mantener $|\phi| < 1$ o $-1<\phi <1$ . Podemos verificar si esto es cierto, calculando los momentos del proceso AR(1) y observando las restricciones de los parámetros para asegurar la estacionariedad débil.

Calcular la media:

$$\begin{align*} y_t &= \phi y_{t-1} + \varepsilon_t\\ &= \phi (\phi y_{t-2} + \varepsilon_{t-1}) + \varepsilon_t\\ &= \phi^2 y_{t-2} + \phi \varepsilon_{t-1} + \varepsilon_{t}\\ &\: \: \vdots\\ &= \sum_{i=0}^{\infty} \phi^{i} \varepsilon_{t-i} \end{align*}$$

$$\mathbb{E}\left[y_t\right]= \sum_{i=0}^{\infty} \phi^{i} \mathbb{E}\left[\varepsilon_{t-i}\right] = \sum_{i=0}^{\infty} \phi^{i} \mu = \frac{\mu}{1 - \phi}, \qquad \phi \neq 1$$

lo que implica que $\phi \neq 1$ para poder definir el primer momento.

Cálculo de la varianza:

$$\begin{align} \mathbb{V}ar(y_t)&= \phi^2 \mathbb{V}ar(y_{t-1}) + \sigma^2 \\ &= \phi^2 \left(\phi^2 \mathbb{V}ar(y_{t-2}) + \sigma^2\right) + \sigma^2\\ &= \phi^4 \mathbb{V}ar(y_{t-2}) + \phi^2 \sigma^2 + \sigma^2\\ & \: \: \vdots \\ &= \sum_{i=0}^{\infty} \phi^{2i} \sigma^2\\ &= \frac{\sigma^2}{1-\phi^2}, \qquad |\phi^2|<1. \end{align}$$

Esto implica además que $|\phi|<1$ y de forma concluyente $|1/z|<1 \iff |z|>1$ para poder definir la varianza.

La autocovarianza:

El cálculo de la autocovarianza para cada $k\geq 0$ podemos observar un patrón:

$$\begin{align*} \gamma(1) &= \mathbb{C}ov\left[y_t, y_{t-1}\right] = \mathbb{Cov}\left[(\mu + \phi y_{t-1} + \varepsilon_t), y_{t-1}\right] = \phi \mathbb{C}ov\left[y_{t-1}, y_{t-1}\right] = \phi\mathbb{V}ar(y_t)\\ \gamma(2) &= \mathbb{Cov}\left[(\mu + \phi y_{t-1} + \varepsilon_t), y_{t-2}\right] = \phi \mathbb{Cov}\left[y_{t-1}, y_{t-2}\right] = \phi \gamma(1) = \phi^2 \mathbb{V}ar(y_t)\\ & \: \: \vdots\\ \gamma(k) &= \phi^k \gamma(0) = \phi^k \mathbb{V}ar(y_t) \end{align*}$$ donde he utilizado el hecho de que el proceso de ruido blanco es independiente de los rezagos pasados de $y_t$ . Por lo tanto, la autocovarianza necesita satisfacer las mismas condiciones restringidas a la varianza para existir.

En conclusión, observamos que $|\phi|<1$ y por lo tanto $|z|>1$ para que los momentos existan y satisfagan de forma concluyente covarianza estacionariedad para $y_t$ .

Answer 2

Probablemente sea mejor preguntar en un foro de estadísticas. Sin embargo, tienes razón; si todas las raíces están fuera del círculo unitario (equivalentemente, todas las raíces inversas están dentro del círculo unitario), la serie es estacionaria de covarianza.

¿Por qué? Significa que los valores absolutos de las raíces características son menores que 1 en módulo, o lo que es lo mismo, las soluciones de la ecuación característica son mayores que 1 en módulo.

Aunque matemáticamente quizás no sea inmediatamente obvio, en mi opinión es bastante intuitivo pensar en ello en términos de la ACF (función de autocorrelación). Bajo esta condición, la ecuación recursiva garantiza que la ACF del modelo converge a 0 a medida que aumenta el retardo.

En la proposición 6.3 de la página 374 de Hayashi . Tsay ofrece una explicación más intuitiva del modelo AR y la estacionariedad en el capítulo 2 (p.37 en adelante).

La prueba más intuitiva, en mi opinión, es utilizar el Wold Decomposition . Usted escribió que AR puede ser expresado como MA, así que asumo que está familiarizado con él.

• Para $\phi : 0 < \phi < 1$ el proceso AR(1) presenta una reversión exponencial de la media de reversión de la media a $\mu$
• Para $\phi : 0 > \phi > −1$ el proceso AR(1) presenta una reversión de la media exponencial de reversión exponencial de la media a $\mu$
• Para $\phi > 1$ el proceso AR(1) es explosivo

y el interesante en este caso:

• Para $\phi = 1$ la descomposición de Wold no existe y el proceso es un simple paseo aleatorio (¡no estacionario!)
  ¿Por qué? Recordemos la fórmula de la serie geométrica: $$1+x+x^2+... =\frac{1}{1-x}$$ si $\lvert X \rvert<1$ . Ahora, trata de usar $x=1$ . Esto es exactamente lo que se hace al introducir un modelo AR en la representación MA. Para $\phi : |\phi| < 1$ La descomposición de Wold del modelo AR(1) produce la representación MA(∞): $$AR(1): \ (1−ϕL)y_t=ϵ_t$$ La estacionariedad equivale a preguntarse si la representación de Wold MA(∞) existe o no. Para $\phi < 1$ la siguiente serie geométrica es válida: $$\frac{1}{(1−ϕL)}= 1+\phi L+\phi^2L^2+\phi^3L^3 + ...$$ Por lo tanto, $$(1−ϕL)y_t=ϵ_t \ => \ \frac{1}{(1−ϕL)}ϵ_t$$ o de forma equivalente, $$=(1+\phi L+\phi^2L^2+\phi^3L^3 + ...)ϵ_t$$ $$y_t=ϵ_t +\phi ϵ_{t-1} + \phi ϵ_{t-2} + = \sum_{j=0}^{∞} \phi^jϵ_{t-j}$$ con $\sum_{j=0}^{∞} \phi^j<∞ => phi_j \rightarrow 0 \ as \ j \rightarrow ∞$ para asegurar que la suma infinita de la representación de Wold es una variable aleatoria bien comportada con varianza finita.

La condición de estacionariedad $\lvert \phi \rvert< 1$ no se generaliza a AR(p). En el caso de AR(2) puede ser tentador mirar $\lvert \phi_1 \rvert< 1$ y $\lvert \phi_2 \rvert< 1$ pero esto no es suficiente.

$\Phi(L) = 1-\phi L$ es un polinomio AR de primer orden en L.
$\phi^{-1}$ es una root de $\Phi(L)$ Es decir, $\Phi(\phi^{-1})=1-\phi(\phi^{-1})$ .
En otras palabras, $\phi$ es root inversa del polinomio AR. $\lvert \phi_1 \rvert< 1$ significa $-1<\phi<+1$ . Si se dibuja una circunferencia de radio 1 alrededor del cero, ésta se conoce como circunferencia unitaria. Por lo tanto, podemos replantear la condición de estacionariedad para AR(1) como: root inversa del polinomio AR(1) $\Phi(L) = 1-\phi L$ se encuentra dentro del círculo unitario. En el caso general, la condición será

Todas las p raíces inversas del ploinomio AR(p) $\Phi(L) = 1-\phi_1 L-\phi_2L^2 - ...-\phi_pL^p$ se encuentran dentro del círculo unitario.