estad´ıstica miguel angel chong r.´ [email protected]
TRANSCRIPT
Series de tiempo
Estadıstica
Miguel Angel Chong [email protected]
5 de marzo del 2013
Miguel Chong Series de tiempo
Procesos estocasticos lineales.
DefinicionUn proceso estocastico {Xt}t2T es un proceso lineal si para todo t 2 Z sepuede representar como
Xt =1X
j=�1 j✏t�j , (1)
donde {✏t}t2T es un proceso de ruido blanco y { j}1j=�1 es una sucesion
de constantes reales absolutamente sumablesP1
j=�1 | j | < 1.
Una forma de escribir (1) a partir de operadores de retraso es la siguiente;
Xt = (B) ✏t , donde (B) =1X
j=�1 jB
j .
Miguel Chong Series de tiempo
El operador (B) puede ser interpretado como un filtro lineal.En otras palabras el proceso lineal {Xt}t2T es la salida oresultado de aplicarle el filto (B) a la serie de ruido blanco{✏t}t2T .Podemos ser un poco mas generales si suponemos un procesolineal {Xt}t2T que tiene media µ se puede expresar de laforma Xt � µ =
P1j=�1 j✏t�j .
Miguel Chong Series de tiempo
Veamos un ejemplo de un proceso estocastico lineal. Sea {Xt}t2Tun proceso estocastico
Xt =�Xt�1
+ ✏t , con |�| < 1.
De manera recursiva podemos escribir la ecuacion anterior como
Xt = � (�Xt�2
+ ✏t�1
) + ✏t = �2Xt�2
+ �✏t�1
+ ✏t
= �2 (�Xt�3
+ ✏t�2
) + �✏t�1
+ ✏t = �3Xt�3
+ �2✏t�2
+ �✏t�1
+ ✏t...
= �nXt�n + �n�1✏t�(n�1)
+ . . .+ �2✏t�2
+ �✏t�1
+ ✏t
= limn!1
�nXt�n +1X
j=0
�j✏t�j =1X
j=0
�j✏t�j .
Miguel Chong Series de tiempo
TeoremaSea {Yt}t2T un proceso estacionario con media cero, varianza�Y (0) = �2 y funcion de autocovarianzas �Y (h) para h � 1. Si
{ j}1j=�1 es una serie de reales tales que1X
j=�1| j | < 1 entonces
el proceso Xt =1X
j=�1 jYt�j es estacionario con media cero y fun-
cion de autocovarianzas
�X (h) =1X
j=�1
1X
k=�1 j k�Y (h � k + j), h � 0.
Miguel Chong Series de tiempo
Demostracion. Sea h � 0
�X (h) = Cov (Xt ,Xt+h) = E (XtXt+h)� 0
= E
0
@1X
j=�1
jYt�j
1X
k=�1
kYt+h�k
1
A
= E
0
@1X
j=�1
1X
k=�1
j kYt�jYt+h�k
1
A
=1X
j=�1
1X
k=�1
j kE (Yt�jYt+h�k)
=1X
j=�1
1X
k=�1
j k�Y (h � k + j)⌅
Miguel Chong Series de tiempo
Lo que dice el teorema anterior es que la serie que resulta deaplicarle un filtro lineal a una serie estacionaria es tambien unaserie estacionaria.
CorolarioCon las hipotesis del teorema anterior y ahora suponiendo que{Yt}t2T es ruido blanco, la funcion de autocovarianzas del procesoestocastico lineal {Xt} esta dado por
�X (h) = �21X
j=�1 j j+h, h � 0.
Miguel Chong Series de tiempo
Demostracion Si {Yt}t2T es ruido blanco entonces�Y (h) = 0 si h 6= 0, y �Y (0) = �2, entonces de la ecuacion
�X (h) =1X
j=�1
1X
k=�1 j k�Y (h � k + j),
tenemos que �Y (h � k + j) = �2 si solo si h � k + j = 0 oequivalentemente k = h + j , y sustituyendo k en la ecuacionanterior
�X (h) =1X
j=�1 j h+j�Y (0) = �2
1X
j=�1 j h+j⌅
Miguel Chong Series de tiempo
Promedios moviles
DefinicionDiremos que {Xt}t2T es un proceso de media movil de orden q, ylo denotaremos como MA(q), si para q � 1 entero y ✓
1
, . . . , ✓q, µson constantes reales tales que para todo t 2 T tenemos
Xt =µ+ ✏t + ✓1
✏t�1
+ . . .+ ✓q✏t�q
=µ+ (1 + ✓1
B
1 + . . .+ ✓qBq)✏t
=µ+ ✓q(B)✏t
donde {✏t} es un proceso de ruido blanco. (A ✓q(B) le llamaremosel polinomio de media movil.)
Veamos si este proceso es estacionario (estacionario de segundoorden)
Miguel Chong Series de tiempo
Promedios moviles
Primero calculemos la esperanza y la varianza de un procesoMA(q)
E [Xt ] =E [µ+ ✏t + ✓1
✏t�1
+ . . .+ ✓q✏t�q]
=E [µ] + E [✏t ] + ✓1
E [✏t�1
] + ...+ ✓qE [✏t�q]
=µ.
Var [Xt ] =Var [µ+ ✏t + ✓1
✏t�1
+ . . .+ ✓q✏t�q]
=V [✏t ] + ✓21
V [✏t�1
] + ...+ ✓2qV [✏t�q]
=�2✏
qX
i=0
✓2i , donde ✓0
= 1.
Miguel Chong Series de tiempo
Promedios moviles
Ahora para calcular la funcion de autocovarianza recordemos que para unproceso estocastico lineal
Xt � µ =1X
j=�1 j✏t�j ,
sabemos que podemos encontrar la funcion de autocovarianza como
�X (h) = �2
1X
j=�1 j j+h, h � 0.
En nuestro caso tenemos que el proceso estocastico es
Xt � µ =✏t + ✓1
✏t�1
+ . . .+ ✓q✏t�q
entonces 0
= 1, 1
= ✓1
, 2
= ✓2
, . . . , q = ✓q y k = 0 para k � q+1.
Miguel Chong Series de tiempo
Promedios moviles
Entonces se puede probar que la autocorrelacion para h � 0 de unMA(q) es:
�(h) = Cov (Xt ,Xt+h) =
8>><
>>:
�2✏
q�hX
i=0
✓i✓h+i si 0 h q
0 h > q.
Notemos que esto ultimo no depende de t, el tiempo donde se estaparado, sino de cuanto estan separadas las observaciones. por lotanto es un proceso estacionario de segundo orden.
Miguel Chong Series de tiempo
Promedios moviles
La funcion de autocorrelacion para h � 0 de un MA(q) esta dadopor
⇢(h) = ⇢(Xt ,Xt+h) =�h�0
=
8>>>>>>><
>>>>>>>:
q�hX
i=0
✓i✓h+i
qX
i=0
✓2i
si 0 h q
0 h > q.
Miguel Chong Series de tiempo
Observaciones
Para una MA(q), definido por Xt = µ+ ✓q(B)✏t , si es unproceso de ruido blanco {✏t} es gaussiano, entoces Xt
tambien es gaussiano.
En un proceso MA(q) la funcion de autocorrelacion presentaun rasgo identificativo, puesto que es cero a partir de los lag 0smayores a el orden del proceso.
Notemos que aunque no se requieren restricciones sobre loscoeficientes, ✓
1
, . . . , ✓q para que un proceso MA (q) seaestacionario, sı hay un inconveniente que explicaremos acontinuacion.
Miguel Chong Series de tiempo
La funcion de autocorrelacion ⇢(h) es una herramienta queusaremos mas para tratar de identificar que proceso genero nuestraserie de tiempo. Por lo tanto cabe la pregunta ¿Para cada modeloMA existe una unica funcion de autocorrelacion? Por desgracia larespuesta es no.
Supongamos que tenemos los siguientes procesos MA (1)
Xt = ✏t + ✓✏t�1
y Yt = "t +1
✓"t�1
,
donde ✓ 2 R\ {0} y {✏t}t2T y {"t}t2T son dos procesos de ruidoblanco. Para estos dos procesos tenemos que la funcion deautocorrelacion es
⇢(h) =
8>><
>>:
1 si h = 0✓
1 + ✓2si h = 1
0 si h > 1.
Miguel Chong Series de tiempo
Veamos una forma para elegir entre uno de estos modelos. Del modeloXt = ✏t + ✓✏t�1
tenemos que ✏t = Xt � ✓✏t�1
Xt = ✏t + ✓✏t�1
= ✏t + ✓ (Xt�1
� ✓✏t�2
)
= ✏t + ✓Xt�1
� ✓2✏t�2
= ✏t + ✓Xt�1
� ✓2 (Xt�2
� ✓✏t�3
)
= ✏t + ✓Xt�1
� ✓2Xt�2
+ ✓3✏t�3
= ✏t + ✓Xt�1
� ✓2Xt�2
+ ✓3 (Xt�3
� ✓✏t�4
)
= ✏t + ✓Xt�1
� ✓2Xt�2
+ ✓3Xt�3
� ✓4✏t�4
...
= ✏t +1X
j=1
(�1)j+1 ✓jXt�j
Por lo tanto si |✓| < 1, el efecto del pasado cada vez es menor. Por lotanto si |✓| < 1 tenemos que
✏t = Xt �1X
j=1
(�1)j+1 ✓jXt�j = Xt +1X
j=1
(�1)j ✓jXt�j
=1X
j=0
(�1)j ✓jXt�j .Miguel Chong Series de tiempo
Ahora vamos a introducir el concepto de invetibilidad en losprocesos MA que nos garantiza que para cada proceso MA sepuede relacionar de manera unica con una funcion deautocorrelacion.
Invertibilidad
DefinicionUn proceso MA(q), {Xt}t2T definido por ✓p (B) = 1+ ✓
1
B + . . .+✓qBq se llama invertible si se puede expresar como un AR(1), es
decir ✏t =1X
j=0
⇡jXt�j =1X
j=0
⇡jB jXt = (B) ✏t para toda t 2 T ,
donde1X
j=0
|⇡j | < 1 y ⇡0
= 1.
Miguel Chong Series de tiempo
El siguietne resultado nos da condiciones necesarias para saber siun proceso MA es invertible o no.
TeoremaUn proceso MA(q), definido por ✓p (B) ✏t = Xt , donde ✓q (B) =1+ ✓
1
B + . . .+ ✓qBq es invertible si solo si las raıces de la ecuacion
✓q (B) = 1 + ✓1
B + . . .+ ✓qBq = 0,
son en modulo mayores que la unidad
Miguel Chong Series de tiempo
Ejemplo
Para un MA(2), Xt = ✏t + ✓1
✏t�1
+ ✓2
✏t�2
=�1 + ✓
1
B + ✓2
B
2
�✏t
sera invertible si las raıces del polinomio ✓2
(B)=1 + ✓1
B + ✓2
B
2
son en modulo mayores a la unidad, es decir
z
1
=
������
�✓1
+q✓21
� 4✓2
2✓2
������> 1 y z
2
=
������
�✓1
�q✓21
� 4✓2
2✓2
������> 1.
Entonces igualando el polinomio ✓2
(B) con su factorizacion
1 + ✓1
B + ✓2
B
2 = ✓2
(B)=
✓1� B
z
1
◆✓1� B
z
2
◆= 1� B
✓1
z
1
+1
z
2
◆+
B
2
z
1
z
2
Por lo tanto ✓2
= 1
z1
z2
, y ✓1
= �⇣
1
z1
+ 1
z2
⌘, con estas condiciones
tenemos que la region en R2 donde el proceso MA(2) es invertiblees
�1 < ✓2
< 1,✓1
+ ✓2
< 1, ✓2
� ✓1
< 1.
Miguel Chong Series de tiempo
Para un MA(2) el conjunto de puntos que hace que sea invertibleson
−2 −1 0 1 2
−1.0
−0.5
0.0
0.5
1.0
theta_1
theta_2
Miguel Chong Series de tiempo
Autorregresivos
Diremos que un proceso {Xt}t2T es un autorregresivo de orden p, ylo denotaremos como AR(p), si para p � 1 un entero y �
1
, . . . ,�pconstantes reales tenemos que
Xt =�1Xt�1
+ . . .+ �pXt�p + ✏t
donde {✏t} es un proceso de ruido blanco.
En terminos de operadores de retraso tenemos
Xt � �1
Xt�1
� . . .� �pXt�p =✏t
(1� �1
B � . . .� �pBp)Xt =✏t
�p (B)Xt =✏t ,
a �p (B) se le conoce como el polinomio autorregresivo.
Miguel Chong Series de tiempo
Un proceso AR(p) puede ser estacionario o no estacionario, esodependera de los valor es de �
1
, . . . ,�p, por ejemplo
Para un AR(1) Xt = �Xt�1
+ ✏t con |�| < 1, ya habıamoscalculado que
E (Xt) = 0, �(h) =�2�h
1� �2y ⇢(h) =
�(h)
�(0)= �h.
Notemos que de lo anterior concluimos que la funcion deautocorrelacion decrece de forma exponencial y ademas queira alternado el signo si � < 0.
Miguel Chong Series de tiempo
Ahora introduciremos el concepto de causalidad para los procesoAR(p). Este concepto es casi identico a la definicion de un procesoestocastico lineal, y recordemos que para ese tipo de procesosabemos que condiciones pedir para que sean estacionarios desegundo orden. En otras palabras, si tenemos un proceso AR(p)causal entonces este sera estacionario.
DefinicionUn proceso AR(p), {Xt} definido por �p (B) = 1��
1
B�. . .��pBp
se llama causal o funcion causal de {✏t} si se puede expresar como
un MA(1), es decir Xt =1X
j=0
j✏t�j =1X
j=0
jBj✏t = (B) ✏t para
toda t 2 T , donde1X
j=0
| j | < 1 y 0
= 1.
Miguel Chong Series de tiempo
El siguiete teorema nos da condiciones necesarias para saber si unproceso AR(p) es causal o no.
TeoremaUn proceso AR(p), definido por �p (B)Xt = ✏, donde �p (B) =1��
1
B� . . .��pBp es causal si solo si las soluciones de la ecuacion
�p (B) = 1� �1
B � . . .� �pBp = 0,
son en modulo mayores que la unidad.
Miguel Chong Series de tiempo
Para un AR(2) la region de causalidad es la que se muestra acontinuacion
Miguel Chong Series de tiempo