Download - Regresión logística
![Page 1: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/1.jpg)
Regresión logística
Eva Medina Moral
Profesora Economía Aplicada (UAM)
Febrero 2007
![Page 2: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/2.jpg)
INDICE
INTRODUCCIÓN
TIPOLOGÍA DE MODELOS LOGIT
ETAPAS PARA CONSTRUIR UN MODELO LOGIT
APLICACIÓN PRÁCTICA
![Page 3: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/3.jpg)
INTRODUCCIÓN (I)
TÉCNICA DE ANALISIS DE GRUPOS
– Método– Variables explicativas– Resultado
ANÁLISIS DE REGRESIÓNY = f (X1, X2, …, XK)
con Y: variable categórica
f(): función logística
- Análisis Discriminante
- Regresión logísticaDiferencias
![Page 4: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/4.jpg)
INTRODUCCIÓN (II)
AJUSTE LINEAL
-0.5
0.0
0.5
1.0
1.5
0 10 20 30 40 50 60
XI
EN
DO
GE
NA
Regresión tradicional Regresión logística
NUBE DE PUNTOS A AJUSTAR
PROBLEMAS DEL AJUSTE LINEAL:
– Distribución no normal de la perturbación aleatoria– Heterocedasticidad– Valor estimado fuera del rango 0-1
0
2
4
6
8
10
0 2 4 6 8 10
X1
EN
DO
GE
NA
ENDOGENA vs. X1
![Page 5: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/5.jpg)
INTRODUCCIÓN (III)
AJUSTE NO LINEAL
1
0
0,5
i
sX
udseYii
22/1
2
)2(
1
Logit
Probit
Modelo Probit
iX
X
iXi ue
eu
eY
ikk
ikk
ikk
11
1
Modelo Logit
![Page 6: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/6.jpg)
INDICE
INTRODUCCIÓN
TIPOLOGÍA DE MODELOS LOGIT
ETAPAS PARA CONSTRUIR UN MODELO LOGIT
APLICACIÓN PRÁCTICA
![Page 7: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/7.jpg)
TIPOLOGÍA DE MODELOS LOGIT(I)
LOGIT
Respuesta binaria: LOGIT DICOTÓMICO
(0, 1)
Respuesta múltiple
(1, 2, …, J)
Datos no ordenados:
LOGIT MULTINOMIAL
Datos ordenados:
LOGIT ORDINAL
![Page 8: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/8.jpg)
TIPOLOGÍA DE MODELOS LOGIT(II)
LOGIT DICOTÓMICO
kik
ikk
ikk X
X
Xi e
e
eYob
11
1)1(Pr )(
Se modeliza una ecuación cuyo resultado se interpreta como probabilidad de pertenencia al grupo codificado como 1.
Características:
Expresión general del modelo:
ii
ii
ii XX
XX
XXi e
e
eYob
2211
2211
2211 11
1)1(Pr
Ejemplo:
Para el caso de dos variables explicativas
![Page 9: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/9.jpg)
TIPOLOGÍA DE MODELOS LOGIT(III)
LOGIT MULTINOMIAL
- Se modelizan tantas ecuaciones como alternativas tiene Y.- Para cada variable se estiman tantos parámetros como alternativas de Y menos una.- Es necesario identificar una categoría de referencia.
Características:
Expresión general del modelo:
0 para 1
1)0(Pr 1
1
'
je
Yob J
j
Xi
kikj
)1( ..., ,2 ,1 para 1
)(Pr 1
1
'
'
Jje
ejYob J
j
X
X
ikikj
kikj
![Page 10: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/10.jpg)
TIPOLOGÍA DE MODELOS LOGIT(IV)
LOGIT MULTINOMIALEjemplo:
Para el caso de 3 alternativas de Y (la primera es la que se toma como referencia) y 2 variables explicativas
iiii XXXXi eeYob
223113322211221
1)1(Pr
iiii
ii
XXXX
XX
i ee
eYob
22311332221122
2221122
1)2(Pr
iiii
ii
XXXX
XX
i ee
eYob
22311332221122
2231133
1)3(Pr
![Page 11: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/11.jpg)
TIPOLOGÍA DE MODELOS LOGIT(V)
LOGIT ORDINAL
- Se modelizan tantas ecuaciones como alternativas tiene Y.- Se estima un parámetro para cada variable explicativa y tantos parámetros “límites” como alternativas tiene Y menos una.
Características:
Expresión general del modelo:
)'()0(Pr ikki XYob
)'()'()1(Pr 1 ikkiki kXXYob
)'()'()2(Pr 12 kikkiki XXYob
)'(1))1((Pr )2( ikkJi XJYob
...
![Page 12: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/12.jpg)
TIPOLOGÍA DE MODELOS LOGIT(VI)
LOGIT ORDINALEjemplo:
Para el caso de 3 alternativas de Y y 2 variables explicativas
ii XXLIMITi eYob
221111
1)1(Pr
iiii XXLIMITXXLIMITi eeYob
2211122112 1
1
1
1)2(Pr
ii XXLIMITi eYob
221121
11)3(Pr
![Page 13: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/13.jpg)
INDICE
INTRODUCCIÓN
TIPOLOGÍA DE MODELOS LOGIT
ETAPAS PARA CONSTRUIR UN MODELO LOGIT
APLICACIÓN PRÁCTICA
![Page 14: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/14.jpg)
ETAPAS PARA CONSTRUIR UN MODELO LOGIT(I)
ESPECIFICACIÓN
ESTIMACIÓN
VALIDACION
UTILIZACIÓN
Definición de la variable endógena, explicativas y forma funcional
Cálculo de los parámetros
Individual: Ver que variables resultan significativas estadísticamente
Conjunta: Ver si en conjunto el modelo es aceptable
Predicción
Interpretación de los parámetros
![Page 15: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/15.jpg)
ETAPAS PARA CONSTRUIR UN MODELO LOGIT(II)
ESTIMACIÓN
Método de máxima verosimilitud
)log() log())(log( max
)(*...*)(*)()( max
0y ...y 0y 0 max
0 max
ˆ max
21
21
Ltudverosimilidefunciónuf
ufufufuf
uuuprob
uprob
YYprob
n
n
i
ii
i
i
i
i
X
X
iX
X
i e
eY
e
eYL
11ln)1(
1lnlog
RESOLUCIÓN A TRAVÉS DE UN ALGORITMO DE OPTIMICACIÓN
![Page 16: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/16.jpg)
ETAPAS PARA CONSTRUIR UN MODELO LOGIT(III)
VALIDACIÓNINDIVIDUAL: Contraste de hipótesis
CONJUNTA
0:0 H
Estadístico de contraste Wald
2
)ˆ(
ˆ
DT
Distrib. similar a t2
1.
2.
Regla de decisión
0,00
0,05
0,10
0,15
0,20
0,25
0,30
1 3 5 7 9
11
13
15
17
19
Acepto H0 si:
Valor de estadístico Wald < Niv. sig. >
3.
1. Pseudo R2 =)(log
)(log1
reducidoL
completoL
2. Porcentaje de aciertos: a través de un punto de corte
2/knt
2/
3. Razón de Verosimilitud = X2 = )(log2)(log2 completoLreducidoL
2
)ˆ(
ˆ
DT
Distrib. similar a t2 si H0 cierta
2/knt
2/knt
![Page 17: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/17.jpg)
ETAPAS PARA CONSTRUIR UN MODELO LOGIT(IV)
UTILIZACIÓN
PREDICCIÓNikk Xi
eY
ˆˆ1
1ˆ
INTERPRETACIÓN DEL PARÁMETRO:
ix
i
i eY
Y ˆ1
ˆRatio odds:
j
i
x
x
j
j
i
i
e
e
Y
Y
Y
Y
ˆ1
ˆ
ˆ1
ˆRazón entre odds:
Caso especial: Obs j con x=x Obs i con x=x+1
ee xx
Signo
Cuantía
Efecto Marginal: )ˆ1(*ˆ*ˆiiki YYEM
![Page 18: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/18.jpg)
INDICE
INTRODUCCIÓN
TIPOLOGÍA DE MODELOS LOGIT
ETAPAS PARA CONSTRUIR UN MODELO LOGIT
APLICACIÓN PRÁCTICA
![Page 19: Regresión logística](https://reader036.vdocuments.co/reader036/viewer/2022082402/56814015550346895dab5e59/html5/thumbnails/19.jpg)
APLICACIÓN PRÁCTICA
1. LOGIT DICOTÓMICO
- Salida básica
- Salida completa
- Identificación de atípicos
- Otros estadísticos para la valoración global del modelo
- Elección del punto de corte óptimo: Curva COR
- Tratamiento de las variables categóricas
- Cálculo del Efecto Marginal
- Estimación por pasos
2. LOGIT MULTINOMIAL
3. LOGIT ORDINAL