clase 1 intro ducci on

45
Lic. Luis Huamanchumo de la Cuba INTRODUCCION CONCEPTOS MATEMÁTICOS PARA EL MODELAMIENTO ESTADÍSTICO LINEAL UNI-FIECS MODELOS LINEALES

Upload: sergio-pacheco

Post on 13-Dec-2015

17 views

Category:

Documents


0 download

DESCRIPTION

introducción a los modelos lineales

TRANSCRIPT

Lic. Luis Huamanchumo de la Cuba

INTRODUCCION

CONCEPTOS MATEMÁTICOS PARAEL MODELAMIENTO ESTADÍSTICO LINEAL

UNI-FIECS MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS MODELOS LINEALES

ELECTRÓNICA

BASE DE DATOS

PROYECTOS DE INVERSIÓN

PROCESOS TÉCNICOS

INVESTIGACIÓN SATELITAL

DISEÑO POR COMPUTADORA

MODELAMIENTO MATEMÁTICO(MATLAB)

APLICACIONES DE LAS MATRICES

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS MODELOS LINEALES

Conceptos básicos de matricesNotación y definicionesAlgebra de Matrices

AdiciónDiferenciaMultiplicación por un escalarMultiplicaciónTransposiciónIgualdad

Inversa de matrices y determinantesTrazaFormas cuadráticas

CONCEPTOS MATEMÁTICOS PARA EL MODELAMIENTO ESTADÍSTICO LINEAL (Continuación)

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS MODELOS LINEALES

Conceptos básicos de vectoresNotación y definicionesEspacios y subespacios vectorialesIndependencia linealBase de un espacio vectorialRango de un matrizProducto interno y ortogonalidad de vectores

CONCEPTOS MATEMÁTICOS PARA EL MODELAMIENTO ESTADÍSTICO LINEAL (Continuación)

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS MODELOS LINEALES

Matrices y vectores notablesMatriz similarMatriz simétrica y simétrica negativaMatriz ortogonalMatriz definida positivaMatriz idempotenteMatriz identidadMatriz JVector 1nMatriz diagonal.

Diagonalización.Diagonalización simultánea de dos matrices cuadradas.

Matriz particionada. Determinante. Inversa.Matriz bloque diagonal. Determinante. Inversa.Matriz triangularMatriz escalar

CONCEPTOS MATEMÁTICOS PARA EL MODELAMIENTO ESTADÍSTICO LINEAL (Continuación)

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS MODELOS LINEALES

Interpretación geométricaRectaPlanoProyecciónEspacio vectorial

Intersección y suma de espacios vectorialesComplemento ortogonal de un subespacio vectorialEspacio por columna y espacio nulo de una matriz

CONCEPTOS MATEMÁTICOS PARA EL MODELAMIENTO ESTADÍSTICO LINEAL (Continuación)

Lic. Luis Huamanchumo de la Cuba

I. MATRICES Y VECTORES ALEATORIOS

UNI-FIECS MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

Vector Aleatorio

Es un vector cuyos elementos son variables aleatorias

Matriz Aleatoria

Es una matriz cuyos elementos son variables aleatorias

UNI-FIECS MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

Valor Esperado de una Matriz Aleatoria E(X)

Si X es una matriz aleatoria de orden nxp, entonces,

donde:

E(xij) = Xij fij(xij)dxij ; xij es una v.a. continua

Σ xij pij(xij) ; xij es una v.a. discreta

x

UNI-FIECS

E(x)=

E(X11)

E(X21)

E(Xn1)

.

.

.

E(X12)

E(X22)

E(Xn2)

.

.

.

. . .. . .

. . .

E(X1p)

E(X2p)

E(Xnp)

.

.

.

MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

Si ‘x’ es un vector aleatorio px1, entonces,

También, E(x) = µ (px1)

UNI-FIECS

E ( x ) =

E(X1)

E(X2)

E(Xp)

.

.

.

µ1

.

.

.

=

µ2

µp

MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

Matriz Varianza-Covarianza Σ

Si “x” de orden px1 es un vector aleatorio y “µ” su correspondiente vector de medias. Entonces,

UNI-FIECS

Σ = E [ (x - µ)(x - µ)’ ] =

( x1 - µ1 )

.

.

.

( x2 - µ2)

( xp - µp)

( x1 - µ1 ) ( x2 - µ2) . . . ( xp - µp)E ( )

MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

Desarrollando el producto de la expresión anterior tenemos que;

En términos de las varianzas y covarianzas,

µ−µ−µ−µ−µ−

µ−µ−µ−µ−µ−

µ−µ−µ−µ−µ−

2pp22pp11pp

pp222

221122

pp1122112

11

)x()x)(x()x)(x(

)x)(x()x()x)(x(

)x)(x()x)(x()x(

L

MOMM

L

L

UNI-FIECS

Σ = E

σσσ

σσσσσσ

=pp2p1p

p22221p11211

L

MOMM

L

L

σσσ

σσσσσσ

=∑pp2p1p

p22221p11211

L

MOMM

L

L

MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

Matriz de Correlación ρ

La matriz de correlación (pxp) es una matriz simétrica tal que:

UNI-FIECS

σ11

σ11σ11

σ21

σ11σ22ρ

σp1

σ11σpp

.

.

.

σ22σ11

σ22

σ22σ22

σp2

σ22σpp

.

.

.

σ12. . .

. . .

. . .

σppσ11

σ2p

σppσ22

σpp

σppσpp

.

.

.

σ1p

=

MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

Matriz de Covarianza Particionada

Sea el vector X(px1) particionado y su correspondiente vector de medias µ:

A partir de la transposición y multiplicación de matrices tenemos que:

UNI-FIECS

X =

X1

Xq

Xq+1

Xp

.

.

.

.X(1)

X(2)= µ =

µ1

µ q

µ q+1

µ p

.

.

.

.µ(1)

µ(2)=

X(1) X(2)µ(1) µ(2)( )- ( )’- =

X1

X2

Xp

.

.

µ1

µ 2

µ p

-

-

-

X1 µ1- X2 µ2- Xp µp-. . .

MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

Efectuándose el producto de matrices tenemos:

Tomando valor esperado a ambos términos de la ecuación:

UNI-FIECS

µ−µ−µ−µ−µ−µ−

µ−µ−µ−µ−µ−µ−µ−µ−µ−µ−µ−µ−

=µ−µ−

++++

++++++++

)X)(X()X)(X()X)(X(

)X)(X()X)(X()X)(X()X)(X()X)(X()X)(X(

)X)(X(

ppqq2q2qqq1q1qqq

pp222q2q221q1q22pp112q2q111q1q11

l)2()2()1()1(

L

MOMM

L

L

µ−µ−µ−µ−µ−µ−

µ−µ−µ−µ−µ−µ−µ−µ−µ−µ−µ−µ−

=µ−µ−

++++

++++++++

)X)(X()X)(X()X)(X(

)X)(X()X)(X()X)(X()X)(X()X)(X()X)(X(

)X)(X(

ppqq2q2qqq1q1qqq

pp222q2q221q1q22pp112q2q111q1q11

l)2()2()1()1(

L

MOMM

L

L

MOMMΣ12MOMM MOMM

=

σ1,q+1 σ1,q+2 . . . σ1,p

σ2,q+2 σ2,q+2 . . . σ2,p

σq,q+1 σq,q+2 . . . σq,p

X(1) X(2)µ(1) µ(2)( )- ( )’-E =

MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MOMM MOMM MOMM

σ1,q+1 σ1,q+2 . . . σ1,p

σ2,q+1 σ2,q+2 . . . σ2,p

σq,q+1 σq,q+2 . . . σq,p

MOMM MOMM MOMM

σ11 σ12 . . . σ1q

σ21 σ22 . . . σ2q

σq1 σq2 . . . σqq

MOMM MOMM MOMM

σq+1,1 σq+1,2 . . . σq+1,p

σq+2,1 σq+2,2 . . . σq+2,p

σp,1 σp,2 . . . σp,q

MMM MMM MOMM

σq+1,q+1 σq+1,q+2 . . . σq+1,p

σq+2,q+1 σq+1,q+2 . . . σq+2,p

σp,q+1 σp,q+2 . . . σpp

Σ11 Σ12

Σ22Σ21=Σpp =

MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

Matriz de Medias y Covarianza Muestral Particionada

La media y la matriz de covarianzas muestrales pueden ser particionadas con el fin de distinguir cantidades correspondientes a cada grupo de variable, así:

media muestral

y covarianza muestral

=

pp2p1p

p22221p11211

sss

ssssss

S

L

MOMM

L

L

UNI-FIECS

X1

Xq

Xq+1

Xp

.

.

.

.

X =

MODELOS LINEALES

UNI-FIECS

Lic. Luis Huamanchumo de la Cuba

cuyas particiones están dadas por:

X1

Xq

Xq+1

Xp

.

.

.

.

X = =

X(1)

X(2)

MODELOS LINEALES

UNI-FIECS

Lic. Luis Huamanchumo de la Cuba

SSSS22211211n SS

SS=

MOM MOM MOMM

s1,q+1 s1,q+2 . . . s1,p

s2,q+1 s2,q+2 . . . s2,p

sq,q+1 sq,q+2 . . . sq,p

MOMM MOMM MOMM

s11 s12 . . . s1q

s21 s22 . . . s2q

sq1 sq2 . . . sqq

MOMM MOMM MOMM

sq+1,1 sq+1,2 . . . sq+1,q

sq+2,1 sq+2,2 . . . sq+2,q

sp,1 sp,2 . . . sp,q

MMM MMM MOMM

sq+1,q+1 sq+1,q+2 . . . sq+1,p

sq+2,q+1 sq+1,q+2 . . . sq+2,p

sp,q+1 sp,q+2 . . . spp

=

MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

El Vector de Medias y Matriz de Covarianzas para una Combinación Lineal

La Combinación Lineal c’X=c1X1+c2X2+...+cpXp tiene:

Media E(c’X)=c’µ

Varianza V(c’X)=c’Σc

donde µ=E(X) y Σ=Cov(X)

UNI-FIECS MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

La combinación lineal Z=CX tiene:

µz = E(Z) = E(CX) = C µx

Σz = Cov(Z) = Cov(CX) = C Σx C’

En general si consideramos ’q’ combinaciones de las ’p’ variables aleatorias X1, X2, ..., Xp

UNI-FIECS

p22221p11211

L

MOMM

L

Lc

qp21

p22221p11211

L

MOMM

L

Lc

c

cc

c

cc

c

X1

X2

Xp

.

.

.= CX=

Z1

Z2

Zq

.

.

.=Z

q q

MODELOS LINEALES

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

II. OPERACIONES CON MATRICES

Producto Kronecker

El producto directo o producto Kronecker de dos matrices A (nxm) y B (pxq)se define como:

A B =

a11a21...an1

a12a22...an2

a1ma2m...anm

BB

B

BB

B

BB

B

(np x mq)

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

Propiedades

Sean A, B, C y D matrices; x e y vectores; α y β escalares. Entonces,

x’ y = yx’ = y x’

αA βB = αβ ( A B)

A ( B C ) = ( A B) C

(A + B) C = ( A C) + (B C)

A ( B + C ) = ( A B) + (A C)

(A B)(C D) = ( AC BD)

(A B)’ = A’ B’

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

tr(A B) = (trA)(trB)

A1 A2 B = A1 B A2 B , para una matriz particionada A=(A1,A2)

I A =

A 0 … 00 A … 0

0 0 … A

.

...

.

.= diag ( A )

Propiedades (continuación…)

( I x ) A ( I x’ ) = A xx’

En general A B = B A

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

MODELOS LINEALESUNI-EPIES

Lic. Luis Huamanchumo de la Cuba

Operador Vec(.)

El operados ‘vec’ para una matriz A(nxq) apila las columnas de A= a1, a2, …aq secuencialmente uno sobre otro hasta formar un vector ‘a’ (nqx1).

a = vec (A) =

a1a2

aq

.

.

.

Definición:

Operador Vec(.)

vec(y) = vec(y’) = y

vec(yx’) = x y

vec (A x) = vec(A) x

vec ( αA + βB ) = α vec(A) + β vec(B)

Propiedades:

vec (ABC) = (C’ A) vec(B)

MODELOS LINEALESUNI-EPIES

Lic. Luis Huamanchumo de la Cuba

vec (AB) = (I A) vec(B) = (B’ I) vec (B’ I) vec (A)

tr(A’B) = (vec(A))’vec(B)

tr(ABC) = vec(A’) (I B) vec(C)

Propiedades (continuación…)

tr(ABCD) = (vec(A’))’ (D’ B) vec(C)

tr(AX’BXC) = (vec(X))’ (CA B’) vec(X)

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

III. DIFERENCIACIÓN DE MATRICES Y VECTORES

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

Sea f=f(x1, x2,… , xp)

∂f∂x

y

Xpx1=

x1

x2

xp

.

.

= ..

∂f∂x1

∂f∂x2

∂f∂xp

Derivada de una función de variables reales con respecto a un vector ‘x’

Caso I:

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

Si f(x) = a’x = x’a

∂f∂x

= ..

∂f∂x1

∂f∂x2

∂f∂xp

=

a1

a2

ap

.

.= a

Caso II:

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

Sea q(x) = x’Ax una forma cuadrática sobre ‘p’ variables aleatorias reales, donde A es una matriz pxp simétrica de constantes. Entonces,

∂q∂x

= 2Ax

Caso III:

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

=

xxx

xxx

xxx

Xnxp

np2n1n

p22221

p11211

L

MOMM

L

L

Derivada de una función de variables reales con respecto a una matriz ‘X’

∂ f

∂X=

∂ f

∂Xij

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

Sea f(x) = a’Xb ,

Caso IV:

donde ‘a’ es un vector nx1 y ‘b’ es un vector px1 de constantes y ‘X’ una matriz nxp.

∂ f

∂X= ab’

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

Sea f(x) = a’Xa ,

Caso V:

donde ‘a’ es un vector px1 de constantes y ‘X’ una matriz pxp simetrica de valores reales.

∂ f

∂X= 2aa’ – D(aa’)

D(aa’) es una matriz diagonal pxp cuyos i-ésimos elementos de la diagonal principal coinciden con los de la matriz aa’

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

Caso VI:

Dado A y B matrices constantes de ordenes apropiados tales que:

d(AXB)d(X)

= B A’

d(AYB)d(X)

= ( B A’ )d(Y)d(X)

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

MODELOS LINEALES Y SU CLASIFICACIÓN

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

LOS MODELOS LINEALES Y SU CLASIFICACIÓN

MODELOS LINEALES MIXTOS

MODELOS DE RANGO COMPLETO

MODELOS DE RANGO INCOMPLETO

MODELOS EXPERIMENTALES

EFECTOS FIJOS

EFECTOS ALEATORIOS

MODELOS DE REGRESIÓN LINEAL

MODELOS DE REGRESIÓN POLINOMIAL

MODELOS DE CLASIFICACIÓN CRUZADA

MODELO LINEAL GENERAL

MODELO LINEAL CLASICO

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

EL MODELO LINEAL

E(yij) = µij = µ + αi + βj

yij con distribución normal

yij = µ + αi x1ij+ βj x22ij

yij = µ + αi log x1ij+ βj log x2ij

E(yij) = µij = µ + ai + βj (MLM)

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

MODELAMIENTO DE FENÓMENOSCIENTÍFICOS

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

BAJA EXPOSICIÓN AL SOL

ALTA EXPOSICIÓN AL SOL

GRUPO DE EDADES GRUPO DE EDADESGENERO

A B C A B C

MASCULINO

FEMENINO

MATEMÁTICAS I MECANICA CUANTICA

SECCIÓNGENERO

A B C A B C

MASCULINO

FEMENINO

SECCIÓN

Factores, Niveles, Celda, Efectos y Dato

FACTORES

NIVELES

NIVELES

NIVELES

CELDAS (2X3X2)

FACTORESCRUZADOS

FACTORESANIDADOS

(Sección Anidado a

Curso)

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

Efectos

Fijos MODELOS DE EFECTOS FIJO O MODELOS FIJOS

Aleatorios MODELOS DE EFECTOS ALEATORIOSO MODELOS ALEATORIOS

Principal EFECTO DE UN SOLO FACTOR

Interacción CUANDO HAY MÁS DE UN FACTOR(Siguiente lámina)

UNI-EPIES

Lic. Luis Huamanchumo de la Cuba

MODELOS LINEALES

INTERACCIÓN

Factor A

Res

pues

ta

1 2 3 4

Bajo nivel del Factor B

Alto nivel del Factor B

SIN INTERACCIÓN

Factor AR

espu

esta

1 2 3 4

Bajo nivel del Factor B

Alto nivel del Factor B

EFECTO DE INTERACCIÓN

UNI-EPIES MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

MATEMÁTICAS I MECANICA CUANTICA

SECCIÓN

GENERO

A B C A B C

MASCULINO

FEMENINO

SECCIÓN

Datos balanceados

12.5 07.8

15.010.1 11.5

09.411.7

12.8

10.109.8

10.1 10.1

11.0

08.1 13.2

12.311.7

12.4

10.1

09.8

10.1 10.1

11.0

08.1 13.2

14.2

12.409.8

√√12.0

15.3

UNI-EPIES MODELOS LINEALES

Lic. Luis Huamanchumo de la Cuba

MATEMÁTICAS I MECANICA CUANTICA

SECCIÓN

GENERO

A B C A B C

MASCULINO

FEMENINO

SECCIÓN

Datos no balanceados

12.5 07.8

15.010.1 11.5

09.411.7

12.8

10.113.3

09.8

13.4

10.2 09.1

15.0

17.0 08.5

09.411.7

10.3

13.311.6

11.2 06.8

15.010.1 15.5

12.408.3

12.8

10.113.3

09.8

√14.1 09.1

12.112.2 11.0

10.1