1. Álgebra lineal y vectores aleatoriosestadisticacondago.com/algebra lineal/algebra y... · 3....

1. ÁLGEBRA LINEAL

Y VECTORES ALEATORIOS

Vectores

Ortogonalización de Gram-Schmidt

Matrices ortogonales

Autovalores y autovectores

Formas cuadráticas

Vectores y matrices aleatorias

Matriz de datos

1

DAGOBERTO SALGADO HORTA

ALGEBRA LINEAL

Vectores

Matriz de datos: p variables observadas en n objetos

2

nxp

npnnn

p

p

p

X

xxxx

xxxx

xxxx

xxxx

321

3333231

2232221

1131211

pen

Objeto_1

Objeto_n

Variable_1 Variable_p

nxp

npnnn

p

p

p

X

xxxx

xxxx

xxxx

xxxx

321

3333231

2232221

1131211

pen

Objeto_1

Objeto_n


ALGEBRA LINEAL

Vectores

Dados vectores

px

x

x 1

py

y

y 1

se define:

1. Suma de dos vectores

pp yx

yx

yx 11

3

ALGEBRA LINEAL

Vectores

2. Producto de un escalar por un vector

pxc

xc

xc 1

3. Producto escalar de dos vectores

pp

p

i

ii yxyxyxyxyxyx

11

1

',

4

ALGEBRA LINEAL

Vectores

4. Norma de un vector

Propiedades

p

i

ixxxxxx1

22/1)'('

zxbyxabzayx ,,,

xyyx ,,

00,0, xxxyxx

x xx x

5

ALGEBRA LINEAL

Vectores

5. Distancia entre dos vectores

6. Ángulo entre dos vectores

yxyxd ),(

y

x

yx y

x

yx

6

yx

yx,cos

yxyx 0cos0,

ALGEBRA LINEAL

Vectores

7. Ortogonalidad

8. Ortonormalidad

nuuu ,,, 21 jiuu ji ,

nuuu ,,, 21 es ortonormal si es ortogonal

y todos los vectores tienen norma 1, es decir, iei 1

es ortogonal si

7

ALGEBRA LINEAL

Vectores

Ejemplo

8

cos)(

),()(

?)(

)(

,)(

3

0

1

2

0

1

v

vudiv

vuiii

uii

vui

vu

ALGEBRA LINEAL

Vectores

9. Desigualdad de Cauchy-Schwartz

yxyx ,

Consecuencia:

9

1cos1

1,

1

,

yx

yx

yxyxyx

ALGEBRA LINEAL

Vectores

Un conjunto de vectores nuuu ,,, 21

es linealmente independiente si

n

n

i

ii cccuc

21

1

0

(la única manera de construir una combinación lineal

igual a 0 es que todos los coeficientes sean 0)

10

ALGEBRA LINEAL

Vectores

Proposición Todo conjunto ortogonal es

nuuu ,,, 21

linealmente independiente:

ortogonal nuuu ,,, 21 l.i.

00,

0,,

0

11

11

jjj

jjjnnj

nn

cuu

uucucuccu

ucuc

Dem.-

11

ALGEBRA LINEAL

Vectores

Proyección de x sobre y

12

y y

y x y

y y

y x x pr y 2

,

,

, ) (

ALGEBRA LINEAL

Vectores

Ejemplo

13

?)(

1

1

2

3

0

1

xpr

yx

y

ALGEBRA LINEAL


V subespacio vectorial de p

si V es espacio vectorial,

;,, bayVvues decir, si Vbvau

Dado A =

n

i

iii cucAspan1

:

nuuu ,,, 21

Propiedades

subespaciounesAspanii

AspanAi

)()(

)(

14

; p V

ALGEBRA LINEAL


Proposición

n

i

uuspanv

niuv

,,

,,1

1

0,,,

,,

11

1

i

n

i

i

n

i

ii

n

uvcucvvu

uuspanu

Dem.-

15

ALGEBRA LINEAL


Método de Gram-Schmidt

1

11

1

1

11

1

2

22

23

1

11

13

33

1

11

12

22

11

,

,

,

,

,

,

,

,

,

,

n

nn

nnn

nn uuu

uxu

uu

uxxu

uuu

uxu

uu

uxxu

uuu

uxxu

xu

Sean

Dado un conjunto de vectores l.i., se puede

construir otro conjunto ortogonal que genere el

mismo espacio

linealmente independientes nxxx ,,, 21

16

ALGEBRA LINEAL


Entonces:

ortogonalesuuii

uuspanxxspani

n

nn

,,)(

,,,,)(

1

11

17

ALGEBRA LINEAL



Anxn; inversa A-1: A A-1 = A-1A = I.

A’ transpuesta de A.

Qnxn es ortogonal si Q’Q = QQ’ = I.

(las columnas de una matriz ortogonal son vectores ortonormales)

mnmm

n

mxn

aaa

aaa

A

21

11211

18

ALGEBRA LINEAL


Propiedades

Qy Qx

y

x

19

xQxiii

QyQxyxii

yxQyQxi

ortogonal

matrizQyx p

)(

)(

,,)(

; ,

ALGEBRA LINEAL


Anxn;

xAxquetalxvectorun 0

x

autovalor de A

x es un autovector asociado a .

0

0)(,0

0,0

0 ,0

IA

xIAx

IxAxx

xAxx

Polinomio

característico

Ecuación

característica

20

ALGEBRA LINEAL


Ejemplo

Autovalores y autovectores de

21

15

51A

ALGEBRA LINEAL


Propiedades

21

21

22

11

21

..,

)(

)(

ilsonxyxautovalorconx

autovalorconxii

trAi n

Diagonalización de matrices

jiijnxn aaAAsimétricaA '

nnn

n

nxn

aa

a

aaa

A

1

12

11211

22

ALGEBRA LINEAL

Autovalores y autovectores:

diagonalización

A simétrica

nn

n

nxn

e

e

e

eeeA

2

1

2

1

21

0

0

existen autovalores reales

n ,,1 con autovectores asociados nee ,,1

Ortonormales tales que

P P’ D

A=PDP’, siendo D diagonal y P ortogonal

(Toda matriz simétrica es diagonalizable)

23

ALGEBRA LINEAL

Ejemplo

Diagonalizar

24

15

51A


diagonalización

ALGEBRA LINEAL


representación espectral

Sea

n ,,1

con autovectores ortonormales nee ,,1 tales que

A es simétrica existen autovalores reales

''

222

'

111 nnn eeeeeeA

nnn

n

nxn

aa

a

aaa

A

1

12

11211

25

ALGEBRA LINEAL

Ejemplo

Descomposición espectral de

26

15

51A


representación espectral

ALGEBRA LINEAL

Formas cuadráticas

Anxn simétrica;

n

jii

n

j

jiij

n

i

n

j

n

i

iijjiij

nnnnjiijnnn

nnnn

n

n

xxaxaxxa

xxaxxaxxaxaxa

x

x

x

aa

a

aaa

xxxxf

1 11 1 1

2

112112

22

111

2

1

1

12

11211

21

2

)(

nx ,

nx

x

x 1

f(x)=x’ A x es una forma cuadrática

27

ALGEBRA LINEAL

Formas cuadráticas

Ejemplo

Expresar matricialmente la forma cuadrática

Escribir en forma cuadrática

28

323121

2

3

2

2

2

1321 546325),,( xxxxxxxxxxxxf

2

1

212115

51),(

x

xxxxxf

ALGEBRA LINEAL

Formas cuadráticas

Como Anxn es simétrica, es diagonalizable,

se puede escribir A = PDP’ y, por tanto,

queda: f(x) = x’PDP’x.

Haciendo y = P’x:

,

0

0

')(1

2

11

1

n

i

ii

nn

n y

y

y

yyDyyxf

se tiene

2

1

2

11

2)( nn

n

i

ii yyyyf

29

Formas cuadráticas

x1

x2 y2 y1

e2 e1 2λ

c

1λ

c

ALGEBRA LINEAL 30

y los autovectores x’Ax=c2 representa geométricamente una elipse en

22

22

2

11

2

2

'''

cyycxPDPxcAxx

; los autovalores son 21

normalizados son e1 y e2

2

Formas cuadráticas

ALGEBRA LINEAL 31

Ejemplo

Representar, hallar ejes, hallar expresión reducida

915

51

2

1

21

x

xxx

Formas cuadráticas

Clasificación de formas cuadráticas

ALGEBRA LINEAL 32

Sea f(x) = x’ A x

f es definida positiva si

f es semidefinida positiva si

f es semidefinida negativa si

f es definida negativa si

f es indefinida si

0)(,0 xfx

0)(, xfx n

0)(,0 xfx

0)(0)( 2121 xfyxfquetalxyx nn

0)(, xfx n

Formas cuadráticas

Sean los autovalores de A

f es definida positiva

f es semidefinida positiva

f es semidefinida negativa

f es definida negativa

f es indefinida

ALGEBRA LINEAL

0,,01 n

0,,01 n

0,,01 n

0,,01 n

0,0 ji

33

n ,,1

Formas cuadráticas

B es raíz de A si A=BB ;

ALGEBRA LINEAL

n

i

ii eeA1

'

Raíz cuadrada de una matriz

A definida positiva;

B=A1/2 ; A=A1/2 A1/2

Si A es simétrica y diagonalizable, A=PDP’ con

descomposición espectral

34

Formas cuadráticas

ALGEBRA LINEAL

Raíz cuadrada de una matriz

''

0

0

'

0

0

1

1

2/1

1

ii

n

i

i

nn

eePPAPPASea

'1

'

/10

0/1

1

1

1

ii

n

i i

n

eePPA

Nota:

35

Descomposición singular de una matriz

ALGEBRA LINEAL

i

Dada la matriz Amxn, AA’ es cuadrada y

simétrica; por tanto, diagonalizable.

VUAk

00

0

0

01

es un valor singular de A, si 2

i es autovalor de AA’.

Descomposición singular

Sea A una matriz mxn; k ,,1 valores singulares de A.

Entonces existen matrices ortogonales U y V tales que:

36


22 )]([)(

)(

aleatoria variable

iiiiii

ii

i

XEXEXV

XE

X

mnmm

n

n XXX

XXX

X

X

X

21

112111

;

Vector

aleatorio

Matriz

aleatoria

31


)()()()(

)()()(

)()(

)()(

)()()(

1

111

YEXEYXEYiii

BXAEAXBEii

XEXE

XEXE

AXAEAXEi

mxn

mnm

n

Propiedades

Sea Xmxm y sean Akxm y Bnxr matrices de constantes.

Entonces:

38


)(

)( 11

nn XE

XE

EX

Se llama vector de medias a:

y covarianza entre dos variables a

Se puede definir la matriz de covarianzas de X como:

)].)([(),( jjiijiij EXXEXXEXXCov

nnn

n

XVX

1

111

39


Proposición

')( )(

)()()(

constantes de matriz una Sea

CCCXVii

XCECXEi

Cmxn

40

ccXcVii

cXcEi

VXEX

nic

c

c

c

X

X

X i

p

pp

')'( )(

')'()(

;

constantes ,...,1con y Sea

11

)')(( XXEProposición Proposición

X1

Xn


ALGEBRA LINEAL

Ejemplo

41

42

26

0

1

2

2

123

212

121

2

1

XXY

XXY

XXY

X

XX


,

1

1

1

21

221

112

pp

p

p

rr

rr

rr

Matriz de correlaciones

,2/12/1 VVen forma matricial:

donde V es la matriz de varianzas:

2

2

111

0

0

0

0

ppp

V

donde ;jjii

ij

ijr

42


)2(

)1(

1

1

1

;X

X

X

X

X

X

X

X

X

X

p

r

r

p

Partición de un vector aleatorio

)2(

)1(

Vector de medias:

Sea

Matriz de covarianzas:

2221

1211

),(),(

)(

)(

)2()1()2()1('

2112

)2(

22

)1(

11

ji XXCovXXCov

XV

XV

, donde

43

Matriz de datos

44

nxp

npnnn

p

p

p

X

xxxx

xxxx

xxxx

xxxx

321

3333231

2232221

1131211

pen

Objeto_1

Objeto_n


nxp

npnnn

p

p

p

X

xxxx

xxxx

xxxx

xxxx

321

3333231

2232221

1131211

pen

Objeto_1

Objeto_n


n

x

xn

x

x

n

i

ip

p

n

i

i 11

1

1

Matriz de datos

45

px

x

x 1

Vector de medias:

Matriz de varianzas y covarianzas:

donde

ppp

p

n

ss

ss

S

1

111

nxxxxs jkj

n

k

ikiij /)()(1

Matriz de correlaciones: 2/12/1

nnn VSVR , donde

pp

n

s

s

V

0

011

Matriz de datos

; ...,,,; 21

1

diiXXX

X

X

X n

p

Proposición

n

X

X

n

i

i 1

Dado

46

n

nSEiii

nXVii

XEi

n

1)()(

/)()(

)()(

Matriz de datos

47

La matriz de datos se puede representar como:

Diagrama de dispersión, n puntos en el espacio p

x1

x2 p=2

x1

x2

x3 p=3

Como para p>3 es imposible representarlo se hacen

diagramas de dispersión múltiple de dos variables:

Matriz de datos

48

Considerando las columnas en vez de la filas de la

matriz de datos, es decir, p puntos en n

nxp

npnnn

p

p

p

X

xxxx

xxxx

xxxx

xxxx

321

3333231

2232221

1131211

pen

Objeto_1

Objeto_n


nxp

npnnn

p

p

p

X

xxxx

xxxx

xxxx

xxxx

321

3333231

2232221

1131211

pen

Objeto_1

Objeto_n


Y1 Y2 Y3 Yp

Para cuatro variables:

34333231

24232221

14131211

xxxx

xxxx

xxxx

X

Y1 Y2 Y3 Y4

Y1 Y4

Y3

Y2

Matriz de datos

49

y forma el mismo ángulo con todos

los ejes.

1

1

11 nx

n1

Vector de unos: n unos

Propiedades:

es el vector unitario que forma el mismo

ángulo en todas las direcciones.

n/1

Matriz de datos

50

Coordenada en cualquier dirección de la proyección

de un vector sobre el vector

i

i

i

n

j

ij

i

i

x

x

xnxy

ypr 1/111,1

1,)(

1

1

1

yi

1

ix

Matriz de datos

51

1

111

i

ni

i

ini

ii

i x

x

x

xx

xx

d

Vector de desviaciones a la media:

Matriz de datos

52

Entonces:

ij

jjii

ij

jjii

ij

ji

ji

ji

ijjkj

n

k

ikiji

iiiiniiii

rss

s

nsns

ns

dd

dddd

nsxxxxdd

nsdxxxxd

,),cos(

)()(,

)(...)(

1

222

1

Matriz de datos

53

ppp

p

pp

XE

X

X

X

1

11111

;)(;

Varianza generalizada y varianza total:

Matriz de datos

54

Varianza generalizada de X:

Varianza total de X:

Caso muestral:

Varianza generalizada muestral:

Varianza total muestral:

)det(

pptraza 11)(

ppn ssStraza 11)(

)det( nn SS

Matriz de datos

55

Interpretación geométrica

Área

Varianza generalizada en

pn

VolumenS

2

)1(cos1 2

122211

2

221121 rssnnsnssendd

p

Matriz de datos

56 ALGEBRA LINEAL

Ejemplo

31

21

3

2

1

2'

32'

014

012

013

102

XXXb

XXXc

X

X

X

XX

Matriz de datos

57

ppppp

p

n

pp b

b

b

c

c

c

ss

ss

S

x

x

x

X

X

X

11

1

11111

;;;;

Combinaciones lineales de las componentes de

una variable

Y las combinaciones lineales:

Media muestral de c’X:

Varianza muestral de c’X:

Covarianza muestral de c’X y b’X:

pp

pp

XbXbXb

XcXcXc

11

11

'

'

xc'

cSc n'

bSc n'

1. Álgebra lineal y vectores aleatoriosestadisticacondago.com/algebra lineal/algebra y... · 3....

Documents