factorización de matrices - departamento de...

CAPTULO 6

Factorizacin de matrices

En este captulo se estudian algunas de las tcnicas ms utilizadas para factorizar matrices, es decir, tcnicasque permiten escribir una matriz como producto de dos o tres matrices con una estructura especial. Lafactorizacin de matrices es importante por ejemplo cuando se quiere resolver sistemas de ecuaciones conun nmero muy grande tanto de variables como de ecuaciones, pero tambin cuando se quieren resolversistemas simultneos de ecuaciones. En la seccin 6.1 se tratar la descomposicin LU , en la seccin 6.2 seabordar la descomposicin QR, en la seccin 6.3 se tratar la descomposicin de Cholesky y en la seccin6.4 se abordar aspectos relativos a la descomposicin en valores singulares.

6.1. Descomposicin LU

En esta seccin se estudia, quizs la factorizacin de matrices ms sencilla pero igualmente muy til. Setrata de la factorizacin o descomposicin LU , la cual est directamente relacionada con las operacioneselementales aplicadas a una matriz, para llevarla a una forma triangular inferior. Como una motivacin,suponga que se conoce cmo factorizar una matriz A m n en la forma

(6.1) A = LU

donde L es una matriz triangular inferior (del ingls lower) m m y U es una matriz escalonada m n(del ingls upper). Entonces el sistema

(6.2) Ax = b

puede resolverse de la siguiente forma: Usando (6.1), el sistema (6.2) se puede escribir en la forma

(6.3) LUx) = b.

En este punto se introduce una nueva variable (por sustitucin) y = Ux, obteniendo as el nuevo sistema

(6.4) Ly = b.

Una vez en este punto, se resolve dicho sistema para la variable y mediante sustitucin hacia adelante.Como paso final, usamos sustitucin hacia atrs para resolver el sistema

(6.5) Ux = y.

Es de anotar, que los sistemas (6.4) y (6.5) son relativamente fciles de resolver dado que se trata de matricesde coeficientes triangulares inferiores y superiores respectivamente. La factorizacin o descomposicin LUes particularmente til cuando se requiere resolver de manera simultnea varios sistemas de ecuaciones quedifieren nicamente en la parte no homognea.

El siguiente resultado da condiciones suficientes para la existencia de una tal factorizacin LU para unamatriz cuadrada A. Posteriormente se extender a matrices rectangulares.

3

6.1. Descomposicin LU Factorizacin de matrices

6.1. Teorema (Factorizacin ). Sea A una matriz cuadrada n n. Supongamos que A se puede reducirpor filas a una matriz triangular superior, U aplicando nicamente operaciones elementales de eliminacin(operaciones del tipo Fi +Fj con i < j). Entonces existe una matriz triangular inferior L que es invertibley posee unos en su diagonal principal, tal que

A = LU.

Si A es invertible, entonces esta descomposicin es nica.

Demostracin Por hiptesis, existen matrices elementales E1 E2 . . . Ek del tipo (Fi +Fj i > j)y una matriz U (triangular superior) tales que

EkEk1 E2E1A = U.

De aqu se obtiene A = E11 E12 E

1k U.

Ahora bien, por construccin, cada matriz elemental E1 E2 . . . Ek es triangular inferior y tiene unos ensu diagonal principal, por consiguiente sus inversas E11 E

12 E

1k y la matriz L = E

11 E

12 E

1k

tambin tienen las mismas caractersticas (ver ejercicio 5 de la seccin 6.1). Lo que implica que se haobtenido la factorizacin LU buscada para la matriz A es decir:

A = LU

Para demostrar la unicidad de dicha factorizacin se procede como es usual. Supngase que se tienen dosfactorizaciones LU para A de la forma

A = L1U1 = L2U2

con U1 U2 matrices triangulares superiores y L1 L2 matrices triangulares inferiores con unos en su diagonalprincipal. Como A es invertible las matrices U1 U2 tambin lo son, ms an sus inversas son igualmentetriangulares superiores (ver ejercicio 6 de la seccin 6.1). De esta ltima igualdad se obtiene entonces

L12 L1 = U2U11 .

El lado izquierdo de esta igualdad es producto de matrices triangulares inferiores con unos en la diagonal,por tanto es triangular inferior y tiene unos en la diagonal principal. Igualmente, el lado derecho es unatriangulares superiores, pues es el producto de matrices triangulares superiores (ver ejercicio 6 de la seccin6.1). Entonces L12 L1 = I de esto se sigue que L2 = L1 y por ende,

U1 = U2.

En el ejemplo 6.5 se considerar una matriz no invertible, que posee infinitas descomposiciones LU.

6.2. Ejemplo. Considere la matriz 3 3 A =

2

41 4 72 5 83 6 12

3

5 . Aplique operaciones elementales, sin inter-

cambio, para llevar a la matriz A a una forma escalonada.2

41 4 72 5 83 6 12

3

5 2F+F23F+F3

2

41 4 70 3 60 6 9

3

5

2F2+F3

2

41 4 70 3 60 0 3

3

5 = U

132

Factorizacin de matrices 6.1. Descomposicin LU

Si se denota entonces con E1, E2 y E3 a las matrices elementales provenientes de las operaciones elementales2F1 + F2 3F1 + F3 y 2F2 + F3 respectivamente, entonces se obtiene

E3E2E1A = U

A = E3E2E1)1U

= E11 E12 E

13 U

=

2

41 0 02 1 00 0 1

3

5

2

41 0 00 1 03 0 1

3

5

2

41 0 00 1 00 2 1

3

5U

=

2

41 0 02 1 03 2 1

3

5

2

41 4 70 3 60 0 3

3

5 = LU .

En este caso esta factorizacin es nica.

6.3. Observacin. Como slo se han efectuado operaciones del tipo Fi + Fj con i < j, Fi + Fj)1 =

)Fi + Fj y L es triangular inferior con unos (1s) en su diagonal principal. La informacin sobre L sepuede almacenar en aquellas posiciones donde se obtienen los ceros (0s) de U simplemente colocando losopuestos de los multiplicadores en las operaciones elementales aplicadas del tipo Fi + Fj con i < j.

En el ejemplo anterior

2

41 4 72 5 83 6 12

3

5 2F+F23F+F3

2

41 4 72 3 63 6 9

3

5

2F2+F3

2

41 4 72 3 63 2 3

3

5

de donde se obtiene que

L =

2

41 0 02 1 03 2 1

3

5 y U =

2

41 4 70 3 60 0 3

3

5

son tales que A = LU .

6.4. Ejemplo. Considere la matriz

A =

2

664

2 3 2 44 10 4 0

3 2 5 22 4 4 7

3

775 .

Aplquense las operaciones elementales, sin intercambio, para llevar la matriz A a una forma escalonada

133


2

664

2 3 2 44 10 4 0

3 2 5 22 4 4 7

3

775

2)F+F2

3/2)F+F3

1)F+F4

2

664

2 3 2 42 4 8 8

3/2 5/2 2 41 7 6 3

3

775

5/8)F2+F3

7/4)F2+F4

2

664

2 3 2 42 4 8 8

3/2 5/8 3 91 7/4 20 11

3

775

20/3)F3+F4

2

664

2 3 2 42 4 8 8

3/2 5/8 3 9-1 7/4 20/3 49

3

775


L =

2

664

1 0 0 02 1 0 0

3/2 5/8 3 01 7/4 20/3 1

3

775 y U =

2

664

2 3 2 40 4 8 80 0 3 90 0 0 49

3

775

son matrices tales que A = LU siendo esta factorizacin nica.

6.5. Ejemplo. Considere la matriz A =

2

41 2 3

1 2 32 4 6

3

5 . Se procede entonces a aplicar operaciones

elementales, sin intercambio, para llevar la matriz A a una forma escalonada2

41 2 3

1 2 32 4 6

3

51)F1 + F2

2)F1 + F3

2

41 2 31 0 02 0 0

3

5


U =

2

41 2 30 0 00 0 0

3

5 y L =

2

41 0 0

1 1 02 x 1

3

5 con x arbitrario.

En este caso A = LU donde L no es nica.

Considere ahora el caso en que se necesitan intercambio de filas para poder reducir una matriz. Existe en estecaso un procedimiento que permite extender la factorizacin LU , el cual hace uso de matrices permutacin.

Como se recordar, el intercambio de dos filas de una matriz A se puede expresar como PiA, siendo Pila matriz permutacin correspondiente a las filas de A que deseamos intercambiar. Ahora bien. Si durantela reduccin de A a una forma escaln necesitamos realizar P1 . . . Pk permutaciones de filas, stas puedehacerse al comienzo de todo el procedimiento y producir as la matriz P = P1 Pk. El paso siguienteconsiste entonces en aplicar la factorizacin LU a la matriz PA en lugar de la matriz A. Es decir, nosotrosbuscamos ahora matrices L (triangular inferior) y U (triangular superior) tales que

PA = LU .

6.6. Ejemplo. Halle la descomposicin para la matriz

A =

2

40 2 32 4 71 2 5

3

5 .

134


En este caso, para reducir A a una matriz triangular superior U es necesario primero una o varias operacioneselementales del tipo permutacin de filas (tambin es posible usar operaciones del tipo Fi +Fj con i > j).Una de tales operaciones de intercambio puede ser F12. Si se denota con P a la correspondiente matrizpermutacin se obtiene entonces

PA =

2

42 4 70 2 31 2 5

3

5 .

A esta nueva matriz se le aplican los pasos descritos en los ejemplos anteriores pa obtener2

42 4 30 2 31 2 5

3

5 1/2)F1 + F3

2

42 4 70 2 3

1/2 0 3/5

3

5

de aqu se sigue que

L =

2

41 0 00 1 0

1/2 0 1

3

5 y U =

2

42 4 70 2 30 0 3/5

3

5

son matrices tales que

PA = LU .

6.7. Teorema. Sea A una matriz invertible n n. Entonces existe una matriz de permutacin P tal que

PA = LU

donde L es una matriz triangular inferior y U es una matriz triangular superior. Se tiene adems, que paracada matriz P , L y U son nicas.

El siguiente teorema recoge ahora la formulacin para la descomposicin LU para matrices A rectangularesm n. El esquema para una factorizacin LU para una matriz Amn est dado por la grfica 6.1, la cualcorresponde respectivamente a los casos m = n m < n y m > n.

6.8. Teorema. Sea A una matriz rectangular mn que se puede reducir a una forma escalonada efectuandonicamente operaciones elementales de eliminacin (operaciones del tipo Fi + Fj con i < j). Entoncesexiste una matriz m m triangular inferior L con unos en la diagonal principal y una matriz m n, Ucon uij = 0 si i > j tales que

A = LU.

6.9. Ejemplo. Encontre la descomposicin LU para la matriz

A =

2

41 4 7 22 5 8 13 6 12 3

3

5

34

.

Aplique para ello, operaciones elementales, sin intercambio, para llevar a la matriz A a una forma escalonada2

41 4 7 22 5 8 13 6 12 3

3

52)F1 + F2

3)F1 + F3

2

41 4 7 22 3 6 53 6 9 3

3

5

2)F1 + F2

2

41 4 7 22 3 6 53 2 3 7

3

5

135


AL

0

0

A

AL

0

U0

U

L

0

0

U

Figura 61 Esquema de la factorizacin LU


L =

2

41 0 02 1 03 2 1

3

5 y U =

2

41 4 7 20 3 6 50 0 3 7

3

5

son tales que A = LU.

El siguiente ejemplo, ilustra cmo hacer uso de la descomposicin LU en el proceso de resolver resolversistemas lineales de ecuaciones.

6.10. Ejemplo. Considere el sistema de ecuaciones

x1 + 4x2 + 7x3 = 1

2x1 + 5x2 + 8x3 = 2

3x1 + 6x2 + 12x3 = 4

cuya matriz de coeficientes corresponde a la matriz A del ejemplo 6.2 y cuyo trmino independiente esbT =

1 2 4

. De acuerdo con dicho ejemplo se tiene

A =

2

41 4 72 5 83 6 12

3

5 =

2

41 0 02 1 03 2 1

3

5

2

41 4 70 3 60 0 3

3

5 = LU

Ahora bien planteamos el sistema Lz = b, esto es8>:

z1 = 1

2z1 + z2 = 2

3z1 + 2z2 + z3 = 4

cuya solucin es

z =

2

4101

3

5 .

136


Con esta solucin planeamos el sistema Ux = z, esto es el sistema8>:

x1 + 4x2 + 7x3 = 1

3x2 6x3 = 0

3x3 = 1

y cuya solucin es

x1 = 4/3; x2 = 2/3 x3 = 1/3.

61 Ejercicios

En los ejercicios 1 al 4 responda falso o verdadero justificando su respuesta

1. Las operaciones elementales en las filas del tipo Fi +Fj con i < j, producen matrices elementalestriangulares inferiores.

2. Las operaciones elementales en las columnas del tipo Ci + Cj con i < j, producen matriceselementales triangulares inferiores.

3. El producto de dos matrices elementales del mismo tamao, es una matriz elemental.4. La descomposicin LU para cualquier matriz A es nica.

En los ejercicios 5 al 6 demuestre la afirmacin correspondiente

5. Suponga que Li, (i = 1 2) son matrices triangulares inferiores:a) Muestre que el producto L1L2 es una matriz triangular inferior.b) Mueste que si L1es invertible, entonces su inversa L

11 es tambin una matriz triangular inferior

(Sug.: use induccin matemtica)c) Muestre que si los elementos de la diagonal principal de L1 y L2 son tosdo iguales a 1 (uno),

entonces las matrices L1L2, L11 y L

12 tambin tienen unos en su diagonal principal. (Sug.:

use induccin matemtica)6. Use el ejercicio anterior para demostrar que las afirmaciones son igualmente vlidas para matrices

triangulares superiores.7. Use la factorizacin LU dada para resolver el sistema de ecuaciones lineales

a)

1 0

3 1

4 10 1

x =

11

32

b)

1 05 1

2 10 7

x =

1246

c)

2

41 0 04 1 0

2 3 1

3

5

2

42 2 10 3 10 0 2

3

5 x =

2

427

3

3

5

d)

2

41 0 04 1 0

7 3 1

3

5

2

41 2 1

0 3 10 0 5

3

5 x =

2

4039

3

5

8. Calcule la descomposicin LU de la matriz

A =

2

41 3 1 22 7 1 1

1 2 17 3

3

5 .

Use dicha descomposicin para resolver el sistema Ax = y, yT =

5 18 14.

137

6.2. Descomposicin QR Factorizacin de matrices

9. Considere la matriz simtrica positiva definida S =

2

44 2 02 9 40 4 5

3

5 y calcule su descomposicin LU.

6.2. Descomposicin QR

En esta seccin se hablar de la descomposicin QR de una matriz, donde Q es una matriz con columnasortogonales (ortonormales) y R es una matriz triangular inferior. Dicha descomposicin es de gran impor-tancia para resolver problemas de mnimos cuadrados y tiene una estrecha relacin con el clculo de lainversa generalizada de una matriz. En el caso de matrices cuadradas, dicha descomposicin es la base deun algoritmo para determinar numricamente y de forma iterativa, los valores propios de la matriz A (vercaptulo 8 de [10]).

En primer lugar se hace aqu la discusin de la descomposicin QR para una matriz A de rango columnacompleto. En este caso, la factorizacin se basa en el proceso de ortogonalizacin de Gram-Schmidt descritoen teorema 1.33. El siguiente teorema garantiza la existencia de una tal factorizacin en dicho caso y sudemostracin resume el proceso para encontrarla.

6.11. Teorema (Factorizacin QR (Parte I)). Sea A mn una matriz de rango columna completo n.Entonces existen matrices Q mn con columnas ortogonales (ortonormales) y R nn triangularsuperior e invertible tales que

A = QR

Demostracin Considere la matriz A particionada por sus columnas, sto es,

A =A1 A2 An

la cual por hiptesis es de rango columna completo n. De aqu se tiene que el conjunto =A1 A2 . . . An

es una base de CA) (el espacio columna de A). Aplicando el proceso de ortogonalizacin de Gram-Schmidt(teorema 1.33) a esta base se obtiene

v1 = A1

v2 = A2

A2;v1

v1;v1v1

v3 = A3

A3;v1

v1;v1v1

A3;v2

v2;v2v2

...

vn = An

n1X

i=1

An;vi

vi;vivi .

138

Factorizacin de matrices 6.2. Descomposicin QR

Despejando de aqu cada vector columna Aj obtenemos:

A1 = v1

A2 = v2 +A2;v1

v1;v1v1

A3 = v3 +A3;v1

v1;v1v1 +

A3;v2

v2;v2v2

...

An = vn +

n1X

i=1

An;vi

vi;vivi.

As que se puede escribir:

A =A1 A2 An

A =

v1 v2 vn

2

6666666666666666666664

1A2;v1

v1;v1

A3;v1

v1;v1

An;v1

v1;v1

0 1A2;v2

v2;v2

An;v2

v2;v2

0 0 1 An;v3

v3;v3...

......

...

0 0 0. . .

An;vn1

vn1;vn1

0 0 0 1

3

7777777777777777777775

A = Q0R0

que corresponde a la descomposicin QR no normalizada de la matriz A.

Usando ahora los mdulos de las columnas de la matriz Q0 para definir la matriz diagonal invertibleD = diagv1 v2 . . . vn). De esta forma, se puede reescribir la igualdad A = Q0R0 como sigue:

A = Q0R0

= Q0D1DR0

=h

v

vv2

v2 vn

vn

i

2

66666664

v1 v1A2;v1

v1;v1 v1

An;v1

v1;v1

0 v2 v2An;v2

v2;v2...

.... . .

...0 0 vn

3

77777775

= QR

que corresponde a la descomposicin QR normalizada de la matriz A.

139


6.12. Ejemplo. Encuentre la descomposicin QR para la matriz

A =

2

664

1 2 11 1 21 1 2

1 1 1

3

775 =

A1 A2 A3

.

Aplicando el proceso de ortogonalizacin de Gram-Schmidt se obtiene

v1 = A1 =

2

664

111

1

3

775 ;

v2 = A2

A2;v1

v1;v1v1 =

2

664

211

1

3

775 +

1

4

2

664

111

1

3

775 =

1

4

2

664

933

3

3

775 ;

v3 = A3

A3;v1

v1;v1v1

A3;v2

v2;v2v2

=

2

664

1221

3

775

1

2

2

664

111

1

3

775 +

2

3

2

664

933

3

3

775 =

2

664

0112

3

775 .

De aqu se tiene que

A1 = v1

A2 = 1

4v1 + v2

A3 =1

2v1

2

3v2 + v3.

Siguiendo ahora los delineamientos de la demostracin del teorema anterior obtenemos:

A =A1 A2 A3

= [v1 v2 v3]

2

41 1/4 1/20 1 2/30 0 1

3

5

=

2

664

1 9/4 01 3/4 11 3/4 1

1 3/4 2

3

775

2

41 1/4 1/20 1 2/30 0 1

3

5

= Q0R0 Descomposicn no normalizada).

140


En este caso, la matriz D est dada por D = diag`2 3

2

3

6. Entonces se puede escribir

A =A1 A2 A3

= Q0D

1DR0

=

2

666666664

1/2 3/2

3 0

1/2 1/2

3 1/

6

1/2 1/2

3 1/

6

1/2 1/2

3 2/

6

3

777777775

2

66664

2 1/2 1

0 3

3/2

3

0 0

6

3

77775

= QR (Descomposicin normalizada).

Suponga ahora que la matrizmn, A no tiene rango columna no completo, esto es, A) = r con 0 < r < n.En este caso se tiene, que tambin existe una descomposicin QR, pero la matriz Q en la factorizacin nonormalizada contiene columnas nulas, como lo establece el siguiente teorema.

6.13. Teorema (Factorizacin QR (Parte II)). Sea la matriz A mn tal que A) = r con 0 < r < n.Entonces existen una matriz Q0 mn con r columnas ortogonales no nulas y el resto nulas, y una matrizR0 nn triangular superior invertible tales que

A = Q0R0 (Descomposicin no normalizada) .

La matriz A tambin se puede descomponer de manera normalizada en la forma

A = QRr

donde Q mr tiene columnas ortogonales (ortonormales) no nulas y Rr rn es triangular superiorde orden r. Las r columnas no nulas de Q0 respectivamente las r columnas de Q conforman una base paraCA).

Demostracin Si se siguen los pasos de la demostracin del teorema 6.11 se obtiene la descomposicinQR no normalizada para A. Esto es,

A = Q0R0.

En este caso sin embargo, Q0 tendr r columnas ortogonales no nulas y n r columnas nulas. Ahora, paradefinir matriz diagonal D se usan los mdulos de la columnas no nulas Q0 respetando sus posiciones y unos(1s) en el resto de componentes de la diagonal de D. La matriz Q buscada corresponde entonces a la matrizformada por las columnas no nulas de Q0D

1 igualmente Rr se obtiene eliminado de la matriz DR0 lasfilas con ndices iguales a las columnas nulas de Q0.

El siguiente ejemplo ilustra el proceso para calcular la descomposicin QR en el caso de matrices que noson de rango columna completo.

6.14. Ejemplo. Encontrar la descomposicin QR para la matriz

A =

2

664

1 2 0 11 1 3 21 1 3 2

1 1 3 1

3

775 =

A1 A2 A3 A4

.

141


Para ello se aplican los pasos del mtodo de ortogonalizacin de Gram-Schmidt con las columnas de A estoes:

v1 = A1 =

2

664

111

1

3

775 ;

v2 = A2

A2;v1

v1;v1v1 = A

2 +1

4v1 =

1

4

2

664

933

3

3

775 ;

v3 = A3

A3;v1

v1;v1v1

A3;v2

v2;v2v2 = A

3 9

4v1 + v2 =

2

664

0000

3

775 ;

v4 = A4

1

2v1 +

2

3v2 0v3 =

2

664

0112

3

775 .

Despejando los vectores Aj s, en trminos de los vectores vj s, como en el ejemplo 6.12 se obtiene entonces

A =A1 A2 A3 A4

=

2

664

1 9/4 0 01 3/4 0 11 3/4 0 1

1 3/4 0 2

3

775

2

664

1 1/4 9/4 1/20 1 1 2/30 0 1 00 0 0 1

3

775

= Q0R0.

Si se toma ahora la matriz diagonal D, cuyos elementos Dii corresponden a los a los mdulos de lasi-simas columnas no nulas de Q0. Para las columnas nulas de Q0 se considera Dii = 1. En el ejemplo se

tiene entonces, D = diagh2 3

2

3 1

6

iy de aqu se sigue que

A =A1 A2 A3 A4

= Q0R0 = Q0D

1DR0

=

2

666666664

1/2 3/2

3 0 0

1/2 1/2

3 0 1/

6

1/2 1/2

3 0 1/

6

1/2 1/2

3 0 2/

6

3

777777775

2

666666664

2 1/2 9/2 1

0 3

3/2 3

3/2

3

0 0 1 0

0 0 0

6

3

777777775

.

Esto es,

142


A =

2

666666664

1/2

3/2 0 0

1/2

3/6 0

6/6

1/2

3/6 0

6/6

1/2

3/6 0

6/3

3

777777775

2

666666664

2 1/2 9/2 1

0 3

3/2 3

3/2

3

0 0 1 0

0 0 0

6

3

777777775

=

2

666666664

1/2

3/2 0

1/2

3/6

6/6

1/2

3/6

6/6

1/2

3/6

6/3

3

777777775

2

66664

2 1/2 9/2 1

0 3

3/2 3

3/2

3

0 0 0

6

3

77775

= QR .

La matriz Q se obtiene al eliminar la tercera columna (columna nula) de Q0D1 mientras que R se obtiene

al eliminar la correspondiente tercera fila de DR0.

El siguiente resultado presenta la relacin existente entre la descomposicin QR y la inversa generalizadade una matriz A. En este punto de la discusin, se suguiere al lector a recordar los conceptos dados en elcaptulo 5 sobre inversas condicionales (Ac), inversa generalizada (A+), mejor solucin aproximada (M.S.A.)y solucin mnima cuadrada (S.M.C.).

6.15. Teorema. Sea A mn una matriz real.

1. Si A) = n entonces existe una matriz Q, m n con columnas ortonormales y una matriz Rtriangular superior e invertible n n tales que

A = QR

adems se tiene que

A+ = R1QT .

2. Si A) = r < n entonces existe una matriz Q, m n con las primeras r columnas no nulasortonormales y una matriz R triangular superior n n, ambas de rango r tales que

A = QR

adems se tiene que

A+ = RT RRT )1QT .

Demostracin Suponga que A es una matriz m n de rango columna completo. Segn lo estableceel teorema 6.11, existen matrices Q mn y R nn con las condiciones citadas tales que A = QR.De otra parte, se sabe que A+ = ATA)1AT (teorema 5.15(1)). De aqu se sigue que:

A+ = ATA)1AT

= RTQTQR)1RTQT

= R1RT )1RTQT

= R1QT .

143


Lo que demuestra el inciso 1.

Suponga ahora, que A no tiene rango columna completo, es decir, suponga, que A) = r; 0 < r < n.Segn el teorema 6.13 existen matrices Q rn y R rn con las condiciones requeridas tales queA = QR. Ahora, aplicando el teorema 5.15 (con B = Q y C = R), as como el literal (iv) del teorema 5.15,se obtiene entonces

A+ = RT RRT )1QTQ)1QT

= RT RRT )1QT (puesto que QTQ)1 = Ir)

6.16. Nota. Con respecto a los resultados anteriores se puede anotar que:

1. Si A mn es una matriz de rango r < n se tiene, usando la notacin del teorema anterior, que

A+A = RTRRT

1R.

2. De acuerdo con el teorema 5.45, todo sistema de ecuaciones Ax = y tiene una nica M.S.A. dadapor

x = A+y.

Puesto que el conjunto de todas la soluciones mnimas cuadradas del sistema Ax = y estn dadaspor (ver captulo 5)

x = A+y + I A+A)h; h Rn.

Del literal anterior se sigue:

x = RT RRT )1QT y + I RT RRT )1R)h; h Rn

y de aqu, que el conjunto de todas la soluciones mnimas cuadradas del sistema Ax = y est dadapor las soluciones

Rx = QT y .

6.17. Ejemplo. Considere el sistema de ecuaciones lineales Ax = y siendo

A =

2

664

1 2 0 11 1 3 21 1 3 2

1 1 3 1

3

775 y y =

2

664

11

21

3

775 .

De acuerdo con el ejemplo 6.14 A) = 3 y las matrices

Q =

2

666666664

1/2

3/2 0

1/2

3/6

6/6

1/2

3/6

6/6

1/2

3/6

6/3

3

777777775

y R =

2

66664

2 1/2 9/2 1

0 3

3/2 3

3/2

3

0 0 0

6

3

77775

son tales que

A = QR .

144


Entonces A+ = RT RRT )1QT , (ver teorema 6.15), es decir,

A+ =

2

66666666666664

2

9

1

18

1

180

7

18

1

18

1

18

1

6

1

18

1

18

1

18

1

6

01

6

1

6

1

3

3

77777777777775

y el conjunto de todas las S.M.C. (ver nota 6.16) est dada por las soluciones del sistema

Rx = QT y =

2

41/23/26/2

3

5

es decir por la expresin

x =

2

664

1/62/30

1/2

3

775 + h

2

664

2110

3

775 h R.

En particular, si h = 1/18 se obtiene la M.S.A.

x = A+y =

1

18

2

664

5111

9

3

775 .

62 Ejercicios

En los ejercicios 1 al 1, responda falso o verdadero justificando su respuesta

1. Si Q es una matriz rectangular cuyas columnas son orgonormales entre s, entonces QTQ = I.2. Demuestre que si A mn tiene rango n y A = QR donde Q tiene columnas ortogonales y R

es una matriz triangular superior con unos en su diagonal principal, entonces Q y R son nicas.3. Encuentre la matriz triangular R tal que A = QR en cada uno de los siguientes casos

a) A =

2

66664

1 2

1 1

1 1

3

77775 Q =

2

6666666664

1

3

4

42

1

3

1

42

1

3

5

42

3

7777777775

145

6.3. Descomposicin de Cholesky Factorizacin de matrices

b) A =

2

66664

1 1 1

0 1 1

1 1 1

3

77775 Q =

2

66666664

1

20

1

2

0 1 0

1

20

1

2

3

77777775

4. Calcule la descomposicin QR de las matrices

(a) A =

2

664

1 0 00 1 11 1 10 0 1

3

775 (b) B =

2

664

1 1 31 1 1

1 2 21 2 0

3

775

(c) C =

2

664

1 1 21 0 01 1 11 0 1

3

775 (d) D =

2

664

1 2 41 1 31 1 11 1 3

3

775

6.3. Descomposicin de Cholesky

A diferencia de las factorizaciones vistas hasta ahora, la factorizacin o descomposicin de Cholesky se aplicaslo a matrices simtricas positivas definidas y sta consiste en expresar una tal matriz como producto deuna matriz triangular superior y por su transpuesta. En forma ms precisa tenemos

6.18. Teorema (Factorizacin de Cholesky). Si A nn es una matriz simtrica positiva definida,entonces existe una nica matriz real T = [tij ]nn triangular superior con tii > 0 i = 1 . . . n), tal que

A = TTT .

Adems,

|A| = |T |2 = [ni=1 tii]2 .

Demostracin La demostracin la har usando induccin sobre el orden de la matriz. Primero sedemuestra que la afirmacin es vlida para n = 2 en efecto:

Sea A =

una matriz 22 simtrica positiva definida, entonces se tiene que > 0 y |A| = 2 >

0 (teorema 4.27). Se necesita mostrar que existe una nica matriz triangular superior T =

a b0 c

con

elementos de la diagonal positivos, tal que A = TTT esto es:

=

a 0b c

a b0 c

=

a2 abab b2 + c2

.

De sto se tiene que

a2 = de donde, a = a > 0)

ab = de donde, b =

y

b2 + c2 = de donde, c =

p 2

c > 0).

146

Factorizacin de matrices 6.3. Descomposicin de Cholesky

sto es,

A =

=

2

664

0

p 2

3

775

2

66664

0

p 2

3

77775

= TTT

adems, se tiene que |A| = t11 t22)2.

Suponga ahora que la afirmacin es cierta para n = k sto es, sea B kk una simtrica positivadefinida. Supongamos que existe una nica matriz triangular superior U kk tal que A = U

TU y que|A| = |U |2 = [ki=1 u

2ii] (hiptesis de induccin).

Se demuestra entonces ahora, que la afirmacin es cierta para n = k + 1. Considere para ello una ma-triz A k+1)k+1) simtrica positiva definida. Se puede escribir la matriz A por bloques en la forma

A =

A aat

con A kk a k1 y R

La matriz A es simtrica positiva definida (teorema 4.27), entonces por hiptesis de induccin, existe una

nica matriz triangular superior U kk tal que A = UTU y

A

=

U

2 = [ki=1 uii]

2.

Considere ahora la matriz triangular superior T de tamao k + 1) k + 1), con elementos de la diagonalprincipal positivos y escrita por bloques en la forma

T =

U y z

donde y k1 y z R+ deben ser escogidos adecuadamente tales que, A = TTT ; esto es, tales que:

A =

A aaT

=

UT yT z

U y z

=

UTU UT yyTU yT y + z2

.

Igualando trmino a trmino se debe tener que

UT y = a lo que implica que y = UT )1a

yTy + z2 = lo que implica que z = yT y)1/2.

Adems se tiene que

|A| = |T |2 = |U |2z2

=hki=1 uii

i2z2 =

hk+1i=1 tii

i2.

A continuacin se vern dos procesos para calcular la factorizacin de Cholesky. El primero se basa en ladefinicin propia de la factorizacin de Cholesky, mientras que el segundo usa resultados sobre diagonal-izacin de matrices positivas definidas.

Proceso A clculo de la factorizacin de Cholesky):

147


Sea A una matriz simtrica n n positiva definida. Puesto que A = TTT con T una matriz triangularsuperior con elementos positivos en su diagonal principal, se debe tener que:

A =

2

666664

a11 a12 a13 a1na12 a22 a23 a2na13 a23 a33 a3n...

......

. . ....

a1n a2n a3n ann

3

777775

=

2

666664

t11 0 0 0t12 t22 0 0t13 t23 t33 0...

......

. . ....

t1n t2n t3n tnn

3

777775

2

666664

t11 t12 t13 t1n0 t22 t23 t2n0 0 t33 t3n...

......

. . ....

0 0 0 tnn

3

777775

.

Clculos directos muestran entonces que se debe cumplir que:

1. t11 =a11.

2. t1j =a1jt11

=a1ja11

; j = 1 . . . n.

3. tii = aii Pi1

k=1 t2ki)

1/2; i = 2 . . . n.

4. tij =1

tii[aij

i1X

k=1

tkitkj ]; j > i i = 2 . . . n 1.

5. tij = 0; j < i i = 2 . . . n.

Observacin. Con respecto a este mtodo y al clculo de los elementos no nulos tij de la matriz triangularT se puede decir que:

1. t2ii es igual al elemento aii menos la suma de los cuadrados de los elementos ya calculados de lai-sima columna de T . Es decir,

t2ii = aii

i1X

k=1

t2ki i = 1 . . . n.

2. El producto tii tij es igual a aij menos la suma del producto de los elementos ya calculados de lasi-sima y j-sima columnas de T . Es decir,

tij tii = aij

i1X

k=1

tkitkj ; j > i i = 2 . . . n 1 .

6.19. Ejemplo. Siguiendo el esquema anterior, encuentre la descomposicin de Cholesky para la matrizsimtrica positiva definida

A =

2

664

4 2 0 22 2 3 2

0 3 18 02 2 0 4

3

775 .

Clculos directos muestran que:

148

Factorizacin de matrices 6.3. Descomposicin de Cholesky

1. t11 =a11 = 2; t12 =

a122

= 1; t13 =a132

= 0; t14 =a142

= 1.

2. t22 =pa22 t212 =

2 1 = 1;

t23 =a23 t12t13

t22=

3 1) 0

1= 3

t24 =a24 t12t14

t22=2 1) 1

1= 1.

3. t33 =pa33 t213 t

223 =

18 02 32 = 3;

t34 =a33 t13t14 t23t24

t33=

0 0 1 31)

3= 1

4. t44 =pa44 t214 t

224 t

234 =

p4 12 1)2 12 = 1

Es decir,

T =

2

664

2 1 0 10 1 3 10 0 3 10 0 0 1

3

775

es la matriz triangular superior tal que A = TTT.

6.20. Ejemplo. Siguiendo con el esquema anterior, encuentre la descomposicin de Cholesky para la matrizsimtrica positiva definida

A =

2

44 2 42 10 4

4 4 9

3

5

Clculos directos muestran que:

1. t11 =a11 = 2; t12 =

a12t11

= 1; t13 =a132

= 2.

2. t22 =pa22 t212 =

10 1 = 3;

t23 =a23 t12t13

t22=

4 1)2)

3= 2.

3. t33 =pa33 t213 t

223 =

p9 2)2 2)2 = 1.

Es decir,

T =

2

42 1 20 3 20 0 1

3

5

es la matriz triangular superior tal que A = TTT.

Proceso B clculo de la factorizacin de Cholesky):

De acuerdo con los resultados presentados en el captulo 4 se tiene que una matriz simtrica A, es positivadefinida, si existe una matriz triangular superior P tal que PTAP = I (ver tambin el teorema 4.31). Deaqu que

A = PT )1P1 = P1)TP1.

As las cosas, se puede encontrar una tal matriz PT usando los pasos ilustrados en el ejemplo 3.46, esdecir, planteando la matriz

A | I

y realizando de manera adecuada y simultneamente operaciones

elementales en las filas y columnas de A y en las filas de I (sin hacer intercambios de filas).

149


Nota. Existe una relacin entre la factorizacin LU para matrices positivas definidas y la descomposicinde Cholesky. En efecto, si A es simtrica positiva definida entonces A se puede expresar mediante A = TTTcon T una matriz triangular superior con elementos positivos en la diagonal principal.

Ahora bien, sea D = diag t11 t22 . . . tnn) entonces se tiene que:

A = TTT

= TTD1DT

= TTD1)DT )

= LU.

6.21. Ejemplo. Considere la matriz simtrica positiva definida

A =

2

44 2 42 10 4

4 4 9

3

5 .

Del ejemplo 6.20 se tiene que

A =

2

44 2 42 10 4

4 4 9

3

5 =

2

42 0 01 3 0

2 2 1

3

5

2

42 1 20 3 20 0 1

3

5 = TTT .

Tomando D =

2

42 0 00 3 00 0 1

3

5 se tiene que

A =

2

42 0 01 3 0

2 2 1

3

5

2

42 1 20 3 20 0 1

3

5

=

2

42 0 01 3 0

2 2 1

3

5

2

41/2 0 00 1/3 00 0 1

3

5

2

42 0 00 3 00 0 1

3

5

2

42 1 20 3 20 0 1

3

5

=

2

41 0 0

1/2 1 01 2/3 1

3

5

2

44 2 40 9 60 0 1

3

5 = LU .

Ahora bien, suponga que se desea hallar las soluciones del sistema de ecuaciones lineales Ax = y siendo Auna matriz simtrica y positiva definida. Sea T triangular positiva tal que A = TTT , entonces

Ax = y TTTx = y Tx = TT )1y

es decir, si se conoce la factorizacin de Cholesky para una matriz A = TTT , la solucin del sistema Ax = yse reduce a encontrar la solucin del sistema triangular superior

Tx = z con z = TT )1y.

6.22. Ejemplo. Considere el sistema de ecuaciones lineales

4x1 + 2x2 4x3 = 12

2x1 + 10x2 + 4x3 = 6

4x1 + 4x2 + 9x3 = 3 .

150

Factorizacin de matrices 6.4. Descomposicin en valores singulares

Puesto que la matriz de coeficientes es justo la matriz del ejemplo 6.20, la matriz aumentada del sistemase puede reducir mediante multiplicacin del sistema por la matriz TT (ver ejemplo 6.20), para obtener:

A | y

=

2

44 2 4 | 122 10 4 | 6

4 4 9 | 15

3

5

=

2

42 1 2 | 60 3 2 | 00 0 1 | 3

3

5 =T | z

.

De esto ltimo se sigue que

x3 = 3

x2 =2x3

3=

6

3= 2

x1 =6 + 2x3 + x2

2=

6 2 6

2= 1.

63 Ejercicios

1. Considere la matriz simtrica positiva definida S =

2

44 2 02 9 40 4 5

3

5 y calcule sus descomposicin de

Cholesky (compare con el problema 9 de la seccion de ejercicios 6.1)

6.4. Descomposicin en valores singulares SVD)

En esta seccin se abordar el estudio de la descomposicin de una matriz rectangular A la cual involucralos valores y vectores propios de la matrices simtricas AAT y ATA. Como se recordar dichas matrices sonpositivas semidefinidas y por ello sus valores propios son no negativos.

6.23. Teorema. Para toda matriz A mn se tiene que existen matrices ortogonales U mm yV nn y una matriz diagonal mn , con elementos ij = 0, si i = j y ii =: i 0, y

1 2 s, en donde s = mn {mn} tales que

Amn = UmmmnVT

nn .

Los nmeros 21 22

2s son los valores propios de A

TA (quizs agregando algunos ceros) y los vectorespropios asociados son las columnas de la matriz V = [ v1 v2 vn ]. Adems, lo nmeros

21

22

2s son igualmente los valores propios de AAT (quizs agregando algunos ceros) y los vectores propios

asociados son las columnas de U = [ u1 u2 um ]. Adems de tiene las siguientes relaciones entreestos vectores

Avi = iui

i = 1 2 . . . s.

uTi A = iv

Ti

151

6.4. Descomposicin en valores singulares Factorizacin de matrices

Demostracin Suponga que A mn tiene rango r con 0 < r < s. La matriz simtrica S =AAT mm es no negativa y por tanto existe una matriz ortogonal U mm tal que

UTAATU = D2 =

2

6664

21 0 00 22 0...

.... . .

...0 0 2m

3

7775

donde 21 22

2m 0 son los valores propios de S = AA

T y las columnas de U = [u1 u2 um]son vectores propios de S correpondientes a dichos valores propios:

AAT ui = Sui = 2i ui; i = 1 2 . . . m.

Como r = A) = AAT ) entonces 21 22

2r > 0. Particione ahora la matriz U como

U = [ U1 U2 ] con U1 mr. Luego

UTAATU =

2

4UT1

UT2

3

5AATU1 U2

=

2

4UT1 AA

TU1 UT1 AA

TU2

UT2 AATU1 U

T2 AA

TU2

3

5

=

D2r

es decir,

UTAATU =

2

666666666664

21 0 0 0 00 22 0 0 0...

.... . .

......

. . ....

0 0 2m 0 0

0 0 0 0 0...

.... . .

......

. . ....

0 0 0 0 0

3

777777777775

Esto implica que

UT2 AATU2 = A

TU2)T ATU2) =

de donde UT2 A = y ATU2 = . Tambin se tiene que U

T1 AA

TU1 = D2r o sea:

D1r UT1 AA

TU1D1r = I = A

TU1D1r )

T ATU1D1r ).

Esto significa que la matriz

V1 = ATU1D

1r nr

tiene columnas ortonormales V T1 V1 = I). Sea V2 nnr) tal que la matriz

V =V1 V2

nn

es ortogonal. Se requiere ahora verificar que

UTAV = =

Dr

.

152


En efecto, de una parte:

UTAV =

2

4UT1

UT2

3

5AV1 V2

=

2

4UT1 AV1 U

T1 AV2

UT2 AV1 UT2 AV2

3

5

y de otra parte, UT2 A = . As mismo,

V TV = I =

2

4V T1

V T2

3

5V1 V2

=

2

4V T1 V1 V

T1 V2

V T2 V1 VT2 V2

3

5

=

I I

lo que implica que V T1 V2 = = ATU1D

1r )

TV2 de donde

UT1 AV2 = .

y finalmente,

UT1 AV1 = UT1 AA

TU1D1r

= D2rD1r = Dr

=

2

6664

1 0 00 2 0...

.... . .

...0 0 m

3

7775.

En consecuencia,

UTAV = =

Dr

.

Nota. Observe que

AV1 = AATU1D

1r Avi = iui i = 1 2 . . . r.

igualmente,

ATU1 = V1Dr ATui = ivi u

Ti A = iv

Ti i = 1 2 . . . r.

El siguiente proceso ilustra cmo calcular la descomposicin en valores singulares de una matriz A mn.Se supondr en este caso, que m n.

6.24. Algoritmo.

1. Formule S = AAT mm.2. Encuentre los valores propios de S : 21

22

2m 0.

3. Encuentre un conjunto ortonormal u1u2 . . . um de vectores propios de S y construya la matrizU = [ u1 u2 um ](ortogonal) y la matriz diagonal D = diag1 2 m).

4. Si r = A); Dr = diag1 2 r)5. Haga V1 = A

TU1D1r siendo U1 = [ u1 u2 ur ], las primeras r columnas de U. Encuentre

una matriz V2 nnr) tal que la matriz V = [ V1 V2 ] nn sea ortogonal.

5*. Otra forma de (5) es trabajar con la matriz ATA.

153



2 1 24 4 2

; A) = 2, calcule la descomposicin en valores

singulares usando el proceso esbozado anteriormente.

Calculando directamente se obtiene la matriz S = AAT =

9 00 36

, cuyos valores propios son: 21 =

36 y 22 = 9 (21

22).

Calcule ahora los vectores propios asociados a estos valores propios:

Para 21 = 36 se tiene el sistema S 36 I)X = , es decir el sistema25 00 0

x1x2

=

00

cuyo conjunto solucin es de la forma

B =

0x2

: x2 = 0

ff

.

Como un representante de los 21-vectores propios se puede tomar entonces u1 =

01

. Anlogamente se

puede tomar a u2 =

10

como 22-vector propio. Ahora considere la matriz ortogonal

U = [ u1 u2 ] =

0 11 0

y la matriz diagonal

D = diag1 2) =

6 00 3

.

Puesto que r = A) = 2 se tiene que Dr = diag1 2) =

6 00 3

.

Con las matrices definidas hasta ahora se tiene que

V1 = ATU1D

1r

=

2

42 41 4

2 2

3

5

0 11 0

1/6 00 1/3

=

2

42 41 4

2 2

3

5

0 1/31/6 0

=1

3

2

42 2

2 11 2

3

5 Columnas ortonormales.

Si se considera ahora la matriz ortogonal

V =1

3

2

42 2 1

2 1 21 2 2

3

5 =V1 V2

conV2 =

1

3

2

4122

3

5

se tiene que:

UTAV =

6 0 00 3 0

= .

154



2

41 1 00 1 11 0 1

3

5 ; A) = 3, calcule ahora la descomposicin en

valores singulares:

De nuevo se calcula la matriz S = AAT

S = AAT =

2

42 1 11 2 11 1 2

3

5 .

cuyos valores propios los se obtienen de manera usual, es decir, resolviendo la ecuacin |S I| = 0, estoes,

0 = |S I|

=

2 1 11 2 11 1 2

= 4) 1)2.

Los valores propios de S son entonces 21 = 4 22 = 1 y

23 = 1. Algunos clculos usuales permiten elegir a

los vectores

u1 =1

3

2

4111

3

5 ; u2 =1

6

2

42

11

3

5 y u3 =1

2

2

401

1

3

5

como vectores propios ortonormales asociados a 21 22 y

23 respectivamente. Considere ahora la matriz

ortogonal

U =

u1 u2 u3

=

2

66664

1/

3 2/

6 0

1/

3 1/

6 1/

2

1/

3 1/

6 1/

2

3

77775.

y las matrices diagonales (A) = 3)

D = diag1 2 3) =

2

42 0 00 1 00 0 1

3

5 = Dr.

Se definine ahora la matriz V1 = ATU1D

1r , esto es,

V1 =

2

41 0 11 1 00 1 1

3

5

2

41/

3 2/

6 0

1/

3 1/

6 1/

2

1/

3 1/

6 1/

2

3

5

2

41/2 0 00 1 00 0 1

3

5

=

2

41 0 11 1 00 1 1

3

5

2

41/2

3 2/

6 0

1/2

3 1/

6 1/

2

1/2

3 1/

6 1/

2

3

5

=

2

41/

3 1/

6 1/

2

1/

3 1/

6 1/

2

1/

3 2/

6 0

3

5 = V

Con estas matrices se tiene que:

UTAV =

2

44 0 00 1 00 0 1

3

5 = .

155


64 Ejercicios

1. Calcule la descomposicin en valores singulares de las matrices

(a) A =

2 1 2

1 4 1

(b) B =

2 2 11 1 4

(c) C =

2

41 12 22 2

3

5 (d) D =

2

41 1

1 12 2

3

5

156

factorización de matrices - departamento de...

Documents