Álgebra lineal ma1010cb.mty.itesm.mx/ma1010/materiales/ma1010-26a.pdf · introduccion´...

80
Factorización LU Álgebra Lineal - p. 1/53 Álgebra Lineal Ma1010 Factorización LU Departamento de Matemáticas ITESM

Upload: others

Post on 25-Mar-2020

8 views

Category:

Documents


0 download

TRANSCRIPT

Factorización LU Álgebra Lineal - p. 1/53

Álgebra LinealMa1010

Factorización LU

Departamento de Matemáticas

ITESM

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 2/53

Introducción

La factorización LU de una matriz es unafactorización que resume el proceso deeliminación gaussiana aplicado a la matriz y quees conveniente en terminos del número total deoperaciones de punto flotante cuando se deseacalcular la inversa de una matriz o cuando seresolverá una serie de sistemas de ecuacionescon una misma matriz de coeficientes. En lalectura, primeramente consideraremos lafactorización LU sin intercambio basada enmatrices elementales y que es conocida como deDoolittle y posteriormente veremos el algoritmoque da la factorización PA = LU .

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 3/53

Factorización LU

Suponga que la matriz A es una matriz m× n sepuede escribir como el producto de dos matrices:

A = LU

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 3/53

Factorización LU

Suponga que la matriz A es una matriz m× n sepuede escribir como el producto de dos matrices:

A = LU

Entonces para resolver el sistema:

Ax = b,

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 3/53

Factorización LU

Suponga que la matriz A es una matriz m× n sepuede escribir como el producto de dos matrices:

A = LU

Entonces para resolver el sistema:

Ax = b,

escribimos

Ax = (LU) x = L (Ux) .

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 4/53

Una posible estrategia de solución consiste entomar y = Ux y resolver para y:

Ly = b.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 4/53

Una posible estrategia de solución consiste entomar y = Ux y resolver para y:

Ly = b.

Como la matriz L es triangular superior estesistema puede resolverse mediante sustituciónhacia abajo, lo cual se hace fácilmente en m2

FLOPS.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 5/53

Una vez con los valores encontrados de y, lasincógnitas al sistema inicial se resuelvedespejando x de

Ux = y.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 5/53

Una vez con los valores encontrados de y, lasincógnitas al sistema inicial se resuelvedespejando x de

Ux = y.

Nuevamente, como U es escalonada, estesistema puede resolverse en caso de tenersoución mediante sustitución hacia atrás, lo cuales sencillo.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 6/53

Uso de la factorización LU

Ejemplo

Use la factorización LU de A:

A =

4 −2 1

20 −7 12

−8 13 17

=

1 0 0

5 1 0

−2 3 1

4 −2 1

0 3 7

0 0 −2

= LU

para despejar x del sistema:

Ax =

11

70

17

= b

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 7/53

Soluci onSea y = (y1, y2, y3) un nuevo vector de incógnitas.Primero resolveremos el sistema triangular inferiorLy = b:

1 0 0

5 1 0

−2 3 1

y =

11

70

17

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 7/53

Soluci onSea y = (y1, y2, y3) un nuevo vector de incógnitas.Primero resolveremos el sistema triangular inferiorLy = b:

1 0 0

5 1 0

−2 3 1

y =

11

70

17

Este sistema escrito en su forma de ecuacionesqueda:

y1 = 11

5 y1 + y2 = 70

−2 y1 + 3 y2 + y3 = 17

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 8/53

Por eliminación directa de la:■ primera ecuación:y1 = 11,

■ segunda ecuación:y2 = 70− 5 y1 = 70− 5 (11) = 15,

■ y de la tercera:y3 = 17 + 2y1 − 3 y2 = 17 + 2 (11)− 3 (15) = −6.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 9/53

Ahora el sistema Ux = y:

4 −2 1

0 3 7

0 0 −2

x =

11

15

−6

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 9/53

Ahora el sistema Ux = y:

4 −2 1

0 3 7

0 0 −2

x =

11

15

−6

El cual escrito en su forma de ecuaciones queda:

4 x1 − 2 x2 + x3 = 11

3 x2 + 7 x3 = 15

− 2 x3 = −6

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 10/53

El cual al ser resuelto por sustitución hacia atrásqueda:■ de la última ecuación:x3 = 3,

■ segunda ecuación:x2 = 5− 7/3 x3 = 5− 7/3 (3) = −2,

■ y de la primera:x1 = 11/4 + 1/2x2 − 1/4 x3 =11/4 + 1/2 (−2)− 1/4 (−3) = 1 �

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 11/53

Obtención de la factorización LU con elementales

Ejemplo

Determine una factorización LU de la matriz:

A =

2 3 −1

−6 −6 5

4 18 6

−2 −9 −3

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 12/53

Soluci onLa idea del método es ir acumulando las inversasde las operaciones hechas sobre los renglones lamatriz para irla trasnformando en una matrizescalonada.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 12/53

Soluci onLa idea del método es ir acumulando las inversasde las operaciones hechas sobre los renglones lamatriz para irla trasnformando en una matrizescalonada. Y más que propiamente las inversasde las operaciones sobre los renglones, lasmatrices elementales involucradas.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 12/53

Soluci onLa idea del método es ir acumulando las inversasde las operaciones hechas sobre los renglones lamatriz para irla trasnformando en una matrizescalonada. Y más que propiamente las inversasde las operaciones sobre los renglones, lasmatrices elementales involucradas. Así porejemplo el primer cálculo que se realiza es hacerun cero debajo de el elemento (1, 1) que es elelemento 2, para ello debemos realizar laoperación R2 ← R2 + 3R1,

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 12/53

Soluci onLa idea del método es ir acumulando las inversasde las operaciones hechas sobre los renglones lamatriz para irla trasnformando en una matrizescalonada. Y más que propiamente las inversasde las operaciones sobre los renglones, lasmatrices elementales involucradas. Así porejemplo el primer cálculo que se realiza es hacerun cero debajo de el elemento (1, 1) que es elelemento 2, para ello debemos realizar laoperación R2 ← R2 + 3R1, esta operación tienecomo matriz elemental la matriz:

E1 =

1 0 0 0

3 1 0 0

0 0 1 0

0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 13/53

Así la situación está:

E1 A =

2 3 −1

0 3 3

4 18 6

−2 −9 −3

= B1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 13/53

Así la situación está:

E1 A =

2 3 −1

0 3 3

4 18 6

−2 −9 −3

= B1

En el siguiente paso del proceso de eliminaciónes R3 ← R3 − 2R1,

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 13/53

Así la situación está:

E1 A =

2 3 −1

0 3 3

4 18 6

−2 −9 −3

= B1

En el siguiente paso del proceso de eliminaciónes R3 ← R3 − 2R1, esta operación tiene comomatriz elemental la matriz:

E2 =

1 0 0 0

0 1 0 0

−2 0 1 0

0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 14/53

Así la situación está:

E2 E1 A =

2 3 −1

0 3 2

0 12 8

−2 −9 −3

= B2

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 14/53

Así la situación está:

E2 E1 A =

2 3 −1

0 3 2

0 12 8

−2 −9 −3

= B2

En el siguiente paso del proceso de eliminaciónes R4 ← R4 +R1,

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 14/53

Así la situación está:

E2 E1 A =

2 3 −1

0 3 2

0 12 8

−2 −9 −3

= B2

En el siguiente paso del proceso de eliminaciónes R4 ← R4 +R1, esta operación tiene comomatriz elemental la matriz:

E3 =

1 0 0 0

0 1 0 0

0 0 1 0

1 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 15/53

Así la situación está:

E3 E2 E1 A =

2 3 −1

0 3 2

0 12 8

0 −6 −4

= B3

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 15/53

Así la situación está:

E3 E2 E1 A =

2 3 −1

0 3 2

0 12 8

0 −6 −4

= B3

Observamos que el hipotético caso de que en

E3 E2 E1 A = B3

La matriz B3 ya fuera escalonada, es decir la U

buscada, entonces:

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 15/53

Así la situación está:

E3 E2 E1 A =

2 3 −1

0 3 2

0 12 8

0 −6 −4

= B3

Observamos que el hipotético caso de que en

E3 E2 E1 A = B3

La matriz B3 ya fuera escalonada, es decir la U

buscada, entonces:

A = E1−1 E2

−1E3−1 U

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 16/53

Lo cual indica que lo que debemos acumular sonlas inversas de las matrices elementales utilizadas.La forma sistemática de ir acumulando lasinversas de las Eis es ir contruyendo la matriz L:

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 16/53

Lo cual indica que lo que debemos acumular sonlas inversas de las matrices elementales utilizadas.La forma sistemática de ir acumulando lasinversas de las Eis es ir contruyendo la matriz L:

L =

1 0 0 0

−3 1 0 0

2 ? 1 0

−1 ? ? 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 17/53

Así, en el avance de la conversión a escalonadade A:

A ∼

2 3 −1

0 3 2

0 12 8

0 −6 −4

, L =

1 0 0 0

−3 1 0 0

2 ? 1 0

−1 ? ? 1

2 3 −1

0 3 2

0 0 0

0 0 0

= U, L =

1 0 0 0

−3 1 0 0

2 4 1 0

−1 −2 ? 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 18/53

En este caso la matriz U está en la formaescalonada y por consiguiente el proceso sedetiene haciendo cero aquellos valoresdesconocidos. Por consiguiente una factorizaciónde A será:

A = LU =

1 0 0 0

−3 1 0 0

2 4 1 0

−1 −2 0 1

2 3 −1

0 3 2

0 0 0

0 0 0

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 19/53

Factorización LU: ejemplo clave

Ejemplo

Determine una factorización LU de la matriz:

A =

2 3 −1

−6 −6 5

4 18 6

−2 −9 −3

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 20/53

Soluci onEl método procede así.■ La matriz L inicialmente es la matriz identidad

con el mismo número de renglones de A. Si seutilizó la operación Ri → Ri + cRj entonces en laposición (i, j) de L se coloca −c.

■ La matriz U es la matriz que queda en alescalonar A.

■ Si hubo necesidad de intercambiar renglonespara escalonar, A NO admite una factorizaciónLU.

Digamos que con las operaciones siguientes1. R2 → R2 + 3R1

2. R3 → R3 − 2R1

3. R4 → R4 + 1R1

4. R3 → R3 − 4R2

5. R → R + 2R

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 20/53

Soluci onEl método procede así.■ La matriz L inicialmente es la matriz identidad

con el mismo número de renglones de A. Si seutilizó la operación Ri → Ri + cRj entonces en laposición (i, j) de L se coloca −c.

■ La matriz U es la matriz que queda en alescalonar A.

■ Si hubo necesidad de intercambiar renglonespara escalonar, A NO admite una factorizaciónLU.

Digamos que con las operaciones siguientes1. R2 → R2 + 3R1

2. R3 → R3 − 2R1

3. R4 → R4 + 1R1

4. R3 → R3 − 4R2

5. R → R + 2R

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 20/53

Soluci onEl método procede así.■ La matriz L inicialmente es la matriz identidad

con el mismo número de renglones de A. Si seutilizó la operación Ri → Ri + cRj entonces en laposición (i, j) de L se coloca −c.

■ La matriz U es la matriz que queda en alescalonar A.

■ Si hubo necesidad de intercambiar renglonespara escalonar, A NO admite una factorizaciónLU.

Digamos que con las operaciones siguientes1. R2 → R2 + 3R1

2. R3 → R3 − 2R1

3. R4 → R4 + 1R1

4. R3 → R3 − 4R2

5. R → R + 2R

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 20/53

Soluci onEl método procede así.■ La matriz L inicialmente es la matriz identidad

con el mismo número de renglones de A. Si seutilizó la operación Ri → Ri + cRj entonces en laposición (i, j) de L se coloca −c.

■ La matriz U es la matriz que queda en alescalonar A.

■ Si hubo necesidad de intercambiar renglonespara escalonar, A NO admite una factorizaciónLU.

Digamos que con las operaciones siguientes1. R2 → R2 + 3R1

2. R3 → R3 − 2R1

3. R4 → R4 + 1R1

4. R3 → R3 − 4R2

5. R → R + 2R

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 21/53

Complejidad

Observe que para la obtención de la factorizaciónLU se realiza la fase 1 del método de eliminacióngaussiana.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 21/53

Complejidad

Observe que para la obtención de la factorizaciónLU se realiza la fase 1 del método de eliminacióngaussiana. Por consiguiente, la complejidad delalgoritmo de factorización LU será O(2/3n3).

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 21/53

Complejidad

Observe que para la obtención de la factorizaciónLU se realiza la fase 1 del método de eliminacióngaussiana. Por consiguiente, la complejidad delalgoritmo de factorización LU será O(2/3n3).Teniendo la factorización LU, la aplicación de lasustición hacia atrás o hacia adelante toman cadauno n2.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 21/53

Complejidad

Observe que para la obtención de la factorizaciónLU se realiza la fase 1 del método de eliminacióngaussiana. Por consiguiente, la complejidad delalgoritmo de factorización LU será O(2/3n3).Teniendo la factorización LU, la aplicación de lasustición hacia atrás o hacia adelante toman cadauno n2. Por ello es que para resolver un solosistema de ecuaciones no hay ventaja en utilizar lafactorización LU.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 21/53

Complejidad

Observe que para la obtención de la factorizaciónLU se realiza la fase 1 del método de eliminacióngaussiana. Por consiguiente, la complejidad delalgoritmo de factorización LU será O(2/3n3).Teniendo la factorización LU, la aplicación de lasustición hacia atrás o hacia adelante toman cadauno n2. Por ello es que para resolver un solosistema de ecuaciones no hay ventaja en utilizar lafactorización LU. La ventaja aparece cuando sedesean resolver varios sistemas de ecuacionescon la misma matriz de coeficientes.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 21/53

Complejidad

Observe que para la obtención de la factorizaciónLU se realiza la fase 1 del método de eliminacióngaussiana. Por consiguiente, la complejidad delalgoritmo de factorización LU será O(2/3n3).Teniendo la factorización LU, la aplicación de lasustición hacia atrás o hacia adelante toman cadauno n2. Por ello es que para resolver un solosistema de ecuaciones no hay ventaja en utilizar lafactorización LU. La ventaja aparece cuando sedesean resolver varios sistemas de ecuacionescon la misma matriz de coeficientes. En la primerasolución se determina la factorización LU, y en lassiguientes bastará sustitución hacia adelante yhacia atrás. O sea que cada siguiente solucióntomará sólo 2n2 FLOPs contrario a los 2/3n3 deeliminación gaussiana.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 22/53

Factorización de PA = LU

Frecuentemente, no es posible escalonar unamatriz sólo con operaciones de eliminación. Enestos casos se requiere realizar intercambio derenglones. Para este tipo de matrices no existe lafactorización LU. Lo que aplica es la factorizaciónPA = LU. Donde la matriz P es una matriz depermutación. Estas matrices de permutación seobtienen de la matriz identidad intercambiandorenglones. La factorización PA = LU se obtienede forma análoga a la factorización LU pero selleva un registro de los renglones que seintercambian y se efectuan los intercambios enuna matriz que registra los inversos de lasoperaciones de eliminación.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 23/53

Algoritmo de PA = LU

Entrada:■ Matriz A n×mSalida:■ P matriz de permutación n× n,■ L matriz triangular superior unitaria n× n

(lii = 1),■ U matriz escalonada n×mque cumplen:

PA = LU

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 24/53

1. Tome P = In, L = 0, y U = A.2. Mientras que U no sea escalonada hacer

2.1. Aplicar una operación R de eliminación o deintercambio a U.

2.2. Si R es de la forma Ri ↔ Rj, entonces aplicarR a P y a L.

2.3. Si R es de la forma Ri ← Ri − aRj,entoncesmodificar L haciendo lij = a.

3. Tome L = L+ In.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 25/53

Ejemplo

Determine una factorización PA = LU de lamatriz

A =

1 2 −2 1

4 5 −7 6

5 25 −15 −3

6 −12 −6 22

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 25/53

Ejemplo

Determine una factorización PA = LU de lamatriz

A =

1 2 −2 1

4 5 −7 6

5 25 −15 −3

6 −12 −6 22

Soluci onTomemos U0 = A, P0 = I4 y L0 = 0.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 26/53

1. Si aplicamos sobre U0 las operaciones de eliminaciónR2 → R2 − 4R1,R3 → R3 − 5R1 y R4 → R4 − 6R1 se obtiene a lanueva matriz U1:

U1 =

1 2 −2 1

0 −3 1 2

0 15 −5 −8

0 −24 6 16

Estos cambios se registran en L1 y hasta el momento se tiene:

L1 =

0 0 0 0

4 0 0 0

5 0 0 0

6 0 0 0

,P = I

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 27/53

2. Si aplicamos sobre U1 las operaciones de eliminaciónR3 → R3 +5R2 y R4 → R4 − 8R2 se obtiene a la nueva matriz U2:

U2 =

1 2 −2 1

0 −3 1 2

0 0 0 2

0 0 −2 0

Estos cambios se registran en L1 y hasta el momento se tiene:

L2 =

0 0 0 0

4 0 0 0

5 −5 0 0

6 8 0 0

,P2 = P1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 28/53

3. Si aplicamos sobre U2 la operación de intercambio R3 ↔ R4 seobtiene la nueva matriz U3:

U3 =

1 2 −2 1

0 −3 1 2

0 0 −2 0

0 0 0 2

Aplicando la operación de intercambio a L2 y a P2, se tiene:

L3 =

0 0 0 0

4 0 0 0

6 8 0 0

5 −5 0 0

,P3 =

1 0 0 0

0 1 0 0

0 0 0 1

0 0 1 0

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 29/53

4. Puesto que la matriz U3 ya es escalonada, el procedimientotermina y finalizamos haciendo L = L3 + I y se tiene:

U = U3 =

1 2 −2 1

0 −3 1 2

0 0 −2 0

0 0 0 2

,L =

1 0 0 0

4 1 0 0

6 8 1 0

5 −5 0 1

P = P3 =

1 0 0 0

0 1 0 0

0 0 0 1

0 0 1 0

Como ejercicio, compruebe que PA = LU �

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 30/53

Ejemplo

Determine una factorización PA = LU de la matriz

A =

0 −3 1 2 2

0 0 0 0 2

1 2 −2 1 1

4 2 −8 8 9

5 1 −5 13 11

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 30/53

Ejemplo

Determine una factorización PA = LU de la matriz

A =

0 −3 1 2 2

0 0 0 0 2

1 2 −2 1 1

4 2 −8 8 9

5 1 −5 13 11

Soluci on

Tomemos U0 = A, P0 = I5 y L0 = 0.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 31/53

1. Si aplicamos sobre U la operación de intercambio R1 ↔ R3 seobtiene la nueva matriz U:

U1 =

1 2 −2 1 1

0 0 0 0 2

0 −3 1 2 2

4 2 −8 8 9

5 1 −5 13 11

Aplicando la operación de intercambio a L0 y a P0, se tiene:

L1 =

0 0 0 0 0

0 0 0 0 0

0 0 0 0 0

0 0 0 0 0

0 0 0 0 0

,P1 =

0 0 1 0 0

0 1 0 0 0

1 0 0 0 0

0 0 0 1 0

0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 32/53

2. Si aplicamos sobre U1 las operaciones de eliminaciónR4 → R4 − 4R1 y R5 → R5 − 5R1 se obtiene a la nueva matriz U2:

U2 =

1 2 −2 1 1

0 0 0 0 2

0 −3 1 2 2

0 −6 0 4 5

0 −9 5 8 6

Estos cambios se registran en L1 y hasta el momento se tiene:

L2 =

0 0 0 0 0

0 0 0 0 0

0 0 0 0 0

4 0 0 0 0

5 0 0 0 0

,P2 =

0 0 1 0 0

0 1 0 0 0

1 0 0 0 0

0 0 0 1 0

0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 33/53

3. Si aplicamos sobre U2 la operación de intercambio R2 ↔ R3 seobtiene la nueva matriz U3:

U3

1 2 −2 1 1

0 −3 1 2 2

0 0 0 0 2

0 −6 0 4 5

0 −9 5 8 6

Aplicando la operación de intercambio a L2 y a P2, se tiene:

L3 =

0 0 0 0 0

0 0 0 0 0

0 0 0 0 0

4 0 0 0 0

5 0 0 0 0

,P3 =

0 0 1 0 0

1 0 0 0 0

0 1 0 0 0

0 0 0 1 0

0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 34/53

Si aplicamos sobre U3 las operaciones de eliminaciónR4 → R4 − 2R2 y R5 → R5 − 3R2 se obtiene a la nueva matriz U4:

U4 =

1 2 −2 1 1

0 −3 1 2 2

0 0 0 0 2

0 0 −2 0 1

0 0 2 2 0

Estos cambios se registran en L3 y hasta el momento se tiene:

L4 =

0 0 0 0 0

0 0 0 0 0

0 0 0 0 0

4 2 0 0 0

5 3 0 0 0

,P4 =

0 0 1 0 0

1 0 0 0 0

0 1 0 0 0

0 0 0 1 0

0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 35/53

5. Si aplicamos sobre U4 la operación de intercambio R2 ↔ R3 seobtiene la nueva matriz U5:

U5 =

1 2 −2 1 1

0 −3 1 2 2

0 0 −2 0 1

0 0 0 0 2

0 0 2 2 0

Estos cambios se registran en L4 y hasta el momento se tiene:

L5 =

0 0 0 0 0

0 0 0 0 0

4 2 0 0 0

0 0 0 0 0

5 3 0 0 0

,P5 =

0 0 1 0 0

1 0 0 0 0

0 0 0 1 0

0 1 0 0 0

0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 36/53

6. Si aplicamos sobre U5 la operación de eliminaciónR5 → R5 + 1R3 se obtiene a la nueva matriz U6:

U6 =

1 2 −2 1 1

0 −3 1 2 2

0 0 −2 0 1

0 0 0 0 2

0 0 0 2 1

Estos cambios se registran en L6 y hasta el momento se tiene:

L6 =

0 0 0 0 0

0 0 0 0 0

4 2 0 0 0

0 0 0 0 0

5 3 −1 0 0

,P6 =

0 0 1 0 0

1 0 0 0 0

0 0 0 1 0

0 1 0 0 0

0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 37/53

7. Si aplicamos sobre U6 la operación de intercambio R4 ↔ R5 seobtiene la nueva matriz U7:

U7 =

1 2 −2 1 1

0 −3 1 2 2

0 0 −2 0 1

0 0 0 2 1

0 0 0 0 2

Estos cambios se registran en L6 y hasta el momento se tiene:

L7 =

0 0 0 0 0

0 0 0 0 0

4 2 0 0 0

5 3 −1 0 0

0 0 0 0 0

,P7 =

0 0 1 0 0

1 0 0 0 0

0 0 0 1 0

0 0 0 0 1

0 1 0 0 0

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 38/53

8. Puesto que la matriz U7 ya es escalonada, el procedimientotermina y finalizamos haciendo L = L7 + I y se tiene:

U = U7 =

1 2 −2 1 1

0 −3 1 2 2

0 0 −2 0 1

0 0 0 2 1

0 0 0 0 2

,L =

1 0 0 0 0

0 1 0 0 0

4 2 1 0 0

5 3 −1 1 0

0 0 0 0 1

P = P7 =

0 0 1 0 0

1 0 0 0 0

0 0 0 1 0

0 0 0 0 1

0 1 0 0 0

Como ejercicio, compruebe que PA = LU �

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 39/53

Ejemplo

Determine una factorización PA = LU de la matriz

A =

0 −18 0 14 16 7

8 16 −18 8 9 −16

9 3 −13 21 20 −14

1 2 −2 1 1 −2

0 −3 1 2 2 1

10 −1 −21 28 32 −12

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 39/53

Ejemplo

Determine una factorización PA = LU de la matriz

A =

0 −18 0 14 16 7

8 16 −18 8 9 −16

9 3 −13 21 20 −14

1 2 −2 1 1 −2

0 −3 1 2 2 1

10 −1 −21 28 32 −12

Soluci on

Tomemos U0 = A, P0 = I5 y L0 = 0.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 40/53

1. Si aplicamos sobre U la operación de intercambio R1 ↔ R4 seobtiene la nueva matriz U:

U1 =

1 2 −2 1 1 −2

8 16 −18 8 9 −16

9 3 −13 21 20 −14

0 −18 0 14 16 7

0 −3 1 2 2 1

10 −1 −21 28 32 −12

Aplicando la operación de intercambio a L0 y a P0, se tiene:

L1 =

0 0 0 0 0 0

0 0 0 0 0 0

0 0 0 0 0 0

0 0 0 0 0 0

0 0 0 0 0 0

0 0 0 0 0

,P1 =

0 0 0 1 0 0

0 1 0 0 0 0

0 0 1 0 0 0

1 0 0 0 0 0

0 0 0 0 1 0

0 0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 41/53

2. Si aplicamos sobre U1 las operaciones de eliminaciónR2 → R2 − 8R1, R3 → R3 − 9R1 y R6 → R6 − 10R1 se obtiene ala nueva matriz U2:

U2 =

1 2 −2 1 1 −2

0 0 −2 0 1 0

0 −15 5 12 11 4

0 −18 0 14 16 7

0 −3 1 2 2 1

0 −21 −1 18 22 8

Estos cambios se registran en L1 y hasta el momento se tiene:

L2 =

0 0 0 0 0 0

8 0 0 0 0 0

9 0 0 0 0 0

0 0 0 0 0 0

0 0 0 0 0 0

,P2 =

0 0 0 1 0 0

0 1 0 0 0 0

0 0 1 0 0 0

1 0 0 0 0 0

0 0 0 0 1 0

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 42/53

3. Si aplicamos sobre U2 la operación de intercambio R2 ↔ R5 seobtiene la nueva matriz U3:

U3 =

1 2 −2 1 1 −2

0 −3 1 2 2 1

0 −15 5 12 11 4

0 −18 0 14 16 7

0 0 −2 0 1 0

0 −21 −1 18 22 8

Aplicando la operación de intercambio a L2 y a P2, se tiene:

L3 =

0 0 0 0 0 0

0 0 0 0 0 0

9 0 0 0 0 0

0 0 0 0 0 0

8 0 0 0 0 0

10 0 0 0 0 0

,P3 =

0 0 0 1 0 0

0 0 0 0 1 0

0 0 1 0 0 0

1 0 0 0 0 0

0 1 0 0 0 0

0 0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 43/53

4. Si aplicamos sobre U3 las operaciones de eliminaciónR3 → R3 − 5R2, R4 → R4 − 6R2 y R6 → R6 − 7R2 se obtiene a lanueva matriz U4:

U4 =

1 2 −2 1 1 −2

0 −3 1 2 2 1

0 0 0 2 1 −1

0 0 −6 2 4 1

0 0 −2 0 1 0

0 0 −8 4 8 1

Estos cambios se registran en L3 y hasta el momento se tiene:

L4 =

0 0 0 0 0 0

0 0 0 0 0 0

9 5 0 0 0 0

0 6 0 0 0 0

8 0 0 0 0 0

,P4 =

0 0 0 1 0 0

0 0 0 0 1 0

0 0 1 0 0 0

1 0 0 0 0 0

0 1 0 0 0 0

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 44/53

5. Si aplicamos sobre U4 la operación de intercambio R3 ↔ R5 seobtiene la nueva matriz U5:

U5 =

1 2 −2 1 1 −2

0 −3 1 2 2 1

0 0 −2 0 1 0

0 0 −6 2 4 1

0 0 0 2 1 −1

0 0 −8 4 8 1

Aplicando la operación de intercambio a L4 y a P4, se tiene:

L5 =

0 0 0 0 0 0

0 0 0 0 0 0

8 0 0 0 0 0

0 6 0 0 0 0

9 5 0 0 0 0

10 7 0 0 0 0

,P5 =

0 0 0 1 0 0

0 0 0 0 1 0

0 1 0 0 0 0

1 0 0 0 0 0

0 0 1 0 0 0

0 0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 45/53

6. Si aplicamos sobre U5 las operaciones de eliminaciónR4 → R4 − 3R3 y R6 → R6 − 3R3 se obtiene a la nueva matriz U6:

U6 =

1 2 −2 1 1 −2

0 −3 1 2 2 1

0 0 −2 0 1 0

0 0 0 2 1 1

0 0 0 2 1 −1

0 0 0 4 4 1

Estos cambios se registran en L6 y hasta el momento se tiene:

L6 =

0 0 0 0 0 0

0 0 0 0 0 0

8 0 0 0 0 0

0 6 3 0 0 0

9 5 0 0 0 0

10 7 4 0 0 0

,P6 =

0 0 0 1 0 0

0 0 0 0 1 0

0 1 0 0 0 0

1 0 0 0 0 0

0 0 1 0 0 0

0 0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 46/53

7. Si aplicamos sobre U6 las operaciones de eliminaciónR5 → R5 − 1R4 y R6 → R6 − 2R4 se obtiene a la nueva matriz U7:

U7 =

1 2 −2 1 1 −2

0 −3 1 2 2 1

0 0 −2 0 1 0

0 0 0 2 1 1

0 0 0 0 0 −2

0 0 0 0 2 −1

Estos cambios se registran en L7 y hasta el momento se tiene:

L7 =

0 0 0 0 0 0

0 0 0 0 0 0

8 0 0 0 0 0

0 6 3 0 0 0

9 5 0 1 0 0

10 7 4 2 0 0

,P7 =

0 0 0 1 0 0

0 0 0 0 1 0

0 1 0 0 0 0

1 0 0 0 0 0

0 0 1 0 0 0

0 0 0 0 0 1

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 47/53

8. Si aplicamos sobre U7 la operación de intercambio R5 ↔ R6 seobtiene la nueva matriz U8:

U8 =

1 2 −2 1 1 −2

0 −3 1 2 2 1

0 0 −2 0 1 0

0 0 0 2 1 1

0 0 0 0 2 −1

0 0 0 0 0 −2

Aplicando la operación de intercambio a L7 y a P7, se tiene:

L8 =

0 0 0 0 0 0

0 0 0 0 0 0

8 0 0 0 0 0

0 6 3 0 0 0

10 7 4 2 0 0

9 5 0 1 0 0

,P8 =

0 0 0 1 0 0

0 0 0 0 1 0

0 1 0 0 0 0

1 0 0 0 0 0

0 0 0 0 0 1

0 0 1 0 0 0

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 48/53

9. Puesto que la matriz U8 ya es escalonada, el procedimientotermina y finalizamos haciendo L = L8 + I y se tiene:

U = U8 =

1 2 −2 1 1 −2

0 −3 1 2 2 1

0 0 −2 0 1 0

0 0 0 2 1 1

0 0 0 0 2 −1

0 0 0 0 0 −2

,L =

1 0 0 0 0 0

0 1 0 0 0 0

8 0 1 0 0 0

0 6 3 1 0 0

10 7 4 2 1 0

9 5 0 1 0 1

P = P8 =

0 0 0 1 0 0

0 0 0 0 1 0

0 1 0 0 0 0

1 0 0 0 0 0

0 0 0 0 0 1

0 0 1 0 0 0

Como ejercicio, compruebe que PA = LU �

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 49/53

Notas generales

A continuación hacermos algunos comentariosgenerales sobre la factorización LU y su uso.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 50/53

Nota 1

Existen maneras de programar el algoritmo anterior de forma talque la matriz U y la matriz L queden en una misma matrizcuadrada. Un truco radica en que siendo todos los elementos de ladiagonal de U unos, no se requiere el espacio para almacenarlos.También hay forma de programar el algoritmo para que la matriz depermutaciones P se represente por un sólo vector con n valores,con números de 1 al n, que indican cómo deben permutarse losrenglones de la identidad. Esto es muy conveniente pues la matrizP es tal que de sus n2 valores todos son cero excepto n que son 1.Usando estas ideas el almacenamiento requerido por el algoritmode factorización LU puede reducirse de 3n2 a n2 + n números depunto flotante. Significando un ahorro de espacioaproximandamente 66%.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 51/53

Nota 2

Si se posee una factorización A = LU de una matriz cuadradainvertible, entonces la inversa de A puede calcularse mediante

A−1 = U

−1L

−1

El costo de invertir una matriz triangular es de n3 FLOPs lo cual es

más económico que invertir una matriz n× n cualquiera que es de8

3n3 FLOPs. Además de los costos para calcular L−1 y U

−1, habría

que calcular el producto el cual tiene un costo de n3 FLOPs. Esto

nos hace llegar a la conclusión de que el calculo unico de A−1

haciendo uso de la factorización LU toma 3n3 FLOPs que es más

grande que los 8

3n3 FLOPs que toma el procedimiento tradicional.

Por ello es que no es conveniente esta estrategia de cálculo.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 52/53

Nota 3

Si se desea calcular A−1B y se posee una factorización LU de A

entonces puede aplicarse eliminación gaussiana en la reducción

[L|B] → [I|D] aquí D = L−1

B

lo cual tiene un costo computacional de n3 FLOPs utilizando que L

es triangular. Seguido de esto, se aplica también eliminacióngaussiana en la reducción

[U|D] → [I|E] aquí E = U−1

D = U−1

L−1

B = A−1

B

lo cual tiene un costo computacional de n3 FLOPs utilizando que U

es triangular. Esto da como resultado un proceso de cálculo para

A−1

B con un costo 2n3 FLOPs teniendo disponible una

factorización LU.

IntroduccionFactorizacion LUUso de LUAlgoritmoEjemplo claveComplejidadPA=LUNotas

Factorización LU Álgebra Lineal - p. 53/53

Nota 4

Las matrices de permutación P son fácilmente invertibles al cumplirla relación:

P−1 = P

T

Además, normalmente no es conveniente realizar el producto PB

que tiene un costo de n3 FLOPs sino más bien realizar el

movimiento de renglones correspondiente. Y más que realizar el

movimiento de renglones, se hacen trucos de programación para

evitar tales movimientos teniendo un vector que refiere a los

renglones de diferentes posiciones.