solucion de sistemas

Introduccion

Solucion de sistemas de ecuaciones lineales.

Lcdo. Luis A. Freytez B.

UCLA-DCYT

14 de noviembre de 2011

Lcdo. Luis A. Freytez B. UCLA-DCYT

Introduccion

El objetivo principal de este capıtulo es examinar los aspectos numericosque envuelve la resolucion de sistemas de ecuaciones lineales de la forma:

a11x1 + a12x2 + · · · a1nxn = b1

a21x1 + a22x2 + · · · a2nxn = b2

......

an1x1 + an2x2 + · · · annxn = bn

Este es un sistema den ecuaciones en las n incognitasx1, x2, . . . xn. Loselementosaij , bj, i, j = 1, 2, ..., n son los datos del sistema y por ende, sonvalores reales prefijados.

Introduccion

Su representacion matricial es :

a11 a12 ·· a1n

a21 a22 ·· a2n

: : :an2 an2 ·· ann

El sistema de ecuaciones planteado en tiene solucion unica si y solo sidet(A) = |A| 6= 0. En este caso, existe la matriz inversa deA, A−1 , quepermite escribir la solucion del sistema de ecuaciones como x = A−1b.

Introduccion

Su representacion matricial es :

a11 a12 ·· a1n

a21 a22 ·· a2n

: : :an2 an2 ·· ann

El sistema de ecuaciones planteado en tiene solucion unica si y solo sidet(A) = |A| 6= 0. En este caso, existe la matriz inversa deA, A−1 , quepermite escribir la solucion del sistema de ecuaciones como x = A−1b.

Introduccion

La ecuacion anterior no es solo una expresion formal de lasolucion sino quedescribe un posible algoritmo que permitirıa obtenerla

Algoritmo 1.1

Entrada: A, bCalcular d= det(A)if d 6= 0 thencalcular c= A−1

x = cbsalida xelse , la matriz no es invertible, no hay solucion.end if

Introduccion

La ecuacion anterior no es solo una expresion formal de lasolucion sino quedescribe un posible algoritmo que permitirıa obtenerla

Algoritmo 1.1

Entrada: A, bCalcular d= det(A)if d 6= 0 thencalcular c= A−1

x = cbsalida xelse , la matriz no es invertible, no hay solucion.end if

Introduccion

Los metodos para resolver estos sistemas se dividen en dos:

1 Metodos directosMetodos faciles de resolverMetodos de eliminacionMetodos de descomposicionMetodos de ortogonalizacion

2 Metodos iterativosjacobiGauss-seidel

Introduccion

Metodos directos

Los metodos directos de resolucion de sistemas lineales de ecuaciones sonaquellos que permiten obtener la solucion despues de un n´umero finito deoperaciones aritmeticas. Este numero de operaciones es funcion del tamanode la matriz.Si los computadores pudieran almacenar y operar con todas lascifras de los numeros reales, es decir, si emplearan una aritmetica exacta,con los metodos directos se obtendrıa la solucion exactadel sistema en unnumero finito de pasos. Puesto que los computadores tienen una precisionfinita, los errores de redondeo se propagan y la solucion numerica obtenidasiempre difiere de la solucion exacta. La cota del error, para una matriz ytermino independiente dados, se asocia por lo general al n´umero deoperaciones de cada metodo. Se pretende, por lo tanto, obtener metodos conel mınimo numero de operaciones posible.

Introduccion

Metodos directos

Los metodos directos de resolucion de sistemas lineales de ecuaciones sonaquellos que permiten obtener la solucion despues de un n´umero finito deoperaciones aritmeticas. Este numero de operaciones es funcion del tamanode la matriz.Si los computadores pudieran almacenar y operar con todas lascifras de los numeros reales, es decir, si emplearan una aritmetica exacta,con los metodos directos se obtendrıa la solucion exactadel sistema en unnumero finito de pasos. Puesto que los computadores tienen una precisionfinita, los errores de redondeo se propagan y la solucion numerica obtenidasiempre difiere de la solucion exacta. La cota del error, para una matriz ytermino independiente dados, se asocia por lo general al n´umero deoperaciones de cada metodo. Se pretende, por lo tanto, obtener metodos conel mınimo numero de operaciones posible.

Introduccion

Sistemas faciles de resolversitemas diagonalessupongamos que la matrizA del sistema es diagonal, esto es,

a11 0 · · · 0

0 a22. . .

......

. . .. . . 0

0 · · · 0 ann

En este caso la solucion es muy sencilla de encontrar

xi =bi

aii, i = 1, 2, . . . , n

siempre queaii 6= 0, ∀ i = 1, 2, . . . , n, ya que de lo contrario el sistema notiene solucion. El numero de operaciones necesarias es den divisiones, esdecir,op = n operaciones elementales.

Introduccion

a11 0 · · · 0

0 a22. . .

......

. . .. . . 0

0 · · · 0 ann

xi =bi

aii, i = 1, 2, . . . , n

Introduccion

a11 0 · · · 0

0 a22. . .

......

. . .. . . 0

0 · · · 0 ann

xi =bi

aii, i = 1, 2, . . . , n

Introduccion

Solucion de sistemas triangularesConsideremos que la matriz del sistema es una matriz triangular inferior

a11 0 0a21 a22 0a31 a32 a33

Supongamos que la matriz es no singular, entonces la entradas de la diagonalprincipalaii , i = 1, 2, 3 son distintas de 0, por lo tanto podemos resolver elsistema de la siguiente forma:

x1 = b1/a11

x2 = (b2 − a21x1)/a22

x3 = (b3 − a31x1 − a32x2)/a33.

Introduccion

Este algoritmo es llamado sustitucion progresiva y puede ser extendido asistemas den× n. En el caso de un sisteman dimensional(n ≥ 2),

a11 0 · · · 0

a21 a22. . .

......

. . .. . . 0

an1 · · · an−1,n ann

el metodo toma la siguiente forma:

x1 =b1

a11(1)

xn =1aii

(bi −

i−1∑

aij xj), i = 2, ...n (2)

Introduccion

Algoritmo 1.2

(sustitucion progresiva)Entrada: A,B (A es una matriz triangular inferior)calcular p=

∏ni aii

if p 6= 0 thenx1 = b1

for i = 2, 3, ..., n doxi = 1

aii(bi −

∑i−1j=1 aij xj)

end forsalida xelsela matriz es singular , el problema no tiene solucionend if

Introduccion

Similares resultados se obtienen con sistemas de la forma

a11 a12 · · · a1n

0 a22. . .

......

. . .. . . an,n−1

0 · · · 0 ann

dondeA es una matriz triangular superior no-singular de ordenn (n ≥ 2), eneste caso el algoritmo es llamado sustitucion regresiva y puede ser escritocomo:

xn =bn

ann(3)

xi =1aii

(bi −

aij xj), i = n− 1, ..,1. (4)

El numero de operaciones en punto flotante ejecuta el algoritmo es igual an2

en ambos casos.Lcdo. Luis A. Freytez B. UCLA-DCYT

Introduccion

Algoritmo 1.3

(sustitucion regresiva)Entrada: A,b (A es una matriz triangular superior)calcular p=

∏ni aii

if p 6= 0 thenxn = bn

for i = n− 1, n− 2, ..., 1 doxi = 1

aii(bi −

∑nj=i+1 aij xj)

end forsalida xelsela matriz es singular , el problema no tiene solucionend if

Introduccion

Metodo de Gauss o eliminacion gaussianaEn el metodo de eliminacion de Gauss el problema original,Ax = b, setransforma mediante permutaciones adecuadas y combinaciones lineales delas ecuaciones en un sistema de la formaUx = c dondeU es una matriztriangular superior. Este nuevo sistema equivalente al original es deresolucion inmediata, solo es necesario aplicar el algoritmo de sustitucionregresiva.Durante la transformacion del sistema original al equivalente conmatriz triangular, las operaciones (que solo dependen de la matriz A) serealizan sobre la matriz y al mismo tiempo sobre el termino independiente b.

Introduccion

Metodo de Gauss o eliminacion gaussianaEn el metodo de eliminacion de Gauss el problema original,Ax = b, setransforma mediante permutaciones adecuadas y combinaciones lineales delas ecuaciones en un sistema de la formaUx = c dondeU es una matriztriangular superior. Este nuevo sistema equivalente al original es deresolucion inmediata, solo es necesario aplicar el algoritmo de sustitucionregresiva.Durante la transformacion del sistema original al equivalente conmatriz triangular, las operaciones (que solo dependen de la matriz A) serealizan sobre la matriz y al mismo tiempo sobre el termino independiente b.

Introduccion

Supongamos que tenemos el siguiente sistema

a(0)11 a(0)

12 ·· a(0)1n

a(0)21 a(0)

22 ·· a(0)2n

a(0)2n a(0)

n2 ·· a(0)nn

b(0)2:

El super indice(0) significa que los coeficientes de la matrizA y el vectorbno han sido modificados.Sia11 6= 0, es posible eliminar todas las posicionescorrespondientes a la variablex1 que estan en la columna debajo delelementoa11 simplemente restando la filai con i = 2, ..., n con la primera

fila multiplicada pormi1 =a(0)

;si definimos

a(1)ij = a(0)

ij − mi1a(0)1j , i, j = 2, ..., n,

b(1)i = b(0)

i − mi1b(0)1 , i = 2, ..., n.

Introduccion

a(0)11 a(0)

12 ·· a(0)1n

a(0)21 a(0)

22 ·· a(0)2n

a(0)2n a(0)

n2 ·· a(0)nn

b(0)2:

El super indice(0) significa que los coeficientes de la matrizA y el vectorbno han sido modificados.Si a11 6= 0, es posible eliminar todas las posicionescorrespondientes a la variablex1 que estan en la columna debajo delelementoa11 simplemente restando la filai con i = 2, ..., n con la primera

;si definimos

a(1)ij = a(0)

ij − mi1a(0)1j , i, j = 2, ..., n,

b(1)i = b(0)

i − mi1b(0)1 , i = 2, ..., n.

Introduccion

a(0)11 a(0)

12 ·· a(0)1n

a(0)21 a(0)

22 ·· a(0)2n

a(0)2n a(0)

n2 ·· a(0)nn

b(0)2:

;si definimos

a(1)ij = a(0)

ij − mi1a(0)1j , i, j = 2, ..., n,

b(1)i = b(0)

i − mi1b(0)1 , i = 2, ..., n.

Introduccion

a(0)11 a(0)

12 ·· a(0)1n

a(0)21 a(0)

22 ·· a(0)2n

a(0)2n a(0)

n2 ·· a(0)nn

b(0)2:

;si definimos

a(1)ij = a(0)

ij − mi1a(0)1j , i, j = 2, ..., n,

b(1)i = b(0)

i − mi1b(0)1 , i = 2, ..., n.

Introduccion

De esta manera se obtiene un sistema de la forma:

a(0)11 a(0)

12 ·· a(0)1n

0 a(1)22 ·· a(1)

2n: : :

0 a(1)n2 ·· a(1)

b(1)2:

Introduccion

a(0)11 a(0)

12 · · · · · · · · · a(0)1n

0 a(1)22 a(1)

. . ....

0 . . . 0 a(k−1)kk · · · a(k−1)

......

0 · · · 0 a(k−1)nk · · · a(k−1)

Introduccion

Finalmente parak = n,

a(0)11 a(0)

12 · · · · · · a(0)1n

0 a(1)22 a(1)

. . ....

0 0...

0 . . . . . . 0 a(n)nn

x2......

b(1)2......

Este ultimo sistema es de la formaUx = b

Introduccion

A cada uno de los terminos que aparecen en la diagonal de la matriz anteriorse le denomina pivote. Conviene resaltar que los pivotes no coinciden con losterminos originales de la diagonal de A, es decir,a(k−1)

kk 6= a(0)kk k = 1, ..., n

Para resumir todos los pasos realizados hasta obtener el sistema anterior, esnecesario suponer que todos los pivotes son no nulos. Es decir,a(i−1)

ii 6= 0 i = 1, ..., n A continuacion se presenta el algoritmo que permiteobtener la matriz y el termino independiente del sistema donde los terminosde superındice (0) son iguales a los originales del sistemade ecuaciones. Elsistema triangular obtenido es un sistema facil de resolver (sistematriangular superior), lo cual aplicando el algoritmo de sustitucion regresivaobtendrıamos la solucion del sistema original. El numero de operacionesnecesarias para realizar esta primera fase de eliminaciones 4n3+9n2−7n

Introduccion

kk 6= a(0)kk k = 1, ..., n

Introduccion

kk 6= a(0)kk k = 1, ..., n

Introduccion

Algoritmo 1.4

Eliminacion gaussianaEntrada: A,bfor j = 1, 2, ..., n− 1 dofor i = j + 1, ..., n domij =

for k = j, ..., n doaik = aik − mij ajk

end forbi = bi − mij bj

end forend forsustitucion regresiva

Introduccion

Como ya se ha comentado, se ha supuesto a lo largo de toda esta deduccionque los pivotes eran distintos de cero. Si durante el procesode eliminacionse obtiene un pivote nulo, por ejemplo ela(k−1)

kk , se debe buscar en la parteinferior de la columna k-esima un coeficiente no nulo, es decir de entre losa(k−1)

ik , i = k + 1, ..., n se toma uno que sea distinto de cero. Se sustituyeentonces la fila k (y su termino independiente) por la fila i (ysu terminoindependiente) que se haya escogido. Si dicho coeficiente nonulo noexistiera, la matriz serıa singular.Esta permutacion de filas no solo tieneinteres cuando el pivote es exactamente cero. Es obvio que valores pequenosdel pivote pueden producir grandes errores de redondeo, ya que siempre sedivide por el valor del pivote. Por consiguiente, para reducir los errores deredondeo conviene escoger el pivote maximo en valor absoluto. Para ello,hay dos tecnicas posibles

Introduccion

Como ya se ha comentado, se ha supuesto a lo largo de toda esta deduccionque los pivotes eran distintos de cero. Si durante el procesode eliminacionse obtiene un pivote nulo, por ejemplo ela(k−1)

kk , se debe buscar en la parteinferior de la columna k-esima un coeficiente no nulo, es decir de entre losa(k−1)

ik , i = k + 1, ..., n se toma uno que sea distinto de cero. Se sustituyeentonces la fila k (y su termino independiente) por la fila i (ysu terminoindependiente) que se haya escogido. Si dicho coeficiente nonulo noexistiera, la matriz serıa singular.Esta permutacion defilas no solo tieneinteres cuando el pivote es exactamente cero. Es obvio que valores pequenosdel pivote pueden producir grandes errores de redondeo, ya que siempre sedivide por el valor del pivote. Por consiguiente, para reducir los errores deredondeo conviene escoger el pivote maximo en valor absoluto. Para ello,hay dos tecnicas posibles

Introduccion

1 En elk-esimo sistema se toma como pivote el coeficiente mayor envalor absoluto de la columnak situado por debajo de la filak inclusive.Para ello es necesario permutar las filask y la correspondiente al pivoteescogido en la matriz y su termino independiente. Esta tecnica sedenomina metodo de Gauss con pivoteo parcial.

2 En elk-esimo sistema, se toma como pivote el coeficiente mayor envalor absoluto de la submatriz de ordenn− k definida por loscoeficientes que quedan por debajo de la filak y a la derecha de lacolumnak. Para ello, se permuta la filak (y el termino independienteasociado) y la columnak con las correspondientes al coeficiente quecumple la condicion citada. Al final del proceso deben ponerse en elorden inicial las componentes del vector solucion, puestoque suposicion ha sido modificada al realizar las permutaciones de columnas.Esta tecnica es el metodo de Gauss con pivoteo total.

Introduccion

1 En elk-esimo sistema se toma como pivote el coeficiente mayor envalor absoluto de la columnak situado por debajo de la filak inclusive.Para ello es necesario permutar las filask y la correspondiente al pivoteescogido en la matriz y su termino independiente. Esta tecnica sedenomina metodo de Gauss con pivoteo parcial.

2 En elk-esimo sistema, se toma como pivote el coeficiente mayor envalor absoluto de la submatriz de ordenn− k definida por loscoeficientes que quedan por debajo de la filak y a la derecha de lacolumnak. Para ello, se permuta la filak (y el termino independienteasociado) y la columnak con las correspondientes al coeficiente quecumple la condicion citada. Al final del proceso deben ponerse en elorden inicial las componentes del vector solucion, puestoque suposicion ha sido modificada al realizar las permutaciones de columnas.Esta tecnica es el metodo de Gauss con pivoteo total.

Introduccion

Algoritmo 1.5

Eliminacion gaussiana con pivoteo parcialEntrada: A,bfor j = 1, 2, ..., n− 1 domsj = max{|aij | : i = j, j + 1, n}k ↔ s (intercambio de filas j y s)for i = j + 1, ..., n domij =

end forend forsustitucion regresiva

Introduccion

Algoritmo 1.6

Eliminacion gaussiana con pivoteo totalEntrada: A,bfor j = 1, 2, ..., n− 1 domsl = max{|aik| : i, k = j, j + 1, n}k ↔ s (intercambio de filas j y s)k ↔ l (intercambio de columnas j y l)textbffor i= j + 1, ..., n domij =

end forend for

Introduccion

Si podemos efectuar la eliminacion gaussiana en el sistemalinealAx = b sinpivoteo, entonces podemos factorizar la matrizA en el producto de unamatriz triangular inferiorL y una matriz triangular superiorU

A = LU,

a11 a12 · · · a1n

0 a22. . .

......

. . .. . . an,n−1

0 · · · 0 ann

1 0 · · · 0

m21 1... 0

......

.. . an,n−1

mn1 mn2 · · · 1

dondemij =aij

ajj, i, j = 1, 2, ..., n .

Introduccion

Ax = b

LUx = b

Tomandoy = Ux, obtenemosLy = b, luego usando sustitucion progresiva yregresiva en los respectivos sistemas se obtiene la soluci´onx

1 L y U dependen solo deA y no del lado derecho.2 U = An(La matriz de la eliminacion)3 La misma factorizacion puede ser reusada para resolver cualquier

sistema lineal que tenga la misma matrizA sin importar cual sea el ladoderechob

Introduccion

Ax = b

LUx = b

Introduccion

Ax = b

LUx = b

Introduccion

Ax = b

LUx = b

Introduccion

Ax = b

LUx = b

Introduccion

Ax = b

LUx = b

Introduccion

Metodos Iterativos

Los metodos iterativos para resolver sistemas de ecuaciones lineales generanuna sucesion de vectores que, en el caso ideal, convergen a la solucion dedicho sistema. El metodo se detiene cuando encuentra una solucionaproximada, con cierto grado de precision especificado de antemano.Metodo de JacobiEmpezaremos consideremos el sistema siguiente

a11x1 + a12x2 + a13x3 + · · · a1nxn = b1

a21x1 + a22x2 + a23x3 + · · · a2nxn = b2

a31x1 + a32x2 + a33x3 + · · · a3nxn = b2

......

an1x1 + an2x2 + an3x3 + · · · annxn = bn

Introduccion

Metodos Iterativos

Los metodos iterativos para resolver sistemas de ecuaciones lineales generanuna sucesion de vectores que, en el caso ideal, convergen a la solucion dedicho sistema. El metodo se detiene cuando encuentra una solucionaproximada, con cierto grado de precision especificado de antemano.Metodo de JacobiEmpezaremos consideremos el sistema siguiente

a11x1 + a12x2 + a13x3 + · · · a1nxn = b1

a21x1 + a22x2 + a23x3 + · · · a2nxn = b2

a31x1 + a32x2 + a33x3 + · · · a3nxn = b2

......

an1x1 + an2x2 + an3x3 + · · · annxn = bn

Introduccion

Si aii 6= 0 despejamos de la filai la variablex1 tenemos

x1 =b1 − a12x2 − a13x3 − · · · − a1nxn

x2 =b2 − a21x1 − a23x3 − · · · − a2nxn

x3 =b3 − a31x1 − a32x2 − · · · − a3nxn

......

xn =bn − an1x1 − an2x2 − · · · − ann−1xn−1

Introduccion

Entonces la iteracion de Jacobi viene dada por

x(k+1)1 =

b1 − a12x(k)2 − a13x

(k)3 − · · · − a1nx

x(k+1)2 =

b2 − a21x(k)1 − a23x

(k)3 − · · · − a2nx

x(k+1)3 =

b3 − a31x(k)1 − a32x

(k)2 − · · · − a3nx

......

x(k+1)n =

bn − an1x(k)1 − an2x(k)

2 − · · · − ann−1x(k)n−1

Introduccion

Equivalentemente

x(k+1)i =

(bi −∑

aij x(k)j ), i = 1, 2, · · · , n, aii 6= 0

En cada paso de al iteracion de Jacobi se obtiene un vector con ncoordenadas y la estimacion inicial(x(0)

1 , x(0)2 , · · · , x(0)

n ) se debe elegir.

Cuando no se tienen pistas sobre la solucion se suele tomarx(0)i = bi/aii

Introduccion

Equivalentemente

x(k+1)i =

(bi −∑

aij x(k)j ), i = 1, 2, · · · , n, aii 6= 0

En cada paso de al iteracion de Jacobi se obtiene un vector con ncoordenadas y la estimacion inicial(x(0)

1 , x(0)2 , · · · , x(0)

n ) se debe elegir.

Cuando no se tienen pistas sobre la solucion se suele tomarx(0)i = bi/aii

Introduccion

Metodo de Gauss-SeidelUna variacion del metodo de Jacobi es el metodo de Gauss-Seidel, que esmas eficiente que el primero, la diferencia esta en que en elde Jacobi paragenerar el nuevo punto del proceso iterativo se utilizan lascoordenadas delpunto anterior, mientras que en el de Gauss- Seidel se van usando lascoordenadas en la medida en que se van generando, esto es, si se supone queya hemos obtenidox(k+1)

1 , x(k+1)2 , · · · x(k+1)

i−1 entonces la coordenadax(k+1)i ,

se obtiene de la siguiente forma

x(k+1)i =

(bi −

i−1∑

aij x(k+1)j −

aij x(k)j ), i = 1, 2, · · · , n, aii 6= 0

solucion de sistemas

Documents