Anda di halaman 1dari 34

Generalidades de los metodos iterativos

Metodo de Jacobi
Metodo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Parte 4. Metodos iterativos para la resolucion de


sistemas de ecuaciones lineales

Gustavo Montero

Escuela Tecnica Superior de Ingenieros Industriales


Universidad de Las Palmas de Gran Canaria

Curso 2005-2006
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

1 Generalidades de los metodos iterativos

2 Metodo de Jacobi

3 Metodo de Gauss-Seidel

4 Metodo de Relajacion Sucesiva

5 Convergencia de los metodos

6 Resumen
Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

1 Generalidades de los metodos iterativos

2 Metodo de Jacobi

3 Metodo de Gauss-Seidel

4 Metodo de Relajacion Sucesiva

5 Convergencia de los metodos

6 Resumen
Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

Introduccion
Ventaja frente a los metodos directos
Son menos sensibles a los errores de redondeo y esto se aprecia en sistemas de orden elevado donde los errores de
redondeo de los metodos directos son considerables
Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

Introduccion
Ventaja frente a los metodos directos
Son menos sensibles a los errores de redondeo y esto se aprecia en sistemas de orden elevado donde los errores de
redondeo de los metodos directos son considerables

Definicion de metodo iterativo


Un metodo iterativo construye una sucesion de vectores xm tal que

lim xm = x
m

siendo x la solucion del sistema Ax = b.


Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

Introduccion
Ventaja frente a los metodos directos
Son menos sensibles a los errores de redondeo y esto se aprecia en sistemas de orden elevado donde los errores de
redondeo de los metodos directos son considerables

Definicion de metodo iterativo


Un metodo iterativo construye una sucesion de vectores xm tal que

lim xm = x
m

siendo x la solucion del sistema Ax = b.

Construccion de un metodo iterativo


Se parte de una aproximacion inicial x0 y luego se calcula

xm+1 = F (xm ), m = 0, 1, . . .

donde F se toma de forma lineal: F (x) = B x + c

xm+1 = B xm + c, m = 0, 1, . . .

La matriz B se denomina matriz de iteracion y de sus propiedades va a depender la convergencia del metodo.
Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

Definicion de convergencia
Definicion de convergencia
Un metodo se dice que es convergente si:
1
lim xm = x = A b
m
Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

Definicion de convergencia
Definicion de convergencia
Un metodo se dice que es convergente si:
1
lim xm = x = A b
m

Teorema del Punto Fijo


Aplicando el Teorema del Punto Fijo,


||F (x ) F (x )|| L||x x ||

es decir,

||Bx Bx || L||x x ||

Luego si v = x x = ||Bv || L||v ||


Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

Definicion de convergencia
Definicion de convergencia
Un metodo se dice que es convergente si:
1
lim xm = x = A b
m

Teorema del Punto Fijo


Aplicando el Teorema del Punto Fijo,


||F (x ) F (x )|| L||x x ||

es decir,

||Bx Bx || L||x x ||

Luego si v = x x = ||Bv || L||v ||

Teorema general para la convergencia de los metodos iterativos


Un metodo iterativo del tipo anterior es convergente si y solo si se cumplen simultaneamente las siguientes
condiciones,
c = (I B)A1 b
(B) < 1
Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

Construccion de metodos iterativos


Sea A = M N, con M invertible

Teorema de caracterizacion de metodos iterativos

Si se toma, 1
B = M N
1
c = M b

el metodo considerado cumple la primera condicion anterior.


Pero ademas se debe cumplir la segunda condicion,

1 1
(M N) < 1 o tambien ||M N|| < 1
Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

Construccion de metodos iterativos


Sea A = M N, con M invertible

Teorema de caracterizacion de metodos iterativos

Si se toma, 1
B = M N
1
c = M b

el metodo considerado cumple la primera condicion anterior.


Pero ademas se debe cumplir la segunda condicion,

1 1
(M N) < 1 o tambien ||M N|| < 1

Teorema de construccion de los metodos iterativos

Todo metodo del tipo estudiado verifica las condiciones del teorema anterior con M N = A y M invertible.
Generalidades de los metodos iterativos
Metodo de Jacobi
Introduccion
Metodo de Gauss-Seidel
Convergencia de los metodos iterativos
Metodo de Relajacion Sucesiva
Construccion de metodos iterativos
Convergencia de los metodos
Resumen

Construccion de metodos iterativos


Sea A = M N, con M invertible

Teorema de caracterizacion de metodos iterativos

Si se toma, 1
B = M N
1
c = M b

el metodo considerado cumple la primera condicion anterior.


Pero ademas se debe cumplir la segunda condicion,

1 1
(M N) < 1 o tambien ||M N|| < 1

Teorema de construccion de los metodos iterativos

Todo metodo del tipo estudiado verifica las condiciones del teorema anterior con M N = A y M invertible.

El metodo resulta,
1 1
xm+1 = M Nxm + M b

es decir,
Mxm+1 = Nxm + b

Por tanto, conviene elegir M tal que sea facilmente invertible (diagonal o triangular).
El numero de operaciones de los metodos iterativos es O(n2 ) no iter
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Jacobi
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

1 Generalidades de los metodos iterativos

2 Metodo de Jacobi

3 Metodo de Gauss-Seidel

4 Metodo de Relajacion Sucesiva

5 Convergencia de los metodos

6 Resumen
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Jacobi
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Algoritmo de Jacobi
Descomposicion suma de una matriz
Sea A = D L U, con 0 a11 0 0
1
B
B 0 a22 0 C
C
D =B
B . . . C
C ;
 .
.
.
.
..
. .
. A
0 0 ann
0 0 0
1 0 0 a12 a13 a1n
1
B
B a21 0 0 C
C B
B 0 0 a23 a2n C
C
B C B C
L=B C U =B C
a31 a32 0 0 . . . .
B
B . . . . C
C
; B
B . . ..
. . . C
C
 .
.
.
.
.
.
..
. .
. A  .

.

.
0
.
an1n A
an1 an2 ann1 0 0 0
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Jacobi
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Algoritmo de Jacobi
Descomposicion suma de una matriz
Sea A = D L U, con 0 a11 0 0
1
B
B 0 a22 0 C
C
D =B
B . . . C
C ;
 .
.
.
.
..
. .
. A
0 0 ann
0 0 0
1 0 0 a12 a13 a1n
1
B
B a21 0 0 C
C B
B 0 0 a23 a2n C
C
B C B C
L=B C U =B C
a31 a32 0 0 . . . .
B
B . . . . C
C
; B
B . . ..
. . . C
C
 .
.
.
.
.
.
..
. .
. A  .

.

.
0
.
an1n A
an1 an2 ann1 0 0 0

Algoritmo
El metodo de Jacobi consiste en elegir M = D y N = L + U, resultando en forma matricial,

Dxm+1 = (L + U)xm + b

es decir,
X
n
aii (xm+1 )i = aij (xm )j + bi ; i = 1, 2, . . . , n
j=1
j6=i
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Jacobi
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Algoritmo de Jacobi
Matriz de iteracion de Jacobi
La matriz de iteracion de Jacobi resulta,

0 a12 a13 a1n 1


0
B
B a11 a11 a11 C
C
B
B
a21
0
a23

a2n
C
C
B
B a22 a22 a22 C
C
B
B
a31

a32
0
a3n
C
C
B
B a33 a33 a33 C
C
B
B . . . . . C
C
B

.
.
.
.
.
.
.. .
. C
A
an1 an2 an3
0
ann ann ann

Algoritmo
El metodo de Jacobi consiste en elegir M = D y N = L + U, resultando en forma matricial,

Dxm+1 = (L + U)xm + b

es decir,
X
n
aii (xm+1 )i = aij (xm )j + bi ; i = 1, 2, . . . , n
j=1
j6=i
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

1 Generalidades de los metodos iterativos

2 Metodo de Jacobi

3 Metodo de Gauss-Seidel

4 Metodo de Relajacion Sucesiva

5 Convergencia de los metodos

6 Resumen
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Algoritmo de Gauss-Seidel
Algoritmo
El metodo de Gauss-Seidel consiste en elegir M = D L y N = U, resultando en forma matricial,

(D L)xm+1 = Uxm + b

es decir,
X i X
n
aij (xm+1 )j = aij (xm )j + bi ; i = 1, 2, . . . , n
j=1 j=i+1

o, finalmente, X
i1 X
n
aii (xm+1 )i = aij (xm+1 )j aij (xm )j + bi ; i = 1, 2, . . . , n
j=1 j=i+1
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Algoritmo de Gauss-Seidel
Algoritmo
El metodo de Gauss-Seidel consiste en elegir M = D L y N = U, resultando en forma matricial,

(D L)xm+1 = Uxm + b

es decir,
Xi X
n
aij (xm+1 )j = aij (xm )j + bi ; i = 1, 2, . . . , n
j=1 j=i+1

o, finalmente, X
i1 X
n
aii (xm+1 )i = aij (xm+1 )j aij (xm )j + bi ; i = 1, 2, . . . , n
j=1 j=i+1

Ventaja frente a Jacobi


Menor requerimiento de almacenamiento respecto a Jacobi, ya que no necesita dos vectores para la
solucion (xm+1 , xm ). En el metodo de Gauss-Seidel las actualizaciones de la solucion se guardan en las
posiciones de los valores anteriores
El metodo de Gauss-Seidel tiene mejores condiciones de convergencia que el de Jacobi
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Relajacion Sucesiva
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

1 Generalidades de los metodos iterativos

2 Metodo de Jacobi

3 Metodo de Gauss-Seidel

4 Metodo de Relajacion Sucesiva

5 Convergencia de los metodos

6 Resumen
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Relajacion Sucesiva
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Algoritmo de Relajacion Sucesiva


Algoritmo
Si tomamos un parametro 6= 0, podemos hacer la descomposicion de A de la forma,
1 1
A=DLU = DL DU

1 1
y eligiendo M = D L, N = D + U, resulta

 1  1 
DL xm+1 = D+U xm + b

1 X
i1
1 X
n
aii (xm+1 )i + aij (xm+1 )j = aii (xm )i aij (xm )j + bi ; i = 1, 2, . . . , n
j=1
j=i+1
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Algoritmo de Relajacion Sucesiva
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Algoritmo de Relajacion Sucesiva


Algoritmo
Si tomamos un parametro 6= 0, podemos hacer la descomposicion de A de la forma,
1 1
A=DLU = DL DU

1 1
y eligiendo M = D L, N = D + U, resulta

 1  1 
DL xm+1 = D+U xm + b

1 X
i1
1 X
n
aii (xm+1 )i + aij (xm+1 )j = aii (xm )i aij (xm )j + bi ; i = 1, 2, . . . , n
j=1
j=i+1

Algoritmo en dos pasos


El algoritmo SSOR se puede expresar en dos pasos, un primer paso que coincide con el metodo de Gauss-Seidel un
segundo paso de relajacion de la solucion,
X
i1 X
n
aii (xm+1 )i + aij (xm+1 )j = aij (xm )j + bi ; i = 1, 2, . . . , n
j=1 j=i+1

(xm+1 )i (xm )i = ((xm+1 )i (xm )i )


Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Resumen de resultados de Convergencia
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

1 Generalidades de los metodos iterativos

2 Metodo de Jacobi

3 Metodo de Gauss-Seidel

4 Metodo de Relajacion Sucesiva

5 Convergencia de los metodos

6 Resumen
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Resumen de resultados de Convergencia
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen de resultados de Convergencia


Si A es simetrica y definida positiva, el metodo de Gauss-Seidel converge.
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Resumen de resultados de Convergencia
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen de resultados de Convergencia


Si A es simetrica y definida positiva, el metodo de Gauss-Seidel converge.

Si A es simetrica y la matriz

0 a11 a12 a1n


1
B
B a12 a22 a2n C
C
D+L+U =B
B . . . C
C
 .
.
.
.
..
. .
. A
a1n a2n ann

es definida positiva, el metodo de Jacobi es convergente.


Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Resumen de resultados de Convergencia
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen de resultados de Convergencia


Si A es simetrica y definida positiva, el metodo de Gauss-Seidel converge.

Si A es simetrica y la matriz

0 a11 a12 a1n


1
B
B a12 a22 a2n C
C
D+L+U =B
B . . . C
C
 .
.
.
.
..
. .
. A
a1n a2n ann

es definida positiva, el metodo de Jacobi es convergente.

Si A es simetrica y definida positiva, el metodo de relajacion converge si y solo si 0 < < 2.


Si < 1 el metodo se denomina de subrelajacion y si > 1, de sobrerrelajacion.
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Resumen de resultados de Convergencia
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen de resultados de Convergencia


Si A es simetrica y definida positiva, el metodo de Gauss-Seidel converge.

Si A es simetrica y la matriz

0 a11 a12 a1n


1
B
B a12 a22 a2n C
C
D+L+U =B
B . . . C
C
 .
.
.
.
..
. .
. A
a1n a2n ann

es definida positiva, el metodo de Jacobi es convergente.

Si A es simetrica y definida positiva, el metodo de relajacion converge si y solo si 0 < < 2.


Si < 1 el metodo se denomina de subrelajacion y si > 1, de sobrerrelajacion.

Si A es simetrica, definida positiva y tridiagonal, el valor optimo de para la convergencia del metodo de
relajacion es,
= q 2
1 + 1 2j

siendo j el radio espectral de la matriz de iteracion del metodo de Jacobi.


Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

1 Generalidades de los metodos iterativos

2 Metodo de Jacobi

3 Metodo de Gauss-Seidel

4 Metodo de Relajacion Sucesiva

5 Convergencia de los metodos

6 Resumen
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen

Los metodos iterativos tienen un coste computacional de O(n2 ) no iteraciones.


Si el numero de iteraciones es pequeno comparado con n, los metodos iterativos
son preferibles a los directos. Asimismo, los errores de redondeo no se acumulan
despues de cada iteracion, lo que supone una ventaja adicional.
El metodo de Gauss-Seidel es usualmente mas eficiente que el de Jacobi
Podemos acelerar la convergencia mediante la tecnica de relajacion.
Generalmente se suele utilizar valores de entre 1 y 2 (sobrerelajacion)
En la actualidad los metodos iterativos estudiados en esta asignatura estan
obsoletos. Los metodos mas utilizados son los basados en los subespacios de
Krylov.
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen

Los metodos iterativos tienen un coste computacional de O(n2 ) no iteraciones.


Si el numero de iteraciones es pequeno comparado con n, los metodos iterativos
son preferibles a los directos. Asimismo, los errores de redondeo no se acumulan
despues de cada iteracion, lo que supone una ventaja adicional.
El metodo de Gauss-Seidel es usualmente mas eficiente que el de Jacobi
Podemos acelerar la convergencia mediante la tecnica de relajacion.
Generalmente se suele utilizar valores de entre 1 y 2 (sobrerelajacion)
En la actualidad los metodos iterativos estudiados en esta asignatura estan
obsoletos. Los metodos mas utilizados son los basados en los subespacios de
Krylov.
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen

Los metodos iterativos tienen un coste computacional de O(n2 ) no iteraciones.


Si el numero de iteraciones es pequeno comparado con n, los metodos iterativos
son preferibles a los directos. Asimismo, los errores de redondeo no se acumulan
despues de cada iteracion, lo que supone una ventaja adicional.
El metodo de Gauss-Seidel es usualmente mas eficiente que el de Jacobi
Podemos acelerar la convergencia mediante la tecnica de relajacion.
Generalmente se suele utilizar valores de entre 1 y 2 (sobrerelajacion)
En la actualidad los metodos iterativos estudiados en esta asignatura estan
obsoletos. Los metodos mas utilizados son los basados en los subespacios de
Krylov.
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen

Los metodos iterativos tienen un coste computacional de O(n2 ) no iteraciones.


Si el numero de iteraciones es pequeno comparado con n, los metodos iterativos
son preferibles a los directos. Asimismo, los errores de redondeo no se acumulan
despues de cada iteracion, lo que supone una ventaja adicional.
El metodo de Gauss-Seidel es usualmente mas eficiente que el de Jacobi
Podemos acelerar la convergencia mediante la tecnica de relajacion.
Generalmente se suele utilizar valores de entre 1 y 2 (sobrerelajacion)
En la actualidad los metodos iterativos estudiados en esta asignatura estan
obsoletos. Los metodos mas utilizados son los basados en los subespacios de
Krylov.
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen

Los metodos iterativos tienen un coste computacional de O(n2 ) no iteraciones.


Si el numero de iteraciones es pequeno comparado con n, los metodos iterativos
son preferibles a los directos. Asimismo, los errores de redondeo no se acumulan
despues de cada iteracion, lo que supone una ventaja adicional.
El metodo de Gauss-Seidel es usualmente mas eficiente que el de Jacobi
Podemos acelerar la convergencia mediante la tecnica de relajacion.
Generalmente se suele utilizar valores de entre 1 y 2 (sobrerelajacion)
En la actualidad los metodos iterativos estudiados en esta asignatura estan
obsoletos. Los metodos mas utilizados son los basados en los subespacios de
Krylov.
Generalidades de los metodos iterativos
Metodo de Jacobi
Metodo de Gauss-Seidel
Metodo de Relajacion Sucesiva
Convergencia de los metodos
Resumen

Resumen

Los metodos iterativos tienen un coste computacional de O(n2 ) no iteraciones.


Si el numero de iteraciones es pequeno comparado con n, los metodos iterativos
son preferibles a los directos. Asimismo, los errores de redondeo no se acumulan
despues de cada iteracion, lo que supone una ventaja adicional.
El metodo de Gauss-Seidel es usualmente mas eficiente que el de Jacobi
Podemos acelerar la convergencia mediante la tecnica de relajacion.
Generalmente se suele utilizar valores de entre 1 y 2 (sobrerelajacion)
En la actualidad los metodos iterativos estudiados en esta asignatura estan
obsoletos. Los metodos mas utilizados son los basados en los subespacios de
Krylov.