s

i
n
e
v
n
e
i
b

!
s
do

MI. ELVIA ELVIRA MORALES TURRUBIANTES

REDES NEURONALES

MACRINA GRANADILLO RODRIGUEZ

CLA
SE

1. Resolucin de sistemas de

ecuaciones lineales: preliminares

2. Mtodo directo y exacto: Gauss
3. Mtodo directo y exacto (II):
descomposicin LU
4. Mtodos indirectos: Jacobi, GaussSeidel

Sistemas
lineales
PRELIMINAR
ES

MATRIZ
DE
COEFICIENTE
S

Vector de incgnitas

Sistema de ecuaciones lineales

RECORDATORIO DE LGEBRA
LINEAL

LA PRIMERA OPCIN QUE UNO SE

PLANTEA ES
No es eficiente (demasiadas operaciones)
Si el determinante de A es prximo a cero, el error de redondeo
puede ser muy grande, y esto es dificil de estimar numricamente
()

LA PRIMERA OPCIN QUE UNO SE

PLANTEA ES
No es eficiente (demasiadas operaciones)
Si el determinante de A es prximo a cero, el error de redondeo
puede ser muy grande.

LA PRIMERA OPCIN QUE UNO SE

PLANTEA ES
No es eficiente (demasiadas operaciones)
Si el determinante de A es prximo a cero, el error de redondeo
puede ser muy grande.

Se requieren mtodos numricos alternativos:

mtodos directos (son exactos (no tienen asociado error de
truncamiento), y son usados cuando la mayora de los
coeficientes de A son distintos de cero y las matrices no son
demasiado grandes). Suelen ser algoritmos complicados de
implementar
mtodos indirectos o iterativos (tienen asociado un
error de truncamiento y se usan preferiblemente para
matrices grandes (n>>1000) cuando los coeficientes de A
son la mayora nulos
matrices sparse-). Algoritmos
sencillos de implementar que requiere aproximacin inicial
y que en general no tiene porqu converger (requieren
anlisis de convergencia previo).

EJEMPLO
S
Mtodos directos
mtodo de eliminacin de Gauss (llevar A a triangular)
mtodo de descomposicin LU (A=LU, donde L triangular inferior y
U triangular superior)

mtodo de Cholesky

(LU para matrices simtricas)

Mtodos iterativos
mtodo de Jacobi
mtodo de Gauss-Seidel

METODOS
DIRECTOS

MTODO DE ELIMINACIN DE
GAUSS

LA IDEA
oPrimero, mediante operaciones elementales por filas, se
transforma la matriz ampliada en una matriz triangular superior
(equivalente a la matriz de partida) (PASO DE ELIMINACION)
oSegundo, se resuelve dicho sistema obteniendo las incgnitas,
empezando por la n-esima la ltima- y acabando con la
primera (PASO DE SUSTITUCION).

(ALGEBRA
LINEAL)

REPETIMOS ESTE PROCESO N-1 VECES HASTA LLEGAR A

FINALMENTE, POR SUSTITUCIN REGRESIVA RESOLVEMOS

EL SISTEMA.

ELIMINACIN DE GAUSS: ALGORITMO COMPLETO

Paso de eliminacin

Paso de sustitucin (cambio de notacin au)

MTODO DE
DESCOMPOSICIN LU

LA IDEA
oPrimero, a partir de la matriz A se calcula aquella matriz
triangular inferior L y aquella matriz triangular superior U (con
1s en la diagonal) tal que A=LU (PASO DE DESCOMPOSICION)
oAs, el sistema Ax=b pasa a ser LUx=b. Primero hacemos el
cambio Ux=y, que introducimos y el sistema resulta Ly=b.
Como L es triangular, fcilmente calculamos y. Finalmente,
introducimos este resultado en Ux=y, y como U es triangular,
fcilmente calculamos x. (PASO DE SUSTITUCION).

PASO DE DESCOMPOSICION : L, U \

A=LU

PASO DE SUSTITUCION : LY=B (CAMBIO DE

NOTACIN YX)

PASO DE SUSTITUCION : UX=Y (CAMBIO DE

NOTACIN YB)

(MTODOS DIRECTOS)

-Cuidado con la informacin de entrada en las

subrutinas!!
- Subrutina LU: algoritmo se resuelve
secuenciamente!!
-Clculo de determinantes con LU: trivial !!!!!

det(A)=det(LU)=det(L)de
t(U)

DOMINANTES: PROPIEDAD SUFICIENTE PARA

GAUSS SIN PIVOTE Y PARA LU (AUNQUE NO
NECESARIAS)

METODOS
INDIRECTOS

-Qu son los mtodos indirectos/iterativos?

Esquemas numricos para resolver sistemas de
ecuaciones lineales, basados en la aplicacin de un
algoritmo a partir de una solucin inicial, que se
repite iterativamente hasta que un criterio de parada
(convergencia) detiene el algoritmo (nmero de pasos
desconocido a priori).

- Para qu se usan los mtodos

indirectos/iterativos?
Eficientes para sistemas grandes con matrices con un
elevado nmero de ceros (matrices sparse), que
aparecen en problemas de fsica e ingeniera,
asociados a la resolucin de ecuaciones diferenciales
en derivadas parciales.

- Convergencia y problemas mal

condicionados

GENERALIDADES- esquema
general
Sea el problema Ax=b
En la iteracin k-sima, el
esquemaxnumrico
es+
(k) = T x(k-1)
Donde x ces el vector solucin, T
una matriz nxn y c un vector, que
dependen todos ellos de A y b

-Si el esquema converge, el orden de

convergencia es LINEAL (se necesitarn
bastantes
pasos
para
llegar
a
convergencia)

- Por eso, se aplican estos mtodos cuando

las matrices tienen muchos ceros (cada
paso tiene poco coste computacional)

GENERALIDADES- ESQUEMA
-criterio
de parada: nocin de distancia
GENERAL
entre vectores?

norma vectorial
y
matricia
l

Distancia entre
vectores

Criterio de
parada

MTODO DE JACOBI

MTODO DE JACOBI
Planteamos el siguiente esquema iterativo !
(si alguno de los elementos diagonales es
nulo, reordenamos la matriz)

MTODO DE JACOBI

MTODO DE JACOBI: criterio de

parada
Suponiendo que la sucesin de x(k)
es convergente (ms tarde
veremos cundo sucede esto), el
algoritmo parar cuando la
solucin vare poco, por ejemplo:

MTODO DE GAUSS-SEIDEL
Partiendo del mtodo de
Jacobi

MTODO DE GAUSS-SEIDEL
jacobi

MTODO DE GAUSS-SEIDEL

MTODO DE GAUSS-SEIDEL

En notacin matricial, requiere calcular

inversas, luego es preferible un algoritmo
que
resuelva,
en
cada
iteracin,
secuencialmente cada elemento del vector
solucin:

Donde i=1,2,
,n.

MTODO DE GAUSS-SEIDEL:
criterio de parada
Suponiendo que la sucesin de x(k)
es convergente (ms tarde
veremos cundo sucede esto), el
algoritmo parar cuando la
solucin vare poco, por ejemplo:

COMPARACION
EJEMPLO

COMPARACION EJEMPLO: USANDO

JACOBI
USANDO JACOBI

COMPARACION EJEMPLO: USANDO

GAUSS-SEIDEL
USANDO JACOBI

COMPARACION
EJEMPLO
USANDO JACOBI

USANDO GAUSSSEIDEL

ES SIEMPRE GS MS RPIDO
QUE JACOBI??

COMPARACION
EJEMPLO
USANDO
JACOBI

USANDO GAUSSSEIDEL

ES SIEMPRE GS MS RPIDO QUE

JACOBI??

NO SIEMPRE ! ES NECESARIO

CONVERGENCIA
Los mtodos anteriores pueden
converger/divergir independientemente (cada
uno puede converger o divergir para el mismo
problema).

CONDICION SUFICIENTE DE
CONVERGENCIA

CONVERGENCIA

CONVERGENCIA
Ojo
Calcular el radio espectral puede ser costoso, pero
cualquier norma natural de una matriz es cota
superior de su radio espectral basta con calcular
una norma natural (la ms sencilla de calcular es l
infinito) y verificar que es menor que 1 para que el
mtodo sea convergente.