Capitulo 6

Aplicaciones de las Redes

Neuronales
6.2 Desarrollo de una aplicacin con ANS
(8) Proceso de entrenamiento
(9)Ealuacin de Resultados
6.! Pro"ramas de simulacin de ANS

En este proceso e#iste una interaccin entre los dos con$untos de

patrones (aprendi%a$e & test)' la estructura del ANS & el e#perimentador.

Se de(e ensa&ar con di)erentes topolo"*as & con distintos par+metros

de aprendi%a$e' midiendo el error de aprendi%a$e & el de "enerali%acin'
,asta alcan%ar los deseados.

En caso de -ue no se o(ten"an resultados acepta(les se tienen -ue.

/.0oler a reisar las )ases anteriores.
2.Ele"ir el modelo mas apropiado.
!.1 en su caso -ue la resolucin con ANS no sea ia(le.
Proceso de entrenamiento
/. Pesos iniciales.
2. Ritmo de aprendi%a$e.
!. Numero de neuronas ocultas.
2. Parada del entrenamiento.
Proceso de entrenamiento
3os par+metros de la red -ue pueden ser modi4carse
en los e#perimentos son los si"uientes.
/. 5niciali%acin de pesos

Consiste en reali%ar una iniciali%acin aleatoria en un cierto

interalo' como por e$emplo' entre 67.! & 8 7.!9

Aplicar al"oritmos de minimi%acin de )unciones (re"resin

lineal' simulated annealin" & al"oritmos "en:ricos).
2. Ritmo de aprendi%a$e

Desempe;a un papel crucial en el entrenamiento

Controla el tama;o de los cam(ios en los pesos de las neuronas.

<oma alores mu& dispares' desde 7.= a 7.7777/.

Ritmo de aprendi%a$e pe-ue;o implica -ue el ANS reali%a cam(ios pe-ue;os

en sus pesos lo cual per$udica en dos sentidos.

Eita escapar de m*nimos locales.

Disminu&e la elocidad de coner"encia.

Ritmo de aprendi%a$e alto implica ocasiona "randes ariaciones en los pesos'

inesta(ilidad en el ANS o saturar sus neuronas.
En conclusin. interesa un ritmo de aprendi%a$e -ue ari: durante el
entrenamiento' adapt+ndose a las necesidades.
!. Neuronas ocultas

<rata uno de los puntos mas cr*ticos de(ido a -ue no e#iste

una receta -ue indi-ue el numero de neuronas ocultas.

Se de(e colocar el correcto numero de neuronas ocultas &a

-ue de lo contrario so(rar*an "rados de li(ertad' &a -ue nos
apartamos de la tnica "eneral & )allamos ante nueos casos.

Si el numero de neuronas no es su4ciente no o(tendremos un

error acepta(le ni si-uiera para los datos -ue -ueremos
a$ustar.
!. Neuronas ocultas

Para decidir el numero de neuronas ocultas se usan las

si"uientes t:cnicas.
Recetas
Son de tipo "eom:trico' (-ue el ANS ten"a aspecto de pir+mide)' otras imponen
condiciones relatias al numero de patrones disponi(les' intentando a$ustar los
"rados de li(ertad a la cantidad de e$emplos. (se su"iere -ue el numero de pesos
de la red de(e ser del orden de la decima parte del de patrones).
Prue(a & error
Partiendo de un numero sumamente pe-ue;o de neuronas ocultas se reali%a
entrenamiento con alidacin cru%ada. El proceso se repite para distintas
ar-uitecturas' cada e% con mas neuronas ocultas' ,asta lle"ar a la ar-uitectura
-ue proporciona el resultado optimo para los de aprendi%a$e & test.
2. Neuronas ocultas

Para decidir el numero de neuronas ocultas se usan las

si"uientes t:cnicas.
>:todos din+micos (ar-uitecturas eolutias)
Consisten en -ue sea el propio al"oritmo el -ue' en )uncin de los e$emplos de
aprendi%a$e' a$uste la ar-uitectura de la red mediante la creacin' destruccin o
comparticin de neuronas o cone#iones durante el entrenamiento (o al termino
de :ste). 3a enta$a principal es -ue eita la cl+sica prue(a?error para encontrar
la topolo"*a ideal del ANS.
Parada del entrenamiento
No interesa prolon"ar inde4nidamente el entrenamiento' pues lle"a el momento
en el -ue se pierde "enerali%acin & tan solo se memori%an los detalles (ruido)
del con$unto de aprendi%a$e. 3a decisin ,a(itual es -uedarse con los pesos del
ANS en la iteracin para la cual se o(tuo el m*nimo error en el con$unto de test.
Ealuacin de Resultados

@inali%ada la )ase de entrenamiento & almacenados los pesos

ideales se puede aplicar el ANS so(re casos nueos para
medir su e4cacia de )orma completamente o($etia. Si se
comprue(a -ue se si"uen o(teniendo resultados dentro del
mar"en de error deseado' se puede proceder a emplear el
ANS dentro de su entorno de tra(a$o real.
6.! Pro"ramas de simulacin de ANS

Se clasi4can en tres tipos.

Comerciales.

3i(re distri(ucin .

Produccin propia.

A la ,ora de decidirnos tenemos -ue (uscar el -ue se adapte a nuestras

necesidades o pre)erencias. De(emos aeri"uar las plata)ormas &
sistemas operatios para los -ue se encuentran disponi(le (AindoBs'
>ac & 3inu#)' los modelos de ANS & las re"las de aprendi%a$e -ue
contempla' el en)o-ue del pro"rama' la )orma de especi4car la red
neuronal' si permite la "eneracin de e$ecuta(les o cdi"o )uente con
los -ue reproducir mas tarde la )ase de recuerdo o entrenamiento.
6.! Pro"ramas de simulacin de ANS

NeuralAorCs Pro)essional 55 Plus

>A<3AD Nerual NetBorC <ool(o#

NeuroSolutions

Netsim

P&t,ia

PDP So)tBare

Neuro5ntellince

S,arC& Nerual NetBorC

Emer"ent NN

0irtual ANS