PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
sexo
idade
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
sexo
idade
8
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
sexo
idade
10
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
...
11
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Arquitetura do SOM
12
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
13
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
14
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
x2
X
x2
x1 Incio
x1 Fim
16
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Aprendizado SOM
17
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
O Processo de Auto-organizao
Em linhas gerais: Inicializa-se os vetores de pesos dos neurnios; Apresenta-se dados de entrada rede; Seleciona-se o BMU para cada dado apresentado; Atualiza-se o BMU e sua vizinhana;
18
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Aprendizado SOM
Inicializao: defina o tamanho do mapa e seus respectivos pesos, w, aleatoriamente. Defina a relao de vizinhana do mapa. Ativao: escolha um padro de entrada, x, do conjunto de treinamento. Calcula a resposta do mapa:
Adaptao:
19
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Vizinhana SOM
Vizinhana hexagonal
Vizinhana retangular
20
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Vizinhana do SOM
21
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Aprendizado SOM
Espao de prottipos Espao Atributos Atr2 (sexo)
I
A B C
D F B E H G
A
D E F
Atr1 (idade)
22
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
23
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Aprendizado SOM
24
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
25
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Uma primeira tentativa ... Histograma de frequencias para identificao de picos e vales na grade de representantes
28
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
29
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Visualizao
Matriz U
Para efetuar anlise de agrupamentos, apenas mapeamento topologicamente ordenado do SOM no suficiente, pois a informao de distncias entre os neurnios perdida. Matriz de distncias unificadas (U-matrix) um mtodo de visualizao de um SOM treinado, que permite a deteco visual das relaes topolgicas dos neurnios. A idia bsica usar a mesma mtrica que foi utilizada durante o treinamento para calcular distncias entre pesos sinpticos de neurnios adjacentes.
31
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Matriz U - Exemplos
2-D
3-D
32
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Matriz U
33
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Matriz U
34
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Matriz U
O resultado uma imagem f(x, y), na qual as coordenadas de cada pixel (x, y) so derivadas das coordenadas dos neurnios no grid do mapa (por exemplo, (1,1), (1, 2) ... (X, Y) (1,1), (1, 2) ... (2*X-1, 2*Y-1)), e a intensidade de cada pixel na imagem f(x,y) corresponde a uma distncia calculada. A matriz U geralmente complexa em casos reais, tornando seu uso restrito visualizao, como ferramenta de auxlio na separao manual dos agrupamentos de um SOM.
35
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Matriz U
Representao 3-D
36
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Medidas de Avaliao
Erro de Quantizao: uma medida sobre a resoluo do mapa. Corresponde distncia entre o vetor de caractersticas e seu BMU. Erro Topolgico: Avalia o quanto a estrutura do mapa aproxima padres prximos do espao de entrada, a partir do primeiro e do segundo BMUs. Produto Topolgico: Objetiva quantizar a preservao de relaes de vizinhana em mapeamentos.
37
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Erro de Quantizao
38
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
sexo
idade
40
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Vizinhana SOM
Vizinhana hexagonal
Vizinhana retangular
41
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Arquitetura do SOM
42
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Erro Topolgico
43
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Rede SOM
Aplicaes
44
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
SOM - Aplicaes
Visualizao e anlise de dados de dimensionalidade elevada; Projeo no-linear do espao de dados de entrada, em M, para o espao de dados do arranjo, N, executando uma reduo de dimensionalidade M < N. Normalmente, N para 2 ou 1; Algoritmo de Classificao (com outras arquiteturas neurais, ...); Amostragem, extrao de caractersticas; Algoritmo de Clustering (deteco de agrupamentos) - utilizado em conjunto com U-Matrices.
45
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
47
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
48
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
LSI Laboratrio de Sistemas Integrveis ICONE Grupo de Inteligncia Computacional, Modelagem e Neurocomputao
49
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
Mais aplicaes de SOM feitas pelos pesquisadores do grupo ICONE-EPUSP podem ser conhecidas atravs do site www.lsi.usp.br/icone e tambm atravs das publicaes l relacionadas
51
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
52
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
53
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE
My coordinates
Emilio Del-Moral-Hernandez Polytechnic School - University of So Paulo (EPUSP) Department of Electronic Systems Engineering
emilio_del_moral@ieee.org www.lsi.usp.br/icone
54
PSI-5886 Prof. Emilio Del Moral Princpios de Neurocomputao 2008 EPUSP www.lsi.usp.br/ICONE