Aprendizado de Máquina

Cristiane Neri Nobre

Aprendizado de Máquina

 Construção de programas de
computador que melhoram seu
desempenho por meio de experiência

Um programa aprende a partir da experiência E,

em relação a uma classe de tarefas T, com me-
dida de desempenho P, se seu desempenho em T,
medido por P, melhora com E
Mitchell, 1997
AM – Conceitos Básicos

 Aprendizado Supervisionado

 Indutor recebe conjunto de exemplos na

forma (entrada, rótulo_desejado)

 Técnicas:
 Redes Neurais do tipo Multilayer Perceptron
 Máquinas de Vetores Suporte
 Algoritmos Genéticos
 Árvores de Decisão
AM – Conceitos Básicos

 Aprendizado Não-supervisionado

 Indutor recebe apenas atributos de entrada

 Encontrar aglomerados

 Técnicas:
 Redes Neurais do tipo mapas auto-organizáveis
 Algoritmo k-médias
AM – Conceitos Básicos

 Exemplo (padrão, instância)

 Amostra de tecido de paciente
 Característica (atributo, variável)
 Nível de expressão de um gene do tecido
 Vetor de características
 Vetor com expressões de m genes do
tecido
 Classe
 Presença ou ausência de câncer
AM – Conceitos Básicos

Característica
Classe
g1 g2 gj gN-1gN
Padrão 1 Câncer
Padrão 2 Normal
Padrão 3

Padrão i

Padrão m Câncer
AM – Conceitos Básicos

 Conjunto de exemplos (conj. de dados)

 Conjunto de treinamento
 Conjunto de teste
 Acurácia (taxa de erro)
 Falsos positivos e falsos negativos
 Overfitting (super ajustamento)
Árvores de Decisão – ADs

 Forma mais simples:

 Lista de perguntas  respostas “sim”

ou “não”
 Hierarquicamente arranjadas

 Levam a uma decisão

 Estrutura da árvore determinada por

meio de aprendizado
ADs

Contém códon de parada?

Não Sim

Não-gene Códon de parada downstream?

Não Sim

Não-gene Tamanho da seqüência > limiar?

Não Sim

Não-gene Gene
ADs

Contém códon de parada?

Não Sim
Nós internos
Não-gene Códon de parada downstream? correspondem
a testes
Não Sim Ramos são
resultados dos
testes
Não-gene Folhas fornecem
classificações
ADs

Novo padrão: Contém códon de parada dowstream e

tamanho da seqüência é menor que limiar

Contém códon de parada?

Não Sim

Não-gene Códon de parada downstream?

Não Sim

Não-gene Tamanho da seqüência > limiar?

Não Sim

Não-gene Gene
ADs – treinamento

 Treinamento
 AD encontra regras que recursivamente
bifurcam o conjunto de dados
 Sub-conjuntos homogêneos intra sub-conjuntos e
 Sub-conjuntos heterogêneos inter sub-conjuntos

 Conteúdo dos sub-conjuntos pode ser

descrito por um conjunto de regras
 ADs – treinamento
Considere a tarefa de aprendizado representada pelos exemplos de
treinamento na tabela abaixo, em que o objetivo é prever o
atributo PlayTenis baseando-se nos outros atributos. Construa
uma AD.

Day Outlook Temperature Humidity Wind PlayTennis

D1 Sunny Hot High Weak No
D2 Sunny Hot High Strong No
D3 Overcast Hot High Weak Yes
D4 Rain Mild High Weak Yes
D5 Rain Cool Normal Weak Yes
D6 Rain Cool Normal Strong No
D7 Overcast Cool Normal Strong Yes
D8 Sunny Mild High Weak No
D9 Sunny Cool Normal Weak Yes
D10 Rain Mild Normal Weak Yes
D11 Sunny Mild Normal Strong Yes
D12 Overcast Mild High Strong Yes
D13 Overcast Hot Normal Weak Yes
D14 Rain Mild High Strong No
ADs – treinamento

Teste Exemplo Outlook Temperature Humidity Wind Play?

If outlook=sunny D1 Sunny Hot High Weak No
D2 Sunny Hot High Strong No
D8 Sunny Mild High Weak No
D9 Sunny Cool Normal Weak Yes
D11 Sunny Mild Normal Strong Yes
If D3 Overcast Hot High Weak Yes
outlook=overcast D7 Overcast Cold Normal Strong Yes
D12 Overcast Mild High Strong Yes
D13 Overcast Hot Normal Weak Yes
If outlook=rain D4 Rain Mild High Weak Yes
D5 Rain Cool Normal Weak Yes
D6 Rain Cool Normal Strong No
D10 Rain Mild Normal Weak Yes
D14 Rain Mild High Strong No
ADs – treinamento
Teste Exemplo Outlook Temperature Humidity Wind Play?
If outlook=sunny D1 Sunny Hot High Weak No
and D2 Sunny Hot High Strong No
humidity=high D8 Sunny Mild High Weak No

If outlook=sunny D9 Sunny Cool Normal Weak Yes

and D11 Sunny Mild Normal Strong Yes
humidity=nomal
If D3 Overcast Hot High Weak Yes
outlook=overcastD7 Overcast Cold Normal Strong Yes
D12 Overcast Mild High Strong Yes
D13 Overcast Hot Normal Weak Yes
If outlook=rain D6 Rain Cool Normal Strong No
and wind=strong D14 Rain Mild High Strong No
If outlook=rain D4 Rain Mild High Weak Yes
and wind=weak D5 Rain Cool Normal Weak Yes
D10 Rain Mild Normal Weak Yes
ADs - conclusão

 Vantagens:
 Estrutura de fácil manipulação
 Produzem modelos que podem ser facilmente
interpretados por humanos

 Desvantagens:
 Pouca robustez a dados de grande dimensão
 Acurácia afetada por atributos pouco relevantes
 Dificuldade em lidar com dados contínuos
 Algumas Ferramentas para
extração de ADs
 Weka – http://www.cs.waikato.ac.nz/ml/weka/
 Trepan - poderá ser adquirido através de um e-mail enviado à Mark
Craven (craven@biostat.wisc.edu), autor do Trepan.

 C4.5 - HAMILTON, H.; GURAK, E.; FINDLATER, L.; OLIVE, W.

Machine learning/decision trees - C4.5 tutorial. Disponível em:
<http://www.cbi.msstate.edu/faculty/dvance/ml/ C4_5%20Tutorial.htm>.
Acesso em: 03 jan. 2002.

 ID3, C5.0, dentre outros...

Redes Neurais Artificiais

O que são Redes Neurais Artificiais?

Redes Neurais Artificiais (RNA) são modelos de

computação com propriedades particulares:

 Capacidade de adaptação (aprendizado)

 Generalizar
 O que são RNAs?
Uma rede neural é um processador maciçamente
paralelamente distribuído constituído de unidades de
processamento simples, que têm a propensão natural
para armazenar conhecimento experimental e torná-lo
disponível para o uso. Ela se assemelha ao cérebro em
dois aspectos:

1. O conhecimento é adquirido pela rede a partir de seu

ambiente através de um processo de aprendizagem
2. Forças de conexão entre neurônios, conhecidas como pesos
sinápticos, são utilizadas para armazenar o conhecimento
adquirido.
Simon Haykin
 O que são RNAs?

 RNA: estruturas distribuídas formadas

por grande número de unidades de
processamento conectadas entre si.

 Multi-disciplinaridade: Ciência da
Computação, Matemática, Física,
Engenharias, Psicologia, Biologia,
Lingüística, Filosofia, etc.
 Modelos inspirados no cérebro humano
Compostas por várias unidades de
processamento (“neurônios”)

 Interligadas por um grande número de

conexões (“sinapses”)

 Eficientes onde métodos tradicionais têm

se mostrado inadequados
Características das RNAs

 Aprendem através de exemplos

 Adaptabilidade
 Capacidade de generalização
 Tolerância a falhas
Potenciais áreas de
aplicação das RNAs
 Classificação de padrões
 Clustering/categorização
 Aproximação de funções
 Previsão

 Otimização

 Controle

 Mineração de dados

 etc...
Breve histórico
Década de 40 : O começo

 (1943) McCulloch & Pitts

 Modelo artificial de um neurônio

biológico
 (1949) Hebb desenvolve algoritmo
para treinar RNA (aprendizado
Hebbiano)
 Se dois neurônios estão

simultaneamente ativos, a conexão

entre eles deve ser reforçada
1950-1960: Anos de euforia
 (1958) Von Neumann mostra interesse em
modelagem do cérebro (RNA)
 The Computer and the Brain, Yale
University Press

 (1958) Rosenblatt implementa primeira

RNA, a rede Perceptron
 Ajuste iterativo de pesos
 Prova teorema da convergência
Década de 70: Pouca atividade

 (1969) Minsky & Papert analisam

Perceptron e mostram suas limitações

 Não poderiam aprender a resolver

problemas simples como o OU-
exclusivo

 Causou grande repercussão

Década de 70: Pouca atividade

 (1971) Aleksander propõe redes Booleanas

 (1972) Kohonen e Anderson trabalham com

RNAs associativas

 (1975) Grossberg desenvolve a Teoria da

Ressonância Adaptiva (redes ART)
Década de 80: A segunda
onda

 (1982) Hopfield mostra que Redes Neurais podem

ser tratadas como sistemas dinâmicos

 (1986) Hinton, Rumelhart e Williams, propõem

algoritmo de aprendizagem para redes multi-
camadas
Tendências atuais

• Controle de generalização

• Sistemas neurais híbridos

Conceitos básicos

 Estrutura geral das RNAs:

 Unidades de processamento ni (nós)

 Conexões wij
 Saída
 Topologia
 Conceitos Fundamentais

• Modelo Matemático de um Neurônio

O neurônio de McCulloch-Pitts
Neurônio de McCulloch-Pitts
Exercício
Solucão
Aprendizado

 Capacidade de aprender a partir de seu

ambiente e melhorar sua performance com o
tempo

 Parâmetros livres de uma RNA são adaptados

através de estímulos fornecidos pelo ambiente
 Processo iterativo de ajustes aplicado às

sinapses
 A RNA deve saber mais sobre seu ambiente

após cada iteração

 RNA deve produzir para cada conjunto de
entradas apresentado o conjunto de saídas
adequado.

 Forma geral para o ajuste de pesos é:

 w (n+1) = w (n) + w (n)
ik ik ik
Mecanismos de aprendizado

 Modificação de pesos (wij(n)) associados às

conexões

 Acréscimo e/ou eliminação de conexões e/ou

nodos
Aprendizado supervisionado

 Professor externo

 Possui conhecimento sobre ambiente

 Representado por conjunto de pares (x, d)

 Parâmetros da rede são ajustados por (x,d)

 Rede procura repetir comportamento do
professor
Aprendizado por reforço

 Crítico externo

 Processo de tentativa e erro

 Procura maximizar sinal de reforço

 Se ação tomada por sistema é seguida por

estado satisfatório, ação é fortalecida, caso
contrário, ação é enfraquecida
 Aprendizado por reforço

 Tipos de reforço

 Positivo = recompensa
 Negativo = punição
 Nulo
Aprendizado não
supervisionado

 Não está associado a crítico ou professor

externo

 Extração de características estatisticamente

relevantes dos dados
Perceptron

Perceptron Simples
 Perceptron - Características

 O perceptron é usado para conjuntos de treinamento

linearmente separáveis p
S W0  W j .u j
 Inclusão de tendência (“bias”) j 1

 No algoritmo de aprendizagem do Perceptron busca-se

um vetor W que tenha projeção positiva (produto interno)
com todos os exemplos positivos e projeção negativa com
todos os exemplos negativos
 A aprendizagem do perceptron sempre tem sucesso em
tempo finito para um conjunto de treinamento finito e
separável de exemplos de treinamento
Algoritmo do Perceptron
1. Fazer W ser o vetor nulo.
2. Selecionar um exemplo de treinamento Ek (com a
correspondente classificação Ck). Isto pode ser feito de
maneira cíclica (em ordem) através dos exemplos de
treinamento ou pegando um exemplo aleatoriamente.
3. Se W classifica Ek corretamente, isto é, se:
{W.Ek  0 e Ck = +1} ou se {W.Ek < 0 e Ck = -1}
 Então: não fazer nada.
 Senão Passo de alteração: Modificar W somando
ou subtraindo Ek de acordo com a saída correta
ser +1 ou -1: W’ = W + CkEk.
4. Ir ao passo 1.
 Perceptron - Conclusões

 Para um conjunto finito de exemplos de treinamento

E, com componentes inteiros (ou racionais), o
algoritmo de aprendizagem do perceptron, em tempo
finito:
 Produzirá um vetor peso que satisfaz todos os

exemplos de treinamento (se e somente se E é

separável); ou
 Abandonará e reutilizará um vetor peso (se e

somente se E é não-separável).
 Perceptron - Conclusões
 Se um conjunto de exemplos de treinamento E é
não-separável, então por definição não existe um
vetor de pesos W que classifique corretamente todos
os exemplos de treinamento em E utilizando o
algoritmo de aprendizagem do perceptron. A
alternativa mais natural é encontrar um vetor de
pesos W* que classifique tantos exemplos de
treinamento quanto possível de E. Tal conjunto de
pesos é chamado de ótimo
Algoritmo Backpropagation - MLP

 Resumo do algoritmo de treinamento:

1 - Apresentar vetor de entrada à camada de

entrada da rede e propagá-lo até a camada de
saída;
2 - Atualizar pesos das camadas de saída e
escondida, propagando o erro de volta às
entradas;
 3 - para os nodos j da camada de saída, atualizar
os pesos da seguinte forma:
Wij(n+1)=wji(n) + j(n)yi(n)

Onde j(n) equivale a:

j(n)=j(n)f’j(vj(n))

 4 - Para os nodos j da camada escondida:

Wij(n+1)=wji(n) + j(n)yi(n)
Onde j(n) equivale a:
j(n) = f’j(vj(n)) k(n)wkj(n)

e k se refere aos nodos da camada de saída.

Algoritmo Backpropagation - Considerações

 A atualização dos pesos é feita de forma individual

para cada um dos vetores do conjunto de
treinamento;

 Para cada vetor de treinamento, o sinal deve ser

propagado das entradas para as saídas para que o
erro possa então propagar em sentido contrário e
permitir o treinamento;
• Cada apresentação completa de todos os
elementos do conjunto de treinamento e
conseqüente ajuste de pesos é chamada epoch;

• É aconselhável randomizar a seqüência com

que os vetores são apresentados à rede de uma
epoch para a outra para acrescentar um
componente estocástico ao treinamento e evitar
ciclos limites indesejáveis na atualização dos
pesos;
• Os pesos iniciais devem ser preferencialmente
obtidos de uma distribuição uniforme (evita
polarização)
 Exemplos

• Reconhecimento de Caracter
• Aproximador de Funções
 Exemplo - Algoritmo Geral

Defina valor de ;
Repita
Para cada par {v, t}
Calcule a saída y apresentando v nas
entradas;
Se y<>t então w(n+1) = w(n) + (t-y)v
Senão w(n+1) = w(n);
Fim
Fim para
Até erro < Tolerância
 Exemplo - Reconhecimento de Caracter

Padrões de Entrada
 Exemplo - Reconhecimento de Caracter

Variações nos padrões de Entrada

 Exemplo - Reconhecimento de Caracter

Variações nos padrões de entrada

 Exemplo - Aproximador de
Funções
Parâmetros: ta=0.1, num_ep=3000, tol=0.0001)
 Exemplo - Aproximador de Funções

Gráfico de erro
Ferramentas

 http://www.nada.kth.se/~orre/snns-manual/

 Matlab

 Etc, etc