Uma sinapse qumica padro conecta o axnio do neurnio que envia o estmulo,
chamado de neurnio pr-sinptico, a um dendrito do neurnio que recebe o
estmulo, chamado de neurnio ps-sinptico (veja a figura abaixo).
No primeiro estgio, ele calcula o chamado nvel de ativao, u, que faz o papel do
potencial resultante no soma de um neurnio biolgico.
O nvel de ativao u dado por uma combinao linear dos sinais de entrada vindos
de outros neurnios, xi, i = 1, ... , n, (anlogos aos potenciais ps-sinpticos) cujos
coeficientes, wi, i = 1, ... , n, so os chamados pesos sinpticos. A esta combinao
linear somado um nmero b, positivo ou negativo, que chamado de limiar de
ativao ou vis (bias) do neurnio.
Os pesos sinpticos so nmeros, positivos ou negativos, dando a fora, ou eficcia,
do acoplamento sinptico entre um neurnio que envia o sinal e o neurnio que o
recebe. Quando o peso w de uma sinapse positivo, ela dita excitatria; quando ele
negativo, ela dita inibitria.
Matematicamente, o vis de um neurnio pode ser tratado como um peso sinptico
extra, w0 = b, que pondera uma entrada constante x0 = +1. Isto torna mais concisa e
simtrica a expresso para o clculo de u,
n
i =1
i =0
u = wi xi + b = wi xi .
No segundo estgio de operao, uma sada calculada em funo do nvel de
ativao u. Esta sada, que um nmero S, dada por uma funo f(u), onde f(x)
chamada de funo de ativao, ou de transferncia, do neurnio.
A converso que o neurnio das redes neurais artificiais faz do nvel de atividade u
para a sada S = f(u) anloga que o modelo padro de neurnio biolgico faz entre
o valor de voltagem local no soma e a sua freqncia de disparos de potenciais de
ao.
Os trs tipos bsicos de funo de ativao f(u) usados pelos modelos de redes
neurais artificiais so:
6
As setas indicam as conexes sinpticas entre os neurnios. A cada conexo atribuise um peso sinptico w.
Quando uma rede como a do desenho recebe um padro de entrada, cada um dos
neurnios de entrada recebe uma pequena parte desse padro. Portanto, o padro
apresentado na entrada representado de maneira distribuda pelas unidades de
entrada. Em geral, os neurnios de entrada no executam nenhum tipo de
processamento sobre os sinais que recebem, apenas passando-os adiante.
Cada neurnio de entrada envia sinais para alguns neurnios chamados de escondidos
(ou ocultos). Eles so assim chamados porque so inspirados nos interneurnios do
crebro, aqueles que no esto diretamente conectados com o mundo exterior (nem
pela entrada, nem pela sada). Eles esto escondidos do mundo exterior rede neural.
Uma classe importante de redes neurais a das que tm arquitetura em camadas. Elas
podem ser do tipo feedforward ou do tipo recorrente (veja abaixo).
Note que a camada dos neurnios de entrada no contada como uma das camadas
da rede. Isto porque os neurnios de entrada no executam qualquer operao sobre o
padro de entrada que apresentado rede. Eles apenas o representam de uma
maneira distribuda. A operao propriamente dita de uma rede neural comea na
camada seguinte de entrada, quando os sinais de entrada so multiplicados por
pesos e somados para gerar os nveis de ativao dos neurnios dessa camada.
Dada uma rede neural, com uma certa arquitetura e formada por neurnios lineares
ou no-lineares, o seu objetivo est em executar uma determinada funo, como, por
exemplo, reconhecer padres, modelar uma ao etc.
11
Uma rede neural biolgica (o nosso crebro, por exemplo) no nasce sabendo
executar todas as funes que ela tem potencial para executar. necessrio um
perodo de aprendizado para tal.
Em geral, as redes neurais biolgicas aprendem a partir de exemplos: vrios
exemplos vo sendo apresentados rede biolgica at que, em algum momento, ela
consegue generalizar e aprender a regra que est por trs deles.
Acredita-se que um dos mecanismos responsveis pelo aprendizado biolgico esteja
associado a modificaes nas eficcias das sinapses ocorrendo durante o processo de
aprendizagem (lembre-se da aula 2). Essas modificaes se manifestariam, por
exemplo, em termos de um nmero maior ou menor de vesculas que se fundiriam
com a membrana neuronal pr-sinptica, ou em termos de um aumento ou diminuio
no nmero de canais inicos na membrana ps-sinptica.
O nome que se d a uma modificao na eficcia de uma sinapse plasticidade
sinptica.
No caso das redes neurais artificiais, as eficcias sinpticas so representadas pelos
pesos wij conectando os neurnios entre si.
A maneira como se faz para que uma rede neural artificial execute uma dada tarefa
com um desempenho satisfatrio , por analogia com o mecanismo biolgico, atravs
de um perodo de aprendizado a partir de exemplos. Durante esse perodo de
aprendizado, os pesos sinpticos wij so modificados de acordo com alguma regra
(um algoritmo) visando o aprimoramento do desempenho da rede neural na execuo
da tarefa.
12
H basicamente dois tipos de aprendizado em redes neurais: supervisionado e nosupervisionado. A figura a seguir ilustra estes dois tipos de aprendizado.
13
Com o processo de aprendizado supervisionado, podemos dizer que a rede neural cria
um modelo para reproduzir as regras de associao entre padres de entrada e
desejados ensinadas pelo professor. A rede cria um modelo do professor. Como
esse modelo aprendido a partir dos casos existentes na base de treinamento, ele ser
tanto melhor quanto mais representativos do ambiente forem os casos escolhidos.
Sob este ponto de vista, uma rede neural pode ser vista como uma ferramenta
estatstica para o aprendizado das regras de associao entre os padres de entrada do
ambiente e as respostas desejadas propostas pelo professor.
Por outro lado, no aprendizado no-supervisionado a rede neural no tem um
professor para lhe forar a dar as respostas que ele considera desejveis. Na ausncia
de um modelo a seguir, a rede vai alterando os seus pesos sinpticos segundo regras
pr-estabelecidas que se baseiam apenas nos padres de entrada e nos valores dos
seus pesos. Dizemos que a rede neural se auto-organiza. Um exemplo de regra de
aprendizado no-supervisionado a regra de Hebb, vista na aula 2.
No caso no-supervisionado, a auto-organizao da rede neural pode lev-la ou no a
fornecer respostas adequadas aos padres de entrada vindos do ambiente. Como uma
rede neural , em geral, vista como uma ferramenta para gerar respostas teis para o
ser humano, a adequao das respostas da rede ser medida pela utilidade delas em
alguma tarefa especfica.
Pode-se tambm estar interessado em estudar as respostas de uma rede neural
treinada de uma maneira no-supervisionada para ver se elas so similares s
observadas em experimentos de aprendizado com animais e humanos. Neste caso,
no se estar dando tanta importncia utilidade prtica das respostas, mas sim
capacidade das regras de auto-organizao da rede em capturar elementos das regras
de
aprendizado
existentes
nos
seres
vivos
(por
exemplo,
pr-definidas
geneticamente).
14