Redes Neurais Artificiais

Simulando a Plasticidade

 [ O Mapa Neural | Um Exemplo de Aplicação | Conclusões e o Futuro ]

A implementação da plasticidade foi realizada oportunizando às rede neural ampliar a quantidade de neurônios vencedores na camada de saída. Dessa forma, diversos neurônios do córtex artificial assimilam as informações do conjunto de treinamento, diferentemente da rede neural de Kohonen que, originalmente, possui poucos neurônios como vencedores, deixando os neurônios restantes da camada de saída como inativos.

 

Expansão do número de neurônios vencedores

 

Esse aumento dos neurônios vencedores foi realizado mudando alguns parâmetros da função de transferência do neurônio artificial, cuja analogia poderia ser feita com a mudança do limiar de disparo dos neurônios biológicos. Alterados, os neurônios disparam com menos energia acumulada, assimilando informações apresentadas nas entradas da rede neural. Isto provoca um aumento razoável de neurônios representando informações na camada de saída. É claro que não significa que todos os neurônios serão vencedores, mas a maior oferta de neurônios aptos a vencedor aumenta também a probabilidade de haver vencedores.

O Mapa Neural

O mapa neural, basicamente, consiste na visualização das informações que estão contidas na rede neural de forma gráfica. Entretanto existe um problema, da mesma forma que não se pode dissecar um cérebro animal para extrair conhecimento, projetistas de redes neurais não podem simplesmente olhar os neurônios e dizer onde está a informação (pelo menos não com tanta facilidade). Assim, do mesmo modo como vem sendo proposto o uso do PET (Positron Emission Tomography) pela comunidade científica, cujo equipamento provê imagens coloridas da atividade cerebral, o mapa neural pode ser extraído avaliando onde existe a maior e a menor atividade mediante a aplicação de um estímulo qualquer na rede.

Para verificar a posição geográfica da informação contida em um mapa neural é necessário a aplicação de estímulos para traçar a sua topografia. Basicamente, o mapa pode ser construído plotando a força de disparo do neurônio artificial no eixo h e a posição física do neurônio no plano bidimensional como os eixos x e y.

 

Eixos da representação tridimensional

 

Assim, construímos uma representação 3D de uma informação presente no córtex artificial, ou seja, o mapa apresenta a forma da informação contida nos pesos mediante a apresentação de um exemplo específico.

Dividindo o gráfico em 3 alturas, e colorindo cada uma dessas escalas resultantes com uma cor diferente, temos uma diferenciação da intensidade da presença da informação na região específica também pela cor :

 

Área vermelha chamamos de área primária da informação, pois representa o exemplo apresentado no momento.
Área amarela chamamos de área secundária da informação, o que significa que, apesar de bastante próxima da área primária, não representa a informação propriamente dita, permanecendo apenas como fronteira da informação apresentada.
Área azul chamamos de área terciária da informação, apontando a não presença daquele exemplo na respectiva região neuronal.

Observando os gráficos da figura 7, percebemos que todo o mapa se ajusta em função do aprendizado. Essa dinamicidade pode ser notada no movimento do mapa A para o mapa B. Conforme mostra a figura, os mapas A e B são os mesmos, porém plotados em tempos diferentes. O mapa A está plotado depois de 100 iterações na fase de treinamento, enquanto que o mapa B está plotado em 500 iterações, ou seja, 400 iterações depois de plotado o mapa A.

 

 

MAPA - A

Rede : Kohonen

Neurônios: 7x7

Iterações : 100

Exemplo : /batata/

 

 

 

MAPA - B

Rede : Kohonen

neurônios: 7x7

Iterações : 500

Exemplo : /batata/

 

Um mapa de informação sob dois ângulos diferentes em dois momentos diferentes do treinamento.

 

O mapa A, cujo estímulo de entrada é a palavra falada /batata/, exibe apenas um neurônio branco em 100 iterações e, após mais 400 iterações, já identifica mais 3 neurônios, aumentando, assim, a probabilidade de acerto. Determinadas áreas, privilegiadas pelo ajuste da vizinhança, tendem a acompanhar a representação da informação até que, finalmente, a representem também.

 Colocando um pouco de lado uma série de teorias matemáticas quanto à aproximação e otimização, os gráficos acima apontam que a repetitividade fortalece determinadas conexões, o que acaba aumentando a taxa de resposta da rede para variações do mesmo estímulo. Situação bastante parecida com a afirmação de DONALD HEBB que dizia que se um neurônio A for repetidas vezes estimulado por um neurônio B, o neurônio A ficaria mais sensível aos estímulos de B.

 No entanto, lembramos que outras informações também estão sendo aprendidas no mesmo momento e, dessa forma, se forçarmos demais os pesos sinápticos em uma direção apenas, poderá, automaticamente, desorientar as sinapses em relação às outras informações já aprendidas.

Um Exemplo de Aplicação

Para verificação da atuação da plasticidade como fator relevante na elevação da taxa de acerto da rede neural, foi projetada uma rede com 20 neurônios dispostos em 5 linhas e 4 colunas. Essa rede, possuindo todos os atributos da rede de Kohonen, mais a implementação da plasticidade, foi treinada para reconhecer apenas duas palavras faladas : /branco/ e /preto/. Essas palavras foram lidas a 8000 Hz e reduzidas a 100 sinais de entrada mediante diversas técnicas de processamento de sinal digital.

 

Espectro do sinal de voz das palavras /branco/ e /preto/.

 

Configurada para iterar 3000 vezes o conjunto de treinamento de duas palavras, a rede apresentou a seguinte plasticidade durante o tempo de treinamento (realizado em um computador tipo 486 DX 2 100 MHz com 24 Mbytes de memória ram) :

 

  1

Iteração no : 650

vizinhança : 4

2

Iteração no : 1200

Vizinhança : 3

3

Iteração no : 1500

vizinhança : 2

4

Iteração no : 3000

vizinhança : 0

 

Neurônios

 

Verificando a evolução do quadro acima, os neurônios vencedores mudam dinamicamente durante o tempo de treinamento. Nesses quadros, a principal mudança é verificada do 3o para o 4o quadro, onde os neurônios [1,0], [1,1] e [1,2], que representavam a palavra falada /preto/, passam a representar a palavra falada /branco/. Outro aspecto que pode ser notado é a mudança da posição do neurônio vencedor principal, que acontece do quadro 1 para o quadro 2. No quadro 1, o principal neurônio vencedor para a palavra /branco/ é o neurônio [4,0] (apontado com preenchimento cinza), já no quadro 2, com 550 iterações a mais que o quadro 1, o ponto ótimo é transferido para o neurônio [3,0].

 

Quando uma entrada é apresentada, apenas um neurônio é apontado como vencedor, porém, pronunciando-se a mesma palavra diversas vezes, nem sempre é o mesmo neurônio o vencedor. Isto significa que, apesar da palavra pronunciada ser a mesma, ela não traz na sua forma de onda a exata semelhança com a onda usada para o treinamento, e, dessa forma, poderá não tender exatamente para o mesmo neurônio, podendo disparar algum outro neurônio da região primária, ou mesmo de uma região secundária.

 

Esta mudança de neurônio vencedor conforme o estímulo recebido ocorre somente quando existe a possibilidade de mudar de neurônio vencedor, ou seja, quando existem outros neurônios que representam a mesma informação. Isto é um fato real e constante na plasticidade artificial.

 

Assim, a figura 10 apresenta todos os neurônios vencedores apontados durante o treinamento e, onde o quadro está acizentado, apresenta os neurônios ativados durante a fase de testes. Nota-se, na figura 10, que três neurônios, tanto para a palavra /preto/ quanto para a palavra /branco/, são os mais sinalizados durante o uso da rede treinada, mesmo havendo outros neurônios habilitados para a mesma tarefa.

 

Principais neurônios ativados

 

Na tabela abaixo, podemos verificar, que para a palavra /branco/, os neurônios [0,1] e [0,3] são os mais ativados, enquanto que para a palavra /preto/, de longe o neurônio [2,1] é o mais ativado. A diferença de ativação neuronal se deve ao fato de ter havido pequenas mudanças de entonação na pronúncia.

 

/branco/

 

/preto/

Neurônio

Vencedor

Taxa de resposta

 

Neurônio

Vencedor

Taxa de resposta

0,0

10 %

 

3,0

15 %

0,1

35 %

 

2,1

40 %

0,3

40 %

 

4,3

25 %

Total

85 %

 

Total

80 %

 

Pronunciando a palavra /branco/ com mais ênfase na 1a sílaba, /bran/, o neurônio ativado é o [0,0], e havendo maior ênfase na 2 a sílaba, /co/, o neurônio ativado é o [0,1].

  5 of 7


Em: Redes Neurais Artificiais: Aprendizado e Plasticidade
Por: Malcon Anderson Tafner
Em: Revista  "Cérebro & Mente" 2(5), Março/Maio 1998.

Copyright 1998 Universidade Estadual de Campinas
Uma Realização: Núcleo de Informática Biomédica