Área Académica: ICBI, Sistemas Computacionales

Tema: Mapas auto organizados

Profesor: M.C.C Víctor Tomás Tomás Mariano

Alumnos:

Leticia Hernandez Hernandez.

Agustin Escamilla Hernández

Periodo: Julio-Diciembre 2011

Resumen.

Se describe las características de los mapas auto

organizados, su regla de aprendizaje, su algoritmo de

entrenamiento, con la finalidad de resolver problemas de

clasificación.

Abstract

It describes the characteristics of self-organizing maps,

the learning rule, the training algorithm, in order to

solve classification problems.

Keywords: Neural Networks,

Learning Vector Quantization

Se cree que algunos sistemas biológicos realizan sus

operaciones siguiendo un método de trabajo que algunos

investigadores han llamado, on-center/off-surround; este

término describe un patrón de conexión entre neuronas, cada

neurona se refuerza a ella misma (center) mientras inhibe a

todas las neuronas a su alrededor (surround).

En las redes competitivas biológicas, lo que sucede realmente

es que cuando una neurona se refuerza a ella misma, refuerza

también las neuronas que están cerca; la transición entre

reforzar las neuronas “vecinas” o inhibirlas, se realiza

suavemente a medida que la distancia entre las neuronas

aumenta. De esta forma el proceso on-center/off-surround; para

redes biológicas sigue el comportamiento señalado en la figura

2.5.14, función que habitualmente es referida como sombrero

mexicano debido a su forma.

Tratando de emular la actividad biológica, sin tener que

implementar conexiones on-center/off-surround; de

realimentación no lineal, Kohonen diseñó la red conocida como

mapa de auto organización (SOM).

Mapa de auto organización (SOM) • Esta red determina primero la neurona ganadora i* usando el mismo

procedimiento que las redes competitivas, luego los vectores de

pesos de todas las neuronas que se encuentren en una región

cercana “vecindario”, serán actualizados mediante la regla de

Kohonen.

• Donde el vecindario Ni* contiene el índice para todas las neuronas

que se encuentren a un radio “d” de la neurona ganadora i*

• Cuando un vector p es presentado, los pesos de la neurona

ganadora y de sus vecinas tenderán hacia p, el resultado es que

después de muchas presentaciones las neuronas vecinas habrán

aprendido vectores similares que cada una de las otras.

• El concepto de vecindario es ilustrado en la figura 2.5.15; para la

primera figura se ha tomado un vecindario de radio d =1 alrededor de

la neurona 13; para la segunda figura se ha tomado un vecindario de

radio d =2.

• Estos vecindarios pueden definirse como sigue:

• El vecindario puede determinarse en diferentes formas; Kohonen, por

ejemplo ha sugerido vecindarios rectangulares o hexagonales para

lograr alta eficiencia; es importante destacar que el rendimiento de la red

no es realmente sensitivo a la forma exacta del vecindario.

• La figura 2.5.16 ilustra un mapa de auto organización de dos

dimensiones:

• Ejecutar nnd14fm1, nnd14fm2, en Matlab.

Learning Vector Quantization (LVQ).

• Esta red es un híbrido que emplea tanto aprendizaje no

supervisado, como aprendizaje supervisado para clasificación

de patrones.

• La entrada neta a la primera capa de la red LVQ es entonces,

• La entrada neta a la primera capa de la red LVQ es entonces,

• Así, la neurona cuyo vector de pesos este cercano al vector de entrada

tendrá salida 1 y las otras neuronas, tendrán salida 0; en este aspecto la

red LVQ se comporta igual a las redes competitivas, la única diferencia

consiste en la interpretación, mientras que en las redes competitivas la

salida no cero representa una clase del vector de entrada, para el

algoritmo LVQ, indica mas bien una subclase, y de esta forma muchas

neuronas (subclases), conforman una clase.

• Una propiedad importante de esta red, es que el proceso de combinar

subclases para formar clases, permite a la red LVQ crear clases más

complejas. Una capa competitiva estándar tiene la limitación de que puede

crear sólo regiones de decisión convexas; la red LVQ soluciona esta

limitación.

• La red LVQ combina aprendizaje competitivo con aprendizaje supervisado,

razón por lo cual necesita un set de entrenamiento que describa el

comportamiento propio de la red:

• Para ilustrar el desempeño de la red LVQ, se considerará la clasificación

de un vector particular de tres elementos dentro de otro de cuatro clases,

de esta forma:

• El resultado será que cada neurona se moverá hacia los vectores que

cayeron dentro de la clase, para la cual ellos forman una subclase y lejos

de los vectores que cayeron en otras clases.

• Se ilustrará el funcionamiento de la red LVQ, buscando que clasifique

correctamente los siguientes patrones, cuyas clases se han definido

arbitrariamente:

• Los vectores esperados asociados a cada una de las entradas son:

• La posición inicial de los patrones de entrada es la siguiente:

• Si se escogen dos subclases para cada una de las dos clases existentes,

tendremos entonces cuatro subclases, lo que determina que deben haber

cuatro neuronas en la capa oculta. La matriz de pesos para la capa de

salida es:

Bibliografía

Neural Network Design. [Martin T. Hagan, Howard B,

Demuth, Mark Beale – PWS Publishing Company].