UNIDAD I UNIDAD I

REDES DE REDES DE APRENDIZAJE NO APRENDIZAJE NO

SUPERVISADOSUPERVISADOINTRODUCCIÓN INTRODUCCIÓN

Aprendizaje en Aprendizaje en Redes NeuronalesRedes Neuronales

El aprendizaje es esencial para El aprendizaje es esencial para la mayoría de las arquitecturas la mayoría de las arquitecturas de redes neuronales; por lo de redes neuronales; por lo que la elección de un que la elección de un algoritmo de aprendizaje es un algoritmo de aprendizaje es un punto central en el desarrollo punto central en el desarrollo de una red.de una red.

Aprendizaje Aprendizaje

El aprendizaje implica que El aprendizaje implica que una unidad de procesamiento una unidad de procesamiento es capaz de cambiar su es capaz de cambiar su comportamiento comportamiento entrada/salida como resultado entrada/salida como resultado de los cambios en el medio. de los cambios en el medio.

AprendizajeAprendizaje

El aprendizaje puede ser:El aprendizaje puede ser: SupervisadoSupervisado, se provee una , se provee una

respuesta correcta durante su respuesta correcta durante su entrenamiento.entrenamiento.

No supervisadoNo supervisado, el objetivo a , el objetivo a alcanzar no esta presente.alcanzar no esta presente.

Reglas de AprendizajeReglas de Aprendizaje Supervisado Supervisado

Regla del Perceptron.Regla del Perceptron. Aprendizaje Supervisado Aprendizaje Supervisado

Hebbiano.Hebbiano. Aprendizaje de Widrow-Hoff.Aprendizaje de Widrow-Hoff. Algoritmo de Algoritmo de

Retropropagación.Retropropagación.

Aprendizaje Auto Aprendizaje Auto supervisadosupervisado

Las redes con aprendizaje no Las redes con aprendizaje no supervisado (auto supervisado) no supervisado (auto supervisado) no requieren influencia externa para requieren influencia externa para ajustar los pesos de las conexiones ajustar los pesos de las conexiones entre sus neuronas. entre sus neuronas.

La red no recibe ninguna información La red no recibe ninguna información por parte del entorno que le indique si por parte del entorno que le indique si la salida generada ela salida generada enn respuesta a una respuesta a una determinada entrada es o no correcta; determinada entrada es o no correcta; por ello suele decirse que estas redes por ello suele decirse que estas redes son capaces de son capaces de auto organizarseauto organizarse

Redes con aprendizaje Redes con aprendizaje No supervisadoNo supervisado

En este tipo de redes la salida En este tipo de redes la salida representa el grado de representa el grado de familiaridad o similitud entre la familiaridad o similitud entre la información que se le información que se le estáestá presentando a la entrada y las presentando a la entrada y las informaciones que se le han informaciones que se le han mostrado hasta entonces.mostrado hasta entonces.

Aprendizaje No Aprendizaje No SupervisadoSupervisado

Está constituido por un Está constituido por un conjunto de reglas que dan a conjunto de reglas que dan a la red la habilidad de la red la habilidad de aprender asociaciones entre aprender asociaciones entre los patrones que ocurren en los patrones que ocurren en conjunto, conjunto, (frecuentemente)(frecuentemente). .

Aprendizaje no Aprendizaje no SupervisadoSupervisado

Una vez que los patrones se Una vez que los patrones se han aprendido como han aprendido como asociación asociación le permite a las le permite a las redes realizar tareas útiles redes realizar tareas útiles de reconocimiento de de reconocimiento de patrones y la habilidad de patrones y la habilidad de recordar.recordar.

1.1 REGLAS DE 1.1 REGLAS DE APRENDIZAJE NO APRENDIZAJE NO

SUPERVISADOSUPERVISADO

Regla de aprendizaje Hebbiana.

Regla de aprendizaje competitivo.

Regla de aprendizaje Hebbiana diferencial.

Regla de aprendizaje competitiva diferencial.

Introducción a Introducción a aprendizaje aprendizaje asociativo.asociativo.

INTRODUCCIÓNINTRODUCCIÓN

¿Qué es una ¿Qué es una Asociación? Asociación?

Es cualquier relación entre Es cualquier relación entre la entrada de un sistema y la entrada de un sistema y su salida de tal forma que su salida de tal forma que cuando el patrón cuando el patrón AA se se presenta al sistema éste presenta al sistema éste responde con un patrón responde con un patrón BB..

Estimulo / Respuesta Estimulo / Respuesta

Cuando dos patrones son Cuando dos patrones son relacionados por una relacionados por una asociaciónasociación, al patrón de , al patrón de entrada se le conoce como entrada se le conoce como estímuloestímulo y al patrón de salida y al patrón de salida se le refiere como se le refiere como respuestarespuesta..

InvestigadoresInvestigadoresAprendizaje Asociativo Aprendizaje Asociativo

Teuvo KohonenTeuvo Kohonen (red asociativa lineal)

James Anderson James Anderson (red asociativa lineal)

Stephen GrossbergStephen Grossberg (red asociativa no lineal continua)

D.O HebbD.O Hebb

Aprendizaje Aprendizaje AsociativoAsociativo

Iván PavlovIván Pavlov

ExperimentoExperimento CondicionamientoCondicionamiento

– comidacomida– Salivación a la Salivación a la

comida.comida.

– campanacampana– Salivación al oír la Salivación al oír la

campanacampana

Aprendizaje Aprendizaje AsociativoAsociativo

Condicionamiento Condicionamiento PositivoPositivo– reforzamientoreforzamiento

Condicionamiento Condicionamiento NegativoNegativo– NocivoNocivo

1.1.11.1.1 REGLA DE REGLA DE APRENDIZAJEAPRENDIZAJE

HEBBIANO NO HEBBIANO NO SUPERVISADOSUPERVISADO

INTRODUCCIÓNINTRODUCCIÓN

Aprendizaje HebbianoAprendizaje Hebbiano

Donald O. Hebb Donald O. Hebb (1904-1985).(1904-1985).

Padre de Padre de Psicobiologia Psicobiologia Cognoscitiva.Cognoscitiva.

The Organization The Organization of Behaviour of Behaviour (1942).(1942).

En 1949, su En 1949, su postulado.postulado.

Postulado de HebbPostulado de Hebb

Cuando un axón de una celda A esta suficientemente cerca como para conseguir excitar una celda B y repetida o persistentemente toma parte en su activación, algún proceso de crecimiento tiene lugar en una o ambas celdas, de tal forma que la eficiencia de A, cuando la celda a activar es B, aumenta.

Aprendizaje HebbianoAprendizaje Hebbiano

El aprendizaje Hebbiano El aprendizaje Hebbiano consiste básicamente en el consiste básicamente en el ajuste de los pesos de las ajuste de los pesos de las conexiones, de acuerdo con conexiones, de acuerdo con la correlación de los valores la correlación de los valores de activación (salidas) de las de activación (salidas) de las dos neuronas conectadas.dos neuronas conectadas.

Los Pensamientos 1Los Pensamientos 1

Los pensamientos son Los pensamientos son disparados a menudo por disparados a menudo por estimulación externa.estimulación externa.

El mismo pensamiento es El mismo pensamiento es estimulado por un infinito estimulado por un infinito número de estímulos.número de estímulos.

Los Pensamientos 2Los Pensamientos 2

Los pensamientos permanecen Los pensamientos permanecen aun después de que la aun después de que la estimulación se ha ido.estimulación se ha ido.

Los pensamientos no siempre Los pensamientos no siempre son estimulados por agentes son estimulados por agentes externos.externos.

Células agrupadas:Células agrupadas:Circuitos ReverberantesCircuitos Reverberantes

Un concepto no se almacena en Un concepto no se almacena en una sola célula; este se almacena una sola célula; este se almacena en un conjunto de celdas.en un conjunto de celdas.

Una celda no puede estar activa Una celda no puede estar activa durante mucho, pero un conjunto durante mucho, pero un conjunto de ellas sí.de ellas sí.

Al circuito reverberante se le Al circuito reverberante se le llama llama células agrupadas (CA).células agrupadas (CA).

ActivaciónActivación

Los pensamientos Los pensamientos son activados por son activados por estimulación estimulación externaexterna

si existe suficiente si existe suficiente estímulo se piensa estímulo se piensa en un concepto.en un concepto.

El pensamiento es El pensamiento es activado por un activado por un número infinito de número infinito de estímulos.estímulos.

EstímuloEstímulo

RespuestaRespuesta

SnoopySnoopy

Curva de SnoopyCurva de Snoopy

Los pensamientos Los pensamientos permanecen aun permanecen aun cuando el estímulo cuando el estímulo haya desaparecido.haya desaparecido.

La activación La activación remanente es baja.remanente es baja.

La activación decae La activación decae gradualmente.gradualmente.

Algoritmo HebbianoAlgoritmo Hebbiano

Este algoritmo de tipo no supervisado Este algoritmo de tipo no supervisado pretende medir la familiaridad o pretende medir la familiaridad o extraer las características de los extraer las características de los datos de entrada.datos de entrada.

Este tipo de aprendizaje se basa en el Este tipo de aprendizaje se basa en el siguiente postulado formulado por siguiente postulado formulado por Donald O. Hebb en 1949:Donald O. Hebb en 1949:

Postulado de HebbPostulado de Hebb

““Cuando un axón de una Cuando un axón de una celdacelda A A esta suficientemente cerca como esta suficientemente cerca como para conseguir excitar una celda B para conseguir excitar una celda B y repetida o persistentemente toma y repetida o persistentemente toma parte en su activación, algún parte en su activación, algún proceso de crecimiento o cambio proceso de crecimiento o cambio metabólico tiene lugar en una o metabólico tiene lugar en una o ambas celdas, de tal forma que la ambas celdas, de tal forma que la eficienciaeficiencia de A, cuando la celda a de A, cuando la celda a activar es B, aumenta”.activar es B, aumenta”.

Cuando un Cuando un peso peso contribuye en contribuye en la activación la activación de una de una neurona, el neurona, el peso se peso se incrementa. Y incrementa. Y si contribuye a si contribuye a la inhibición la inhibición éste se éste se decrementa.decrementa.

Postulado de HebbPostulado de Hebb

Celda y EficienciaCelda y Eficiencia

Por Por celdacelda, Hebb entiende un , Hebb entiende un conjunto de neuronas conjunto de neuronas fuertemente conectadas a fuertemente conectadas a través de una través de una estructuraestructura compleja. compleja.

Y por Y por eficiencia, eficiencia, la la intensidad o la magnitud de la intensidad o la magnitud de la conexión; es decir el conexión; es decir el pesopeso..

Aprendizaje HebbianoAprendizaje Hebbiano

El aprendizaje Hebbiano consiste El aprendizaje Hebbiano consiste básicamente en el ajuste de los pesos básicamente en el ajuste de los pesos de las conexiones, de acuerdo con la de las conexiones, de acuerdo con la correlación de los valores de activación correlación de los valores de activación (salidas) de las dos neuronas (salidas) de las dos neuronas conectadas:conectadas:

j

i i

neurona la de salida

neurona la de salida

rate learning

j

jiji

x

y

xyw

.

Topología de la RedTopología de la Red

yi xj

i j

Wji

Si las dos unidades son activas (positivas), se produce un reforzamiento de la conexión.

Por el contrario, cuando una es

activa y la otra pasiva (negativa), se produce un debilitamiento de la conexión.

La modificación de los pesos se realiza en

función de los estados (salidas) de las neuronas obtenidas tras la presentación de cierto estímulo (información de entrada a la red), sin tener en cuenta si se deseaba obtener o no esos estados de activación.

NOTA 1:NOTA 1:

Hebb sugirió que la fuerza de la Hebb sugirió que la fuerza de la sinapsis en el cerebro cambia sinapsis en el cerebro cambia proporcionalmente a la correlación proporcionalmente a la correlación entre el disparo de las neuronas pre y entre el disparo de las neuronas pre y post sinápticas.post sinápticas.

Muchas reglas de aprendizaje de RNA Muchas reglas de aprendizaje de RNA reflejan con frecuencia el principio de la reflejan con frecuencia el principio de la regla Hebbiana.regla Hebbiana.

NOTA 2:NOTA 2:

La regla de aprendizaje de Hebb es La regla de aprendizaje de Hebb es NO Supervisada y se utiliza en redes NO Supervisada y se utiliza en redes neuronales feedforward debido a que neuronales feedforward debido a que solo se emplea el producto de las solo se emplea el producto de las entradas y las salidas actuales para entradas y las salidas actuales para la modificación de los pesos.la modificación de los pesos.

Ninguna salida deseada se Ninguna salida deseada se proporciona para generar la señal de proporciona para generar la señal de aprendizaje que actualizará los aprendizaje que actualizará los pesos.pesos.

NOTA 3:NOTA 3:

La regla de aprendizaje de La regla de aprendizaje de Hebb requiere de la Hebb requiere de la inicialización de los pesos en inicialización de los pesos en valores pequeños y aleatorios valores pequeños y aleatorios cercanos a cero antes de cercanos a cero antes de realizar el aprendizaje.realizar el aprendizaje.

APLICACIONESAPLICACIONES

En el diseño de circuitos En el diseño de circuitos integrados VLSI. Por su fácil integrados VLSI. Por su fácil implementación.implementación.

En el reconocimiento de voz.En el reconocimiento de voz. En el reconocimiento de imágenes.En el reconocimiento de imágenes. En el control de motores.En el control de motores.

Resolución de problemas de Resolución de problemas de optimización.optimización.

Resolución de ecuaciones.Resolución de ecuaciones. Manipulación de grafos.Manipulación de grafos. Procesamiento de señales (diseño de Procesamiento de señales (diseño de

convertidores analógico-digitales).convertidores analógico-digitales). Procesamiento de imágenes.Procesamiento de imágenes. Reconocimiento de patrones.Reconocimiento de patrones.

APLICACIONESAPLICACIONES

Wake up!Wake up!

Introducción a aprendizaje Introducción a aprendizaje asociativo.asociativo.

1.1.1 Regla de aprendizaje 1.1.1 Regla de aprendizaje Hebbiano no supervisada.Hebbiano no supervisada.

1.1.2 Regla Instar.1.1.2 Regla Instar.