Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan...
-
Upload
neva-alcantara -
Category
Documents
-
view
230 -
download
0
Transcript of Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan...
![Page 1: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/1.jpg)
Redes Neuronales Monocapa
![Page 2: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/2.jpg)
Redes Monocapa:
l1 lnl2
Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce comoautoasociación: por ejemplo, para regenerar informaciones de entrada que se presentan a lared incompletas o distorsionadas.
P/ejemplo Hopfield, BSB, Learnig Matrix
![Page 3: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/3.jpg)
Red completamente Recurrente
![Page 4: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/4.jpg)
Red completamente Recurrente
Un conjunto de patrones es presentado simultáneamente en las unidades una a la vez. Con forme cada patrón es presentado los pesos son modificados.
Una versión degradada de uno de los patrones se presenta en la red y esta intentar reconstruir el patrón.
![Page 5: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/5.jpg)
Otra Red Recurrente
![Page 6: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/6.jpg)
La Otra Red Recurrente
Debido a que el procesamiento en redes recurrentes depende del estado de la red en el último paso que tuvo lugar para responder a la entrada actual en diferentes formas, se dependerá de las entradas antes presentadas.
Por ejemplo Simple Recurrent Network (Elman) and the Jordan Network
![Page 7: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/7.jpg)
Red Recurrente Simple
![Page 8: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/8.jpg)
Redes de una sola capa Feedforward
![Page 9: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/9.jpg)
Redes De Una Sola Capa Feedforward
Las unidades de entrada son fijadas y entonces la activación es propagada a través de la red hasta que los valores de las unidades de salida son determinadas.
La red actúa como un vector de una función valuada tomando un vector en la entrada y regresando otro vector en la salida.
Por ejemplo, las entradas pudieran representar las características de un miembro de un grupo y la salida pudiera ser la predicción de el grupo al cual pertenece dicha persona.
![Page 10: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/10.jpg)
Redes Neuronales Multicapa
![Page 11: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/11.jpg)
Introducción.
Los sistemas neurales artificiales imitan la estructura del hardware del sistema nervioso, con la intención de construir sistemas de procesamiento de información paralelos, distributivos i adaptivos, que puedan presentar un cierto comportamiento “Inteligente”.
![Page 12: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/12.jpg)
Red Multicapa.
Cuando las neuronas de una capa reciben señales de entrada de otra capa anterior, mas cercana a la red, y envían señales de salida a una capa posterior, estamos ante una red de conexiones hacia adelante o Feedforward.
![Page 13: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/13.jpg)
Uso
Son especialmente útiles en aplicación de reconocimiento o clasificación e patrones.
![Page 14: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/14.jpg)
La mayoría se las redes multicapa son Bicapa; este tipo de estructura es particularmente adecuada par realizar una asociación de la información o patrón de entrada con otra información patrón de salida en la segunda capa.
![Page 15: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/15.jpg)
Redes con conexiones hacia adelante y hacia atrás (feedforward / feedback):
En este tipo de redes circula información tanto hacia adelante como hacia atrás durante el funcionamiento de la red. Para que esto sea posible, existen conexionesfeedforward y conexiones feedback entre las neuronas.
![Page 16: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/16.jpg)
También existen algunas que tienen conexiones laterales entre neuronas de la misma capa. Estas conexiones se diseñan como excitadores (con peso positivo) o inhibidoras (con peso negativo), estableciendose una competencia entre las neuronas correspondientes.
Redes Con Conexiones Hacia Adelante Y Hacia Atrás(feedforward / Feedback)
![Page 17: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/17.jpg)
La regla de aprendizaje LMS minimiza el error cuadrático medio e2(k) generado por la salida deseada y la obtenida , el cual es definido por
donde en cada iteración tenemos un gradiente estimado de la forma:
los primeros R elementos de ∇e2(k) son derivadas con respecto a los pesos de la red, mientras que el elemento (R + 1) es la derivada con respecto a b.
Algoritmo de Widrow-Hoff.
![Page 18: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/18.jpg)
Aprendizaje mediante algoritmo de Widrow-Hoff
![Page 19: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/19.jpg)
Se aplica en entrenamientos Supervisados y, es utilizada para entrenar un simple elemento de procesado con función de transferencia lineal.
A esta regla
también se la conoce por el nombre de Regla de Widrow-Hoff, ya que, éste la utilizó en su modelo de neurona Adaline (Adaptive Linear Elemento).
x1
xn
1 f
p f
y1
yp
1
1
W10
Wp0
W11
Wp1
W1n
Wpn
f = función lineal
Estructura Madaline: Muchos Adalines
![Page 20: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/20.jpg)
Perceptron
Un pe con una función de transferencia del tipo harddlimiter y en donde las entradas las entradas son binarios o bipolares (mismo que adaline pero con esas restricciones).
La regla que rige el cambio de pesos es
![Page 21: Redes Neuronales Monocapa. Redes Monocapa: l1l1 lnln l2l2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como.](https://reader035.fdocuments.ec/reader035/viewer/2022062500/5665b4351a28abb57c90013a/html5/thumbnails/21.jpg)
Otra de las modificaciones propuestas fue sugerida por windrow and hoff ellos propusieron una regla basada en la regla delta.(es la mas utilizada).
Los pesos cambian según la formula
Tomando las entradas y salidas como bipolares tenemos que el cambio en los pesos se producen de la manera siguiente: