Redes Neuronales Artificiales
Red
es N
euro
nale
s A
rtifi
cial
es
Red
es N
euro
nale
s A
rtifi
cial
es
33
Perspectiva histórica
1940s: Hebb, McCulloch and PittsMecanismo de aprendizaje en neuronas biológicas. Redes deelementos “neuronales” pueden hacer cómputo aritmético.1950s: Rosenblatt, Widrow and HoffPrimeras redes artificiales (RNA) prácticas y reglasde aprendizaje.1960s: Minsky and Papert.Demostraron limitaciones de las RNA, no sedesarrollaron nuevos algoritmos de aprendizaje.Investigaciones en el campo se suspenden.1970s: Amari, Anderson, Fukushima, Kohonen,Grossberg, ... Trabajan en el tema pero a pasos maslentos.
Red
es N
euro
nale
s A
rtifi
cial
es
44
1890 William James: Psicólogo. Modelo para explicarcomo el cerebro realiza asociaciones.Otros científicos al inicio del siglo XX se distinguieronpor sus estudios sobre el cerebro:
Ramón y Cajal.Charles Sherrington.Iwan Pawlow.
Pre-1940: von Hemholtz, Mach, Pavlov, …Teorías generales sobre el aprendizaje, visión ycondicionamiento sin modelos matemáticosespecíficos sobre la operación neuronal.
Red
es N
euro
nale
s A
rtifi
cial
es
55
1950 Karl Lashley: In search of engram1954 Minsky Neural Nets and the Brain ModelProblem. PhD thesis, Princeton University.
1949 Donald Hebb: The organization of behavior.
La primera simulación por ordenador fue desarrolladaen la década del 50. 1956 Dartmouth Conference.Uno de los principales resultados de esta conferencia fue quela simple regla de aprendizaje desarrollada por Hebb,deducida de los efectos observados en el cuerpo humano, noera aplicable a muchos problemas prácticos.
Red
es N
euro
nale
s A
rtifi
cial
es
66
1958 Frank Rosenblatt: Modelo del Perceptron1962 Rosenblatt. Principles of Neurodynamics:Perceptrons and the Theory of Brain Mechanisms.Washington, DC: Spartan Books.
Red
es N
euro
nale
s A
rtifi
cial
es
77
Historia de RNA
1980s: Grossberg, Hopfield, Kohonen, Rumelhart,…Desarrollos importantes causan un resurgimiento deestudios en el campo.
Red
es N
euro
nale
s A
rtifi
cial
es
88
S. Ramón y Cajal y los orígenes de la unidad nerviosa: Neurona
Catedrático en Valencia
Catedrático en Madrid
1906 Premio Nobel de Medicina
Historia de RNA
Red
es N
euro
nale
s A
rtifi
cial
es
99
Algunos resultados de Cajal
“Doble via visual de la retinade los mamíferos”
“Fases evolutivas de célula psíquicaen el embrión de los mamíferos”
Historia de RNA
Red
es N
euro
nale
s A
rtifi
cial
es
1010
Tipos de neuronas a nivel anatómico (Mira & Delgado, 1995)
Historia de RNA
Red
es N
euro
nale
s A
rtifi
cial
es
1111
1943 artículo sobre elcerebro por Warren S.McCulloch y WalterPitts:
A logical calculus ofthe ideas immanent innervous activity.Primer modelo
Historia de RNA
Red
es N
euro
nale
s A
rtifi
cial
es
1212
Historia de RNA
1969 Marvin Minsky/Seymour Papert:Crítica al Perceptron. “Perceptrons: An Essay inComputational Geometry”. MIT Press, Cambridge,MA.Esto podría decirse fue el fin de las redesneuronales. Minsky y Papert probaronmatemáticamente que el Perceptrón no era capaz deresolver problemas relativamente fáciles (comoaprender la función XOR). Concluyeron que, engeneral, los descubrimientos en redes neuronales nomerecían la pena.
Red
es N
euro
nale
s A
rtifi
cial
es
1313
Historia de RNA
Red
es N
euro
nale
s A
rtifi
cial
es
1414
1974 Paul Werbos. Desarrolló la idea básica delalgoritmo de retropropagación.1977 Stephen GrossbergAdaptative Resonance Theory (ART)ART es una ‘arquitectura’ de red que difiere de todolo anteriormente inventado. Simula otra habilidad delcerebro: la memoria a largo y a corto plazo.
Historia de RNA
1981 Mapas Auto-Organizativos de Kohonen.1982 Redes de Hopfield, que implementan el modelode memoria asociativa
Red
es N
euro
nale
s A
rtifi
cial
es
1515
1985 John Hopfield. Publicó el libro Neuralcomputation of decisión in optimization problemsque dió renacimiento de las redes neuronales.1986 Rumelhart, McClelland & Hinton crean elgrupo PDP. Este grupo de trabajo solucionó losproblemas propuestos por Minsky y Papert, graciasal algoritmo de retropropagación.
Red
es N
euro
nale
s A
rtifi
cial
es
1616
Red
es N
euro
nale
s A
rtifi
cial
es
1717
Red
es N
euro
nale
s A
rtifi
cial
es
1818
Ley de Hebb
Idea principal sobre la cual se basa esta ley:“Cuando un axón de la célula A estásuficientemente próximo para excitar a una célula Bo toma parte en su disparo de forma persistente,tiene lugar algún proceso de crecimiento o algúncambio metabólico en una de las células, o en lasdos, de tal modo que la eficiencia de A, como una delas células que desencadena el disparo de B, se veinvrementada.”
Red
es N
euro
nale
s A
rtifi
cial
es
1919
Ley de Hebb
Como puede observarse el proceso se basa en laidea del refuerzo de las conexiones (o sinapsis enel modelo biológico) más usadas, favoreciendo laexcitación de los circuitos neuronales másprobables.Sería un proceso de aprendizaje no supervisado,que refuerza las conexiones más utilizadas.
Red
es N
euro
nale
s A
rtifi
cial
es
2020
Implementación:Dada una conexión entre dos neuronas i y j, elpeso wij de la conexión entre esas neuronas:
– Se verá incrementado siempre que ambas neuronasestén activas al mismo tiempo.
– Se verá decrementado siempre que ambas neuronastengan estados contrarios.
– No se cambiará cuando ambas neuronas estén inactivas.
Ley de Hebb
Red
es N
euro
nale
s A
rtifi
cial
es
2121
RNA - Funcionamiento
Σ
ENTRADAS
SALIDA
CONEXIONES FUNCIONDE RED
FUNCION DEACTIVACION
ENTRADASPONDERADAS
W1
W2
W3
X1
X2
X3
net(.) act(.)
Red
es N
euro
nale
s A
rtifi
cial
es
2222
RNA - Comparación
COMPARACIÓN CON LAS REDES NEURALES BIOLÓGICASRedes Neuronales
BiológicasRedes Neuronales
ArtificialesNeuronas Unidades de procesoConexiones sinápticas Conexiones ponderadasEfectividad de las sinápsis Peso de las conexionesEfecto excitatorio o inhibitorio deuna conexión
Signo del peso de unaconexión
Efecto combinado de las sinápsis Función de propagación ode red
Activación -> tasa de disparo Función de activación ->Salida
Red
es N
euro
nale
s A
rtifi
cial
es
2323
RNA - Características
– APRENDIZAJE INDUCTIVO.– GENERALIZACIÓN.– ABSTRACCIÓN O TOLERANCIA AL
RUIDO.– PROCESAMIENTO PARALELO.– MEMORIA DISTRIBUIDA.
Red
es N
euro
nale
s A
rtifi
cial
es
2424
RNA - Modo de operación
– FASE DE APRENDIZAJE.APRENDIZAJE SUPERVISADO.APRENDIZAJE NO SUPERVISADO.APRENDIZAJE REFORZADO.
– FASE DE APLICACIÓN.
– FASE DE TEST (OPCIONAL).
Red
es N
euro
nale
s A
rtifi
cial
es
2525
RNA - Modo de operación Aprendizaje Supervisado
1. Aleatorizar los pesos de todas las conexiones.
2. Seleccionar un patrón de entrenamiento
3. Calcular salida.
4. Calcular la discrepancia en la salida.
5. Aplicar la regla de aprendizaje.
6. Volver al paso 2.
Red
es N
euro
nale
s A
rtifi
cial
es
2626
Requiere propagar información (el error)hacia atrás.
Requiere un instructor que proporcione lasalida.
No requiere presentar la salida en lospatrones.
RNA - MODO DE OPERACIÓNAprendizaje No Supervisado
Red
es N
euro
nale
s A
rtifi
cial
es
2727
RNA - TIPOS
ASOCIADORESDE
PATRONES
MAPAS DEAUTO-
ORGANIZACIÓN
MODELOS DESATISFACCIÓN DE
DEMANDA
OTRAS REDESASOCIATIVAS DE
PESOS FIJOS
Perceptrones
Redes deretropropaga
ción
Redes deKohonen
ArquitecturasART
Redes de Hopfield
Máquinas deBoltzmann
Memoriasproasociativas
Redes de Hamming
Red
es N
euro
nale
s A
rtifi
cial
es
2828
¿Utilizar RNA?
Cuándo utilizar una RNA– En tareas en las que un ser humano se
desenvuelve bien.
Cuándo no utilizarla– Solución algorítmica es eficiente– No se dispone de suficientes patrones-ejemplos
Red
es N
euro
nale
s A
rtifi
cial
es
2929
Ejemplos– Conversión de texto escrito a lenguaje hablado.– Compresión de imágenes.– Reconocimiento de escritura manual (japonesa)– Visión artificial en robots industriales
(inspección de etiquetas,clasificación decomponentes)
Problemas que resuelven
Red
es N
euro
nale
s A
rtifi
cial
es
3030
Modelo de neurona binaria propuesto porMcCulloch y Pitts en 1943.
Calcula la suma ponderada de sus entradas desdeotras unidades, y da como salida un uno (1) o uncero (0) dependiendo de si ésta se encuentra porencima o por debajo de un valor denominadoumbral.
Modelo McCULLOCH-PITTS
Red
es N
euro
nale
s A
rtifi
cial
es
3131
n
=1
ij
ij j in = f( w n (t)-u )∑
Modelo McCULLOCH-PITTS
Las ecuaciones que gobiernan el funcionamiento dedicho modelo de neurona son las siguientes:
Red
es N
euro
nale
s A
rtifi
cial
es
3232
n1
n2
nj
i
wi1
wi2
wij
Fn
iΣ
Modelo McCULLOCH-PITTS
Red
es N
euro
nale
s A
rtifi
cial
es
3333
Umbral
u
f(x)= 1 si x >= u 0 si x<u
Modelo McCULLOCH-PITTS
Función de activación
Red
es N
euro
nale
s A
rtifi
cial
es
3434
Ejemplo:
Σ
0.5
0.2
0.2
0.1
-0.2
0.1
0.031
0
Modelo McCULLOCH-PITTS
Red
es N
euro
nale
s A
rtifi
cial
es
3535
Función de activación
Función umbral Función lineal a trozos
Función sigmoide Función Gaussiana
Red
es N
euro
nale
s A
rtifi
cial
es
3636
11
-1-1
Función tangencial
Función de activación
Red
es N
euro
nale
s A
rtifi
cial
es
3737
En RNA
Las señales que llegan a la sinapsis son las entradasa la neurona; éstas son ponderadas (atenuadas oamplificadas) a través de un parámetro,denominado peso, asociado a la sinapsiscorrespondiente.Las señales de entrada pueden excitar o inhibir a laneurona (sinapsis con peso positivo o negativo).Si la suma es igual o mayor que el umbral de laneurona, entonces la neurona se activa (da salida).
Red
es N
euro
nale
s A
rtifi
cial
es
3838
Las sinapsis son susceptibles a la fatiga,deficiencia de oxígeno y otros agentesexternos.La habilidad de ajustar señales es unmecanismo de aprendizaje.El umbral integra la energía de las señalesde entrada en el espacio y en el tiempo.
En RNA
Red
es N
euro
nale
s A
rtifi
cial
es
3939
Las redes neuronales, inspiradas en elfuncionamiento del sistema nervioso, sonarreglos de procesadores elementalesinterconectados entre sí.Cada uno de estos procesadores oneuronas suma las entradas ponderadas ysu resultado pasa a través de una funciónno lineal conocida como función deactivación.
En RNA
Red
es N
euro
nale
s A
rtifi
cial
es
4040
El conocimiento en una red neuronal estádistribuido a lo largo de todo el sistema,debido a esto, se utilizan muchasinterconexiones para obtener la solución deun problema en particular.
En RNA
Red
es N
euro
nale
s A
rtifi
cial
es
4141
Una red neuronal esta compuesta por un grannúmero de elementos de procesamiento simplesllamados neuronas o nodos.Cada nodo esta conectado a otros nodos porvarios enlaces de comunicación directa, cada unoasociado a un peso.Los pesos representan la información utilizadapor la red para resolver un problema.
En RNA
Red
es N
euro
nale
s A
rtifi
cial
es
4242
Los nodos no tienen una relación biunívocacon las neuronas biológicas reales.Sin embargo, como una neurona biológica,el elemento de procesamiento tiene variasentradas y una sola salida que se aplica amuchos otros nodos.
En RNA
Red
es N
euro
nale
s A
rtifi
cial
es
4343
Entre las entradas que recibe el j-ésimonodo se encuentra la procedente del i-ésimonodo (xi). La salida del j-ésimo nodo sedenota xj.En la analogía la salida corresponde con lafrecuencia de disparo.
En RNA
Red
es N
euro
nale
s A
rtifi
cial
es
4444
Esquema general
Cada conexión con el j-ésimo nodo tiene asociadaa él una magnitud, peso o intensidad de conexión.El peso de la conexión que procede del i-ésimonodo y llega al j-ésimo nodo se denota como wij.Estos pesos en analogía con la neurona biológicacorresponden a la intensidad de las conexionessinápticas entre neuronas (excitadora oinhibitoria).
Red
es N
euro
nale
s A
rtifi
cial
es
4545
Red
es N
euro
nale
s A
rtifi
cial
es
4646
Cada elemento de procesamiento obtiene unvalor de entrada neto basándose en todas lasconexiones de entrada. La forma típica escalcular el valor de entrada neto sumando losvalores de entrada, ponderados (multiplicados)con sus pesos correspondientes. La entrada netadel j-ésimo nodo se escribenetj = åi xi wij
donde el índice i recorre todas las conexionesque posea el j-ésimo nodo.
Red
es N
euro
nale
s A
rtifi
cial
es
4747
Cada neurona tiene un estado interno llamadoactivación, la cual es una función de las entradasrecibidas. Típicamente una neurona envía suactivación como una señal a otras neuronas. Esimportante hacer notar que una neurona puedeenviar solo una señal a la vez, aunque estamisma se distribuya a otras neuronas.La activación de una neurona está en función desu entrada neta. La forma mas fácil de definir laactivación de una neurona es considerar que éstaes binaria
Red
es N
euro
nale
s A
rtifi
cial
es
4848
Las neuronas de una RNA pueden organizarse enestratos o niveles, y dependiendo de la presenciade caminos de retroalimentación se puedenclasificar como recurrentes o no recurrentes.Las RNA no recurrentes y en particular lasfeedforward han sido ampliamente utilizadas enuna variedad de problemas debido a suestabilidad inherente y la simplicidad delalgoritmo de entrenamiento de retropropagacióndel error.
Red
es N
euro
nale
s A
rtifi
cial
es
4949
En las redes neuronales multinivel las neuronasde primer nivel reciben sus entradas directamentedel entorno.Las salidas de estas neuronas se conectan a lasentradas de las neuronas del segundo nivel, y asísucesivamente, hasta el último nivel, cuyas salidasson entregadas al entorno.
Red
es N
euro
nale
s A
rtifi
cial
es
5050
Todas las neuronas que componen la red sehallan en cierto estado. Puede decirse que haydos posibles estados de activación: reposo oexitado.Los valores de activación pueden ser continuos odiscretos.Al considerar una descripción binaria el estadoactivo se indicaría por 1, y caracteriza la emisiónde un impulso por parte de la neurona, mientrasque un estado pasivo se indicaría por 0, ysignificaría que la neurona está en reposo.
Red
es N
euro
nale
s A
rtifi
cial
es
5151
Generalmente se consideran modelos con unconjunto continuo de estados de activación enlugar de solo dos {0,1}.Se asigna un valor en el intervalo [0,1] o en elintervalo [-1,1].Generalmente definidos por una funciónsigmoidal.
Red
es N
euro
nale
s A
rtifi
cial
es
5252
Principales modelos
El problema principal del trabajo en redes neuronalesconcierne al problema de programar el aprendizaje: ¿cómoescoger los pesos en las conexiones para que la red realiceuna tarea específica?
Es posible encontrar problemas en que los pesos se tienen demanera apriori. Debe considerarse esta información para eldiseño de la red.
Pero estos problemas son mas bien raros ya que en lamayoría de los casos se debe "enseñar" a la red a ejecutar loscálculos por ajustes iterativos de los pesos wij.
Red
es N
euro
nale
s A
rtifi
cial
es
5353
Características de las RNA
¿Qué son capaces de hacer?– Reconocimiento de patrones– Síntesis funcional
Red
es N
euro
nale
s A
rtifi
cial
es
5454
Reconocimiento de patrones
Clasificación de información según ciertascaracterísticas.Aplicaciones típicas: Diferenciación de sonidos, Reconocimiento de escritura, Interpretación de encefalogramas, Reconocimiento de la voz Procesamiento de imágenes..............
Red
es N
euro
nale
s A
rtifi
cial
es
5555
Síntesis funcional
La aproximación de funciones, consiste enestablecer relaciones entre varias entradascontinuas y una o más salidas continuas.Ejemplos de aplicación: Estimar la demanda de un producto, Filtrar el ruido de una señal, Control de procesos,Simular comportamiento de un sistema dinámico.
Red
es N
euro
nale
s A
rtifi
cial
es
5656
Otras aplicaciones
Visión por computadorSíntesis de vozDiagnostico médicoConducción automáticaExploración petrolera
Red
es N
euro
nale
s A
rtifi
cial
es
5757
Aplicaciones
NETtalk. Pretendía entrenar una red parapronunciar texto en inglés. La entrada de la redla constituía una ventana de 7 caracteres queavanzaba a través del texto según era leído. Lasalida de la red era una serie de fonemas queenviados a un generador hacía que la máquinahablase.
Red
es N
euro
nale
s A
rtifi
cial
es
5858
Codificación y compresión de datos. Consiste enencontrar un conjunto de símbolosfuncionalmente equivalentes a uno dado, perocon una longitud media menor por símbolo. Deeste modo las RNA son capaces de representarconjuntos aparentemente grandes de informacióncon pocos elementos de representación.
Aplicaciones
Red
es N
euro
nale
s A
rtifi
cial
es
5959
Conducción de un vehículo. Se construyó una redque aceptaba la entrada de una cámara situadaen el techo de un coche y un detector dedistancias. La red debía de guiar el coche a travésde una carretera. Después de entrenar la red con1200 imágenes simulando carreteras, la red eracapaz de conducir a través de una carretera a unavelocidad de 5km/h.
Aplicaciones
Red
es N
euro
nale
s A
rtifi
cial
es
6060
Reconocimiento de caracteres. Las RNA seusan actualmente para el reconocimientoautomático de caracteres. Por ejemplo losimpresos que se rellenan a mano sonpasados por una RNA de este tipoobteniendo el conjunto de caracteres encódigo ASCII.
Aplicaciones
Red
es N
euro
nale
s A
rtifi
cial
es
6161
Reconocimiento del habla. Este es unproblema inherentemente complejo, dadalas múltiples maneras de hablar de lasdiferentes personas (acentos, dialectos,velocidad, etc.). Ha sido posible entrenar aRNA para reconocer con éxito un conjuntorelativamente reducido de palabras.
Aplicaciones
Red
es N
euro
nale
s A
rtifi
cial
es
6262
Computación convencionalvs. Neurocomputación
NeurocomputaciónEntrenamiento,aprendizajeNo se separa lamemoria y elprocesamientoParalela (discreto ocontinuo), asíncrona
Com. convencionalProgramación
Memoria yprocesamientoseparadosSecuencial o serial,síncrona
Red
es N
euro
nale
s A
rtifi
cial
es
6363
NeurocomputaciónTolerante a fallas
Auto-organización
Acepta entradas conruido o difusas
Com. convencionalNo tolerante afallosDependiente delsoftwareGarbage in -Garbage out (sientra basura, salebasura)
Red
es N
euro
nale
s A
rtifi
cial
es
6464
Estructuras
Red
es N
euro
nale
s A
rtifi
cial
es
6565
Red Neuronal Artificial
Conexiones
Neuronas
Red
es N
euro
nale
s A
rtifi
cial
es
6666
Redes multicapa
Son redes conformadas por una capa deentrada, una o varias ocultas y una desalida, sus conexiones no deben formarciclos.Pueden utilizar diferentes funciones deactivación
Red
es N
euro
nale
s A
rtifi
cial
es
6767
Neuronas de salida
Neuronas de entrada
Neuronas
ocultas
Redes multicapa
Red
es N
euro
nale
s A
rtifi
cial
es
6868
Clasificación
Según la topología:–Redes feedforward
Perceptrón simplePerceptrón multicapaRedes con funciones de base radial
–Redes recurrentes feedbackRedes competitivasRed KohonenRed HopfieldModelos ART
Red
es N
euro
nale
s A
rtifi
cial
es
6969
Neuronas de salida
Neuronas de entrada
Neuronas
ocultas
Red Feedforward
Red
es N
euro
nale
s A
rtifi
cial
es
7070
Red Recurrente
Red
es N
euro
nale
s A
rtifi
cial
es
7171
Algoritmos de aprendizaje
Alteran los pesos de la neurona después de lapresentación de un patrón.Corrección del error. Corrige el error de la salidaGradiente. Minimiza el error cuadrático mediosobre todos los patrones.
Red
es N
euro
nale
s A
rtifi
cial
es
7272
Tipos de Aprendizaje
Supervisado. El algoritmo utiliza un conjunto deejemplos que la red debe aprender. Elentrenamiento se lleva a cabo mediante un procesoiterativo de adaptación de la red neuronal demanera que sus salidas se acerquen cada vez más alas salidas deseadas especificadas en los ejemplos.
Red
es N
euro
nale
s A
rtifi
cial
es
7373
No supervisado. En el algoritmo no se especificansalidas deseadas, el algoritmo trata de encontrarde manera autónoma regularidades en los datos deentrada creando categorías que agrupen a losdatos más similares.Con refuerzo. La red aprende a través de unproceso de ensayo y error que maximiza el índicede desempeño denominado señal de error.
Red
es N
euro
nale
s A
rtifi
cial
es
7474
Clasificación
S u p e r v i s a d o C o r r e c c i ó n d ee r r o rB o l t z m a n nH e b b i a nC o m p e t i t i v o
B a c kP r o p a g a t i o nA d a l i n e yM a d a l i n e
N os u p e r v i s a d o
C o r r e c c i ó n d ee r r o rH e b b i a nC o m p e t i t i v o
A p r e n d i z a j ec o n m e m o r i aa s o c i a t i v a
H í b r i d o C o r r e c c i ó n d ee r r o r yc o m p e t i t i v o
A l g o r i t m o d ea p r e n d i z a j eR B F
Tipo de aprendizaje
Regla de aprendizaje
Algoritmos mas utilizados
Red
es N
euro
nale
s A
rtifi
cial
es
7575
Ley de Hebb
Implementación:Dada una conexión entre dos neuronas i y j, elpeso wij de la conexión entre esas neuronas:– Se verá incrementado siempre que ambas
neuronas estén activas al mismo tiempo.– Se verá decrementado siempre que ambas
neuronas tengan estados contrarios.– No se cambiará cuando ambas neuronas estén
inactivas.
Red
es N
euro
nale
s A
rtifi
cial
es
7676
Técnica del Gradiente Descendente
Calcular el valor de la función en el puntoy=f (x0)
Calcular el nuevo valor de xi como el valoranterior mas el gradiente de la función.
yi+1 = yi+∆yi
Red
es N
euro
nale
s A
rtifi
cial
es
7777
Técnica del Gradiente Descendente
El gradiente de la función se calcula como la derivada parcialde la función con respecto al punto xi.
El gradiente es igual a: dyi = -δf / δxi
La técnica de gradiente descendente es un procedimientoiterativo que busca minimizar una función moviéndose enla dirección opuesta al gradiente de dicha función.
Red
es N
euro
nale
s A
rtifi
cial
es
7878
mínimoglobal
mínimo local
Técnica del Gradiente Descendente
Red
es N
euro
nale
s A
rtifi
cial
es
7979
Tasa de Aprendizaje
Determina el tamaño del paso que utiliza elalgoritmo, para moverse en el espacio de lospesos. Un valor muy pequeño para esteparámetro puede provocar una convergenciamuy lenta, así como un valor muy alto puedeprovocar un comportamiento divergente.
Red
es N
euro
nale
s A
rtifi
cial
es
8080
Momentum
El momento, da al algoritmo una especie deinercia que le permite evadir en ciertoscasos los mínimos locales.Con este momentum se consigue laconvergencia de la red en un númeromenor de iteraciones.
Red
es N
euro
nale
s A
rtifi
cial
es
8181
Top Related