Computación Bio-Inspiradafgonza/courses/2008-II/BI/... · Computación Evolutiva • El complejo...

Departamento de Ing. de Sistemas e Industrial ) ( .QuickTimeï¾ª and aTIFF Uncompressed decompressorareneeded to see thispicture

Computación Bio-Inspirada

Ing. Fabio A. González PhDDepto. de Ing. de Sistemas e Industrial

Universidad Nacional de Colombia


Algunas restricciones de la computación actual:

• Frágil• Garbage In --> Garbage Out• No adaptable• No aprende• El software no explota la distribución y

paralelismo del hardware• Comunicación hombre-máquina no es natural• La naturaleza ha resuelto estos y otros problemas

de manera satisfactoria durante millones de años!


Computación Bioinspirada

• Desarrollo de sistemas artificiales inspirados por conceptos, principios y mecanismos propios de sistemas naturales.

• Otros nombres:– Computación natural– Computación flexible– Inteligencia computacional


El proceso de la computación bioinspirada

SistemaNatural

Otrasideas, teorías, etc.

ModeloAbstracto

SistemaArtificial


El proceso de la computación bioinspirada

SistemaNatural

Otrasideas, teorías, etc.

ModeloAbstracto

SistemaArtificial

Los aviones no aletean las alas!


Inteligencia Artificial Clásica

• Inteligencia == manipulación de símbolos• Lógica, algoritmos de búsqueda, sistemas

basados en reglas• Apogeo durante 70’s y 80’s

– Sistemas expertos – Proyecto 5 generación

• Desencanto, promesas no cumplidas• Cuál es el problema?


Computación en la naturaleza

• Pasos lentos, pero extremadamente paralelos

• Alto porcentaje de errores, pero gran tolerancia a fallos

• Memoria imperfecta, pero fuerte habilidad para aprender y adaptarse


Principales áreas de investigación

• Neuro-computación• Computación evolutiva• Inteligencia colectiva (de enjambre)• Sistemas inmunológicos artificiales• Vida artificial• Computación molecular


Neuro-computación

• Las Redes Neuronales Artificiales son un modelo abstracto del sistema nervioso que exhibe características propias de su contraparte natural.


Características de los sistemas neurales

• Altamente distribuidos y paralelos• Computación rápida y fiable a partir de

elementos lentos y no fiables• Tolerante al ruido• Tolerante a fallos• Aprenden• Apropiados para reconocimiento de

patrones y síntesis funcional


Bases Biológicas

• Se estima que el cerebro humano contiene más de 1011 neuronas y 1014 sinapsis

• La mayor parte de las neuronas poseen una estructura de árbol llamadas dendritas que reciben las señales de entrada que vienen de otras neuronas a través de la uniones llamadas sinapsis


Neurona Biológica• Tres partes principales de

una neurona: – el cuerpo de la neurona, – ramas de extensión

llamadas dendritas para recibir las entradas, y

– un axón que lleva la salida de la neurona a las dendritas de otras neuronas


Neurona Artificial (1)

• Wi,j: peso (fortaleza) de la conexión (sinapsis)

θi: umbral• u(.) : Función de

adición• f(.) : función de

activación


Neurona Artificial (2)

u i W , X =∑j=1

n

wij x j

f u i ={1 si u iqi

0 si u i≤qi


Red Neuronal Artificial• Es un sistema compuesto

de múltiple unidades procesadoras (neuronas) operando en paralelo, cuya función está determinada por la estructura de la red, el peso de las conexiones y el proceso desempeñado por cada neurona.


Entrenamiento

• Las redes neuronales no se programan, aprenden a partir de ejemplos

• El algoritmo de entrenamiento modifica los diversos parámetros de la red (estructura, pesos, etc.) basado en un conjunto de patrones.

• Tipos de aprendizaje:– Supervisado– No supervisado


Historia breve• McCulloch-Pitts, 1943: primer modelo de neurona• Hebb, 1949: regla de aprendizaje de Hebb• Rosenblatt, 1958: perceptron• Minsky-Papert, 1969: críticas a los perceptrones• Kohonen, Hopfield, Feldman, 1982: nuevos modelos de

redes neuronales• McClelland-Rumelhart, 1986: algoritmo de

retropropagación


Aplicaciones• Predicción• Control• Robótica• Reconocimiento de patrones:

– Visión artificial– Reconocimiento del habla– OCR

• Síntesis del habla• Detección de fraudes• Minería de datos• Procesamiento de señales• Optimización


Computación Evolutiva

• El complejo repertorio de características exhibidas por los sistemas naturales es fruto de un proceso evolutivo que se ha desarrollado durante años.

• La computación evolutiva usa dicho proceso como inspiración para resolver problemas de optimización y búsqueda.


Historia Breve (1)Teoría de la evoluciónTeoría de la evolución: Charles Darwin. Sobre el orígen de las

especies por medio de la selección natural. Pequeños cambios heredables en los seres vivos y la selección

son los dos hechos que provocan el cambio en la naturaleza y la generación de nuevas especies.

Darwin pensaba que los rasgos de un ser vivo eran como fluidos y los “fluidos” de los padres se mezclaban en la descendencia.


Historia Breve (2)

Gregor Mendel Gregor Mendel Los caracteres se heredan de forma discreta, y se toman del padre o de la madre, dependiendo de su carácter dominante o recesivo. Los caracteres (genes) pueden tomar diferentes valores (alelos)


Historia Breve (3)Walther Flemming (1930)Walther Flemming (1930)Descubrió los cromosomas, como ciertos filamentos en los que se agregaba la cromatina del núcleo celular durante la división; poco más adelante se descubrió que cada célula tiene un número fijo y característico de cromosomas.

Watson y Crick (1950)Watson y Crick (1950)Descubrieron que la base molecular de los genes está en el ADN, los cromosomas están compuestos de ADN, por lo tanto los genes están en los cromosomas.


Lenguaje de la Vida• Los organismos vivos consisten de células. En cada célula

existe el mismo conjunto de cromosomas• Cromosomas: cadenas de ADN, modelo del organismo

completo• Un cromosoma consiste de genes (bloques de ADN)• Cada gen codifica una proteína particular (rasgo, p.e.,

color de ojos)• Alelos: Los posibles valores para un rasgo (p.e., azul, café)• Genoma: conjunto completo de material genético (todos

los cromosomas).• Genotipo: conjunto particular de genes en un genoma.• Fenotipo: el genotipo es la base para el fenotipo del

organismo, posterior desarrollo después del nacimiento.


Genotipo y Fenotipo


Evolución Natural

• Resultado de la acción de dos tendencias opuestas actuando sobre una población de una especie:– Selección Natural: propensión a adaptarse a un

ambiente dado a través de la preservación del más apto (“supervivencia del más fuerte”); y

– Variación Genética: propensión a producir variación para cumplir con los requerimientos del ambiente (“recombinación sexual + mutación”).


cadenas

(cromosomas)

solución

del

problema

valor

de la

solucióncodificación

decodificación

decodificación

Genotipo Fenotipo

ambiente

función

objetivo

Adaptabilidad

Adaptabilidad en la naturaleza y en la Computación Evolutiva


Terminar

Inicializar

población

Crear descendientes a través de variación aleatoria

Evaluar la adaptabilidad de cada solución candidata

Aplicar selección

NO

SI

Algoritmo Genético


cruce de un solo punto

Operadores de CruceOperadores de Cruce

cruce de dos puntos

+ padre 2

hijo 1 padre 1

hijo 2


Operadores de MutaciónOperadores de Mutación

mutación de varios puntos

mutación global

mutación de un punto


Tipos de Algoritmos Evolutivos

• Algoritmos Genéticos – optimización de problemas combinatorios

• Estrategias Evolutivas – optimización de funciones continuas

• Programación Evolutiva– Máquinas de estado finito

• Programación Genética– problemas que requieren encontrar la solución a un

problema dado en la forma de una función o programa


Ventajas• Simplicidad Conceptual.• Amplia aplicabilidad.• Superiores a las técnicas tradicionales en muchos

problemas del mundo real.• Tienen el potencial para incorporar conocimiento sobre el

dominio y para hibridizarse con otras técnicas de búsqueda/optimización.

• Pueden explotar fácilmente las arquitecturas en paralelo.• Son robustas a los cambios dinámicos.• Generalmente pueden auto-adaptar sus parámetros.• Capaces de resolver problemas para los cuales no se

conoce solución alguna.


Aplicaciones de AEs ...• Programación (Scheduling) y Planeación• Diseño VLSI• Diseño en Ingeniería• Predicción Financiera• Minería de Datos• Comportamiento de Robots• Aprendizaje de Máquina• Toma de Decisiones• Aplicaciones Financieras• Diseño de Sistemas de Control • Identificación de Sistemas• Compresión de Imágenes• Sistemas de Vida Artificial


Inteligencia Colectiva

• La inteligencia colectiva o de enjambre (Swarm Intelligence) es la propiedad de un sistema que permite que el comportamiento colectivo agentes (simples) que interactúan localmente con su ambiente permita la emergencia global de patrones funcionales coherentes.

• La inteligencia colectiva provee una base con la cual es posible explorar la solución de problemas colectivamente sin un control centralizado y sin la provisión de un modelo global.


Comportamiento Colectivo en Colonias de Hormigas (1)

• Lasius Niger (hormigas):– Regulación de temperatura en el rango de

1 grado– Formación de puentes– Incursión organizada de áreas específicas

para buscar comida– Construcción y protección del nido– Organización de crías y comida– Cooperación para cargar objetos grandes– Emigración de la colonia– Encuentran la ruta más corta del nido a la

fuente de alimento– Explotan de manera preferencial la

fuente de alimento más rica


Comportamiento Colectivo en Colonias de Hormigas (2)

• El comportamiento de las hormigas (individualmente) es poco sofisticado, pero colectivamente desempeñan tareas muy complejas.

• Estigmergia: comunicación indirecta a través de la interacción con el ambiente.

• Las hormigas han desarrollado una sofisticada estigmergia:– se comunican usando feromonas,– las feromonas trazan caminos que pueden ser seguidos

por otras hormigas.


Caminos de feromonas• Las hormigas depositan feromonas al desplazarse• Las feromonas se acumulan cuando múltiples hormigas usan el mismo

camino• Las feromonas se evaporan


Ant Colony Optimization• Simulación de una colonia

de hormigas enfatizando la comunicación a través de feromonas.

• Aplicado a problemas de optimización en redes.

• Conceptos claves:– Concentración de feromonas– Reglas para escoger un

camino– Reglas para cambiar la

concentración de feromonas

pijk t =

[t ij t ]α . [h ij ]

β

∑lÎJ i

k[t il t ]α . [ hil ]

β

pijk(t): probabilidad de escoger el

camino (i,j) τij(t): concentración de feromonasηij: visibilidad (inverso de la distancia)α,β: parámetros que controlan el balance entre visibilidad y estimulación feromonal


Aplicaciones

• Programación de trabajos• Problema del agente viajero• Coloración de grafos• Enrutamiento de vehículos• Alineamiento de secuencias• Enrutamiento en redes• Balanceo de cargas


Particle Swarm Optimization• Inspirado en el comportamiento social de grupos

de organismos tales como enjambres de abejas, bancos de peces,

• Es un procedimiento de búsqueda basado en poblaciones en las cuales los individuos llamados partículas cambian su posición (estado) con el tiempo.

• Las partículas se desplazan en un espació multidimensional ajustando su posición de acuerdo a su propia experiencia y la de sus vecinos.


Ejemplos

• Ant Colony Optimization • Floys


Sistemas Inmunológicos Artificiales

• Artificial Immune Systems


Investigación en Colombia

• El área es cada vez más conocida.• Múltiples grupos en diferentes universidades.• Algunos investigadores colombianos trabajando

en el exterior:– L'Ecole Polytechnique Fédérale de Lausanne– The University of Memphis

• Congreso internacional de inteligencia computacional: CIIC 2001 y 2003


Investigación en la UN• Grupo de investigación con más de 13 años de trayectoria.• Cerca de 100 trabajos de pregrado y tesis de maestría.• Múltiples publicaciones.• 2 Congresos Internacionales en Neuro-Computación (94 y 97).• Investigadores:

– Ing. Alberto Delgado, PhD (redes neuronales, robótica, computación con ADN)

– Ing. Oscar Duarte, PhD (sistemas flexibles (difusos), computación evolutiva)

– Ing. Germán Hernández, PhD (computación evolutiva, modelos probabilísticos)

– Ing. Luis Fdo. Niño, PhD (redes neuronales, sistemas inmunológicos artificiales)

– Ing. Fabio González, PhD (computación evolutiva, sistemas inmunológicos artificiales)


Conclusiones• La computación bio-inspirada surgió en los comienzos mismos de la

computación.• Ha tenido un renacimiento en los últimos años gracias a:

– Limitaciones en las técnicas convencionales para resolver problemas complejos.

– Aumento en la capacidad del hardware que hace posible la aplicación práctica de los algoritmos.

• Interesantes intersecciones entre diversas áreas del conocimiento.• Las técnicas con más tradición (neurocomputación y computación

evolutiva) se han consolidado.• Nuevas técnicas se siguen desarrollando y aún quedan muchos

caminos por explorar.• La masa crítica en el país se está consolidando. Buen momento para

empezar a investigar.


Contacto

• [email protected]• http://dis.unal.edu.co/~fgonza/• Laboratorio de Investigación en Sistemas

Inteligentes: http://dis.unal.edu.co/~sisbio/

mailto:[email protected]

mailto:[email protected]

http://dis.unal.edu.co/~fgonza/

http://dis.unal.edu.co/~sisbio/


Muchas Gracias!!

Computación Bio-Inspiradafgonza/courses/2008-II/BI/... · Computación Evolutiva • El complejo...

Documents

Transcript of Computación Bio-Inspiradafgonza/courses/2008-II/BI/... · Computación Evolutiva • El complejo...