AREAS Y PROYECTOS DE INVESTIGACIÓN - …ccc.inaoep.mx/~pgomez/tutorials/ANN/5-ANN-thesis.pdf ·...

Dra. María del Pilar Gómez Gil Coordinación de Computación

Instituto Nacional de Astrofísica, Óptica y Electrónica Oficina 8228

[email protected], [email protected] http://ccc.inaoep.mx/~pgomez

AREAS Y PROYECTOS DE INVESTIGACIÓN 2015-2016

1 (c) P. Gómez, INAOE 2015 [email protected]

Presentación disponible en:

http://ccc.inaoep.mx/~pgomez/temasTesis.pdf

V:2015-10-15

mailto:[email protected]

http://ccc.inaoep.mx/~pgomez

http://ccc.inaoep.mx/~pgomez/temasTesis.pdf

Mi participación en investigación Formo parte de: • Laboratorio de Aprendizaje Automático y

Reconocimiento de Patrones (MLPR), • Laboratorio de Procesamiento de Bio-Señales y

Computación Médica • Grupo de procesamiento de señales e Inteligencia

Computacional (PSIC) – PSIC está formado por investigadores y estudiantes de las

coordinación de Electrónica y de Ciencias de la computación

(c) P. Gómez, INAOE 2015 [email protected] 2

Áreas de interés de PGG

• Redes Neuronales Artificiales (RNA) aplicadas en problemas de: – Reconocimiento de patrones – Clasificación estática y temporal – Predicción – Diseño de RNA

• Otras áreas de inteligencia computacional aplicadas a dichos problemas (Lógica Difusa y Algoritmos Evolutivos)


Las Redes Neuronales Artificiales

• Son modelos matemáticos capaces de adaptar su comportamiento en respuesta a ejemplos presentados por el medio ambiente de manera supervisada o no supervisada (esto es aprendizaje automático!)

• Están inspiradas en la construcción del cerebro y las neuronas biológicas.

• Una red neuronal artificial es un procesador paralelo y distribuido, hecho de varios procesadores simples, que puede almacenar y utilizar conocimiento adquirido de la experiencia (Haykin 2009).


El Contexto de Redes Neuronales (Gómez-Gil,

2009)


RNA

Ejemplos (medio

ambiente) conocimiento

Entradas

Salidas

Aprendizaje basado en ejemplos

• Las redes neuronales son capaces de modificar su comportamiento en respuesta al medio ambiente, el cual es “presentado a la red” a través de ejemplos significativos del problema.

• Para una red neuronal, aprender significa modificar los valores de los pesos (números reales), siguiendo una estrategia determinada conocida como “algoritmo de aprendizaje.”


Hay muchos tipos de RNA’s… algunos “típicos”



Hay muchos tipos de RNA’s… otros mas “interesantes”…

Un punto sobre sobre el plan de estudios


PERIODO 1

(OTOÑO)

PERIODO 2

(PRIMAVERA)

PERIODO 3

(VERANO)

PERIODO 4

(OTOÑO)

PERIODO 5

(PRIMAVERA)

PERIODO &

(VERANO)

Matemáticas para

computación

Curso área prioritaria

Curso área escogida

Preparación de tesis

Preparación de tesis

Terminación de tesis

Diseño y

análisis de algoritmos

Curso área prioritaria

Curso área de soporte

Curso básico área 1

Curso otra área

Seminario

Curso básico

área 2

Curso otra área

Seminario de metodología

Seminario

Cursos posiblemente requeridos para mis proyectos

1. Procesamiento digital de señales 2. Inteligencia Computacional I 3. Inteligencia Computacional II 4. Reconocimiento de patrones 5. Aprendizaje Computacional II 6. Procesamiento de bio-señales


Características de mi investigación RETOS AREAS DEL

CONOCIMIENTO AREAS DE APLICACIÓN

Con respecto a DATOS: • ruidosos • clases sobre-puestas • muy pocos • difíciles de caracterizar • se requieren fusionar • etc…

•Clasificación estática •Clasificación temporal •Predicción •Teoría de RNA

•Brain Computer Interfaces • Biométrica • Diagnóstico médico • Economía y Finanzas • Astrofísica • Reconocimiento de escritura


Trabajamos con señales no estacionarias


0 100 200 300 400 500 600 0.4

0.6

0.8

1

1.2

1.4 Mackey-Glass data for A=0.2, B=0.1, tao=17 h=0.9. 550 points of good2.dat

0 0.5

1 1.5

0 0.5

1 1.5 0.4

0.6

0.8

1

1.2

1.4

Return map of good2.dat

x(i) x(i+ 5)

x(i+

10)

Injection

regions

ATM withdraws (NN5-001) (Crone 2006)

Mackey-Glass time series (Glass 1987)

)()(1

)()(10

tbxtx

tax

dt

tdx

Case K.2

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

1 90 179 268 357 446 535 624 713 802 891 980 1069 1158 1247 1336 1425 1514 1603 1692 1781 1870 1959 2048

n

expected

prediction

Long-term prediction of an ECG

(Gomez et al., 2011)

Return map of a Mackey-Glass

time series

Principales Proyectos para tesis este año

1. Clasificación y predicción temporal de señales EEG

con aplicación a interfaces cerebro-computadora (BCI, diagnóstico médico-epilepsia). (PSIC)

2. Priscus: reconocimiento automático de escritura manuscrita en documentos antiguos


Proyecto: Clasificación y predicción temporal de señales

EEG con aplicación a interfaces cerebro-computadora (BCI, diagnóstico médico-

epilepsia). (PSIC) .

(en colaboración con el grupo PSIC)


Clasificación de epilepsia

15 (c) P. Gómez, INAOE 2015 [email protected] Healthy patient During an ictal event

Biomedical Signal Processing Using Wavelet Based -Neural Networks


(Juarez-Guerra, 2014)

Proposed model:

MRW-FFWNN

MODWT

Prediction of epileptic seizures: example of state-of-the-art technology


(Cook et al. 2013)

• 2015. Juarez-Guerra E, Alarcon-Aquino V and Gomez-Gil P. “Epilepsy Seizure Detection in EEG Signals Using Wavelet Transforms and Neural Networks.” New Trends in Networking, Computing, E-learning, Systems Sciences, and Engineering Lecture Notes in Electrical Engineering. Eds: K. Elleithy, T. Sobh. Vol 312, 2015, pp 261-269. DOI: 10.1007/978-3-319-06764-3_33 . (Nota: This work was presented in the : “Virtual International Joint Conferences on Computer, Information and Systems Sciences and Engineering” (CISSE 2013). Dec. 12-14, 2013)

• 2014. Gómez-Gil P, Juárez-Guerra E, Alarcón-Aquino V, Ramírez-Cortés M, Rangel-Magdaleno J. Identification of Epilepsy Seizures Using Multi-resolution Analysis and Artificial Neural Networks. Recent Advances on Hybrid Approaches for Designing. Intelligent Systems, Studies in Computational Intelligence 547, O Castillo et al. (eds.), DOI: 10.1007/978-3-319-05170-3_23, Springer International Publishing Switzerland 2014

• 2014. Juarez Guerra, E. “Biomedical Signal Processing Using Wavelet Based -Neural Networks”. Doctoral program in computer science, technical report. Nov. 14, 2014. Cholula, Puebla.

Publicaciones seleccionadas- epilepsia


http://link.springer.com/chapter/10.1007/978-3-319-06764-3_33
































Interfaz cerebro-computadora


No exige ninguna actividad muscular

Permite controlar dispositivos

Actividad cerebral

[Carrera-León 2010]

Ejemplo de una estructura básica de un sistema BCI


[D’croz Barón 2010]

Obtención de señales


Datos obtenidos de un casco EEG

[Ramírez et al 2010]

Usando el casco…

Existe Software para análisis de ECG…

(c) P. Gómez, INAOE 2015 [email protected] 22 [Ramírez-Cortés et al. 2010]

Classification of EEG signals for command identification


BLINKY- command identifier

(Lopez-Espejel, 2015)

Blinky: command identifier


Signal sensing and pre-

processing Feature

extraction – wavelet

modeling

Classification – neural network

Robot coding for

movement

(Lopez-Espejel, 2015)

• 2015. López-Espejel, Jessica N. “Control de movimiento de objetos a través del uso de electro-encefalogramas y redes neuronales artificiales con equipo de bajo costo. “ Tesis para obtener el título de Licenciada en Ingeniería en Ciencias de la Computación. Benemérita Universidad Autónoma de Puebla- Instituto Nacional de Astrofísica, Óptica y Electrónica, Puebla. México. To be published

• 2013. Morales-Flores E Ramírez-Cortés JM, Gómez-Gil P, Alarcón-Aquino V. "Brain Computer Interface Development Based on Recurrent Neural Networks and ANFIS Systems". Soft Computing Applications in Optimization, Control, and Recognition, Vol. 294, pp. 215-236, Edited by Melin, P and Castillo, O, doi=10.1007/978-3-642-35323-9_9. Springer Berlin Heidelberg.

• 2013. Rosas-Cholula G, Ramirez-Cortes JM, Rangel-Magdaleno J, Gomez-Gil P, Alarcon-Aquino V. “Head movement artifact removal in EEG signals using Empirical Mode Decomposition and Pearson Correlation” The 2013 International Conference on Artificial Intelligence (ICAI 2013). July 22-25, 2013. Las Vegas, Nevada USA

• 2012. Obed Carrera León, Juan Manuel Ramirez Cortés, Vicente Alarcón-Aquino, Mary Baker, David D´Croz-Baron, Pilar Gomez-Gil, “A Motor Imagery BCI Experiment using Wavelet Analysis and Spatial Patterns Feature Extraction”, 2012 IEEE Workshop on Engineering Applications, Bogotá, Colombia, May 2-4, 2012.

Publicaciones escogidas - BCI


http://dx.doi.org/10.1007/978-3-642-35323-9_9

http://dx.doi.org/10.1007/978-3-642-35323-9_9

http://ccc.inaoep.mx/~pgomez/publications/congress/RosICA13.pdf

http://ccc.inaoep.mx/~pgomez/publications/congress/RosICA13.pdf

http://dx.doi.org/10.1109/WEA.2012.6220084



Algunos retos en este proyecto

• La identificación de los eventos no puede realizarse

simplemente analizando la señal en el tiempo • Hay muchos trabajos actualmente sobre el tema,

pero sus resultados no son tan buenos como se desea

• Se requiere analizar tanto la parte de extracción de características como la de clasificación. Nosotros nos concentraremos en la clasificación


Proyectos posibles

• Asignación de clases temporales a través de lógica difusa u otras técnicas

• Predicción de eventos ictales basado en EEG • Predicción de eventos hipotensos súbitos en salas

de terapia intensiva • Prediccion/clasificación en otras señales biológicas • Selección de funciones wavelts madre para redes

wavelets aplicadas a clasificación/predicción


Otras lecturas.. • 2010. Gómez-Gil P, García-Pedrero A and Ramírez-Cortes JM. “Composite Recurrent Neural Networks

for Long-Term Prediction of Highly-Dynamic Time Series Supported by Wavelet Decomposition”, Soft Computing for Intelligent Control and Mobile Robotics, Vol. 318/2011, pp.253-268, Castillo O, Janusz K and Pedrycz W. Editors, Springer-Verlag. DOI:10.1007/978-3-642-15534-5_16 (para conocer algo sobre redes neuronales recurrentes)

• 2010. Luna-Pérez, R, Gómez-Gil, P. “Unconstrained Handwritten Word Recognition Using a combination of Neural Networks.” Lecture Notes in Engineering and Computer Science -Proceedings of the 2010 Word Congress on Engineering and Computer Science (WCECS 2010) – International Conference on Soft Computing and Applications (ICSCA 10), San Francisco, USA. Vol. 1, pp. 525 - 528. Eds. Ao SI, Douglas C, Grundfest WS, Burgstone J. International Association of Engineers. (para conocer algo sobre clasificación temporal)

• 2010. Ramírez-Cortés JM, Alarcón-Aquino V, Rosas-Cholula G, Gómez-Gil P, Escamilla-Ambrosio J. “P-300 rhythm detection using ANFIS algorithm and wavelet feature extraction in EEG signals”. Lecture Notes in Engineering and Computer Science -Proceedings of the 2010 Word Congress on Engineering and Computer Science (WCECS 2010) – International Conference on Soft Computing and Applications (ICSCA 10), San Francisco, USA, Vol. 2186, pp. 619 - 623. Eds. Ao SI, Douglas C, Grundfest WS, Burgstone. (para conocer algo sobre clasificación en BCI)

• Página de PhysioNet www.physionet.org


https://springerlink3.metapress.com/content/h12561h9182k7740/resource-secured/?target=fulltext.pdf






http://ccc.inaoep.mx/~pgomez/publications/congress/RlpSCA10.pdf

http://ccc.inaoep.mx/~pgomez/publications/congress/RlpSCA10.pdf

http://ccc.inaoep.mx/~pgomez/publications/congress/JmrSCA10.pdf




















http://www.physionet.org/

Proyecto: PRISCUS: Reconocimiento automático de escritura manuscrita en documentos

antiguos

(en colaboración con coordinación de Electrónica INAOE)


Resumen • PRISCUS es un proyecto para la construcción de un sistema

lector de documentos manuscritos antiguos y modernos. Su objetivo es desarrollar un software inteligente integral.

• Está basado en redes neuronales artificiales y otros componentes de inteligencia computacional y entendimiento de lenguaje.

• Se busca la mejor implementación posible a problemas que aún son abiertos, tales como: segmentación de escritura continua, entendimiento de texto completo en base a clasificación de caracteres y palabras, e identificación de palabras

• Se están iniciando colaboraciones con un grupo en Grecia.


El reconocimiento de manuscritos es un reto!


[Spinola & Linares 2000]

Un OCR para documentos manuscritos

(c) P. Gómez, INAOE 2015 [email protected]

32

1. Digitalización

2. Pre-procesamiento

Imagen digital Documento

original

3. Segmentación de palabras

imagen limpia

4. Segmentación de

caracteres/palabras y extracción de características

6. Reconocimiento de caracteres/

palabras

8. Identificación de palabras

7. Entrenamiento del reconocedor

10. Corrección de estilo

Transcripción del documento

Parámetros de entrenamiento

Objetos con caracteres

Posibles caracteres

Conocimiento de la RNA

Posibles palabras

Palabras en el texto

Diccionario

5. Entrenamiento

de la segmentación

Segmentación para

entrenamiento

Words

Objetos de caracteres

Parámetros para

entrenamiento

Conocimiento de la RNA

[Gómez-Gil et al. 2007]

Algunos retos en este proyecto

• El modelo de reconocimiento de caracteres debe utilizar información probabilística a fin de reconocer palabras y utilizar el contexto.

• El sistema de segmentación de caracteres requiere implementarse

• Definir un de sistema de formación de sentencias basado en procesamiento de lenguaje natural


Clasificación de una palabra


(Luna-Perez & Gómez-Gil, 2010)

Word Segmentation


(Pimentel-Crisostomo, 2015)

Connected components

Lines identification

Segmented words – experiment 1

Proyectos posibles

• Uso de redes recurrentes para reconocimiento de palabras

• Uso de técnicas conexionistas para identificación de áreas de interés en textos antiguos


• 2015. Pimentel Crisóstomo Hazziel. “Localización y segmentación de palabras en documentos manuscritos antiguos y modernos para el sistema PRISCUS. Tesis para obtener el título de Licenciado en Ingeniería en ciencias de la computación. Benemérita Universidad Autónoma de Puebla – Instituto Nacional de Astrofísica, Óptica y Electrónica. Facultad de ciencias de la Computación. Puebla, México. To be published

• 2010. Luna-Pérez R, Gómez-Gil P. “Unconstrained Handwritten Word Recognition Using a combination of Neural Networks.” Lecture Notes in Engineering and Computer Science: Proceedings of the World Congress on Engineering and Computer Science 2010, WCECS 2010, 20-22 October, 2010,San Francisco, USA. pp 525 - 528. Eds. Ao SI, Douglas C, Grundfest WS, Burgstone J. International Association of Engineers. ISBN: 978-988-17012-0-6. ISNN: 2078-0958 (print) ISNN: 2078-0966 (online).

• 2014. Diamantatos P, Kavallieratou E, Gomez-Gil P. “Binarization: A tool for text localization.” To be published in the Proceedings of the 14th. International Conference on Frontiers in Handwritten Recognition. 1-4 September, Crete Island, Greece.

Selected publications- PRISCUS


http://www.iaeng.org/publication/WCECS2010/WCECS2010_pp525-528.pdf

http://www.iaeng.org/publication/WCECS2010/WCECS2010_pp525-528.pdf


Para conocer un poco mas de este proyecto ver las publicaciones

listadas en la página:

http://ccc.inaoep.mx/~pgomez/PRISCUS/

[email protected] [email protected]

INAOE, Tonantzintla Puebla, oficina 8228 (222) 266-3100 ext. 8228

Preguntas?




AREAS Y PROYECTOS DE INVESTIGACIÓN - …ccc.inaoep.mx/~pgomez/tutorials/ANN/5-ANN-thesis.pdf ·...

Documents

Transcript of AREAS Y PROYECTOS DE INVESTIGACIÓN - …ccc.inaoep.mx/~pgomez/tutorials/ANN/5-ANN-thesis.pdf ·...