Modelos Gráficos Probabilistas: Principios y Aplicacionesesucar/Clases-mgp/pgm01-intro-2012.pdf ·...

Modelos Gráficos Probabilistas:Principios y Aplicaciones

L. Enrique SucarINAOE

St St+1 St+2 St+3

Dt-1 Utilidad

E E E E

Dt Dt+1 Dt+2

© E. Sucar, PGM: 1 Introducción 2

Información General

• Página del curso:http://ccc.inaoep.mx/~esucar/Clases-pgm/pgm.html• Correo:[email protected]


Información General

• Objetivos• Programa• Bibliografía• Políticas del Curso

Sesión 1: Introducción

“Vivir es el arte de derivar conclusionessuficientes de premisas insuficientes”[S. Butler]


Incertidumbre

• ¿ Qué es incertidumbre?• ¿ Porqué se presenta?• ¿ Cómo la tratamos?


IncertidumbreLa incertidumbre surge porque se tiene unconocimiento incompleto / incorrecto delmundo o por limitaciones en la forma derepresentar dicho conocimiento, por ejemplo:• Un sistema experto médico• Un robot móvil• Un sistema de análisis financiero• Un sistema de reconocimiento de voz o imágenes


Incertidumbre

• Un robot móvil tieneincertidumbrerespecto a lo queobtiene de sussensores y de suposición en el mundo


Causas de Incertidumbre

• Existen varias causas de incertidumbre quetienen que ver con la información, elconocimiento y la representación.

• Información:– Incompleta– Poco confiable– Ruido, distorsión


Causas de Incertidumbre

• Conocimiento– Impreciso– Incompleto– Contradictorio

• Representación– No adecuada– Falta de poder descriptivo


Ejemplos de dominios conincertidumbre

• Diagnóstico médico e industrial• Predicción financiera• Exploración minera / petrolera• Interpretación de imágenes (visión)• Reconocimiento de voz• Monitoreo / control de procesos industriales• Robótica• Modelado del estudiante• …


Efectos de Incertidumbre

• Se pierden varias propiedades de lossistemas que no tienen incertidumbre,basados en lógicas o reglas, lo cual hace elmanejo de incertidumbre más complejo.Las principales dos características que, engeneral, ya no aplican son:– Modular– Monotónica


Modular

• Un sistema de reglas es modular, ya quepara saber la verdad de una regla sólo tieneque considerarla a ésta, sin importar elresto del conocimiento.

• Pero si hay incertidumbre ya no puedoconsiderar la regla por si sola, debe tomaren cuenta otras reglas


Monotónica

• Un sistema es monotónico si al agregar nuevainformación a su base de datos, entonces no sealteran las conclusiones que seguían de la base dedatos original.

• Si hay incertidumbre ya no puedo considerar quela certeza en una hipótesis ya no puede cambiar,debo tomar en cuenta otras reglas que involucrena dicha hipótesis; así como nuevos datos


Manejo de Incertidumbre

• Para tratar la incertidumbre, hay queconsiderarla en forma explícita en larepresentación e inferencia

• Para ello se han desarrollado diversasformas de representar y manejar laincertidumbre


Técnicas Simbólicas

• Lógicas no-monotónicas• Sistemas de mantenimiento de verdad

(TMS, ATMS)• Teoría de endosos


Técnicas Numéricas• Probabilistas

– Métodos básicos– Modelos gráficos probabilistas

• Alternativas– Empíricas (MYCIN, Prospector)– Lógica difusa– Teoría de Dempster-Shafer– Lógicas probabilistas


Otra clasificación

• Sistemas Extensionales (valores de verdadgeneralizados) – la certidumbre de una fórmula esuna función única de las certidumbres de sus sub-fórmulas

• Sistemas Intensionales - medidas de verdadasignadas a conjuntos de mundos posibles, no sepuede determinar la certidumbre directamente delos valores individuales


Técnicas• Por ejemplo, para el robot móvil:

– Si el sensor de distancia (sonar) regresa unalectura de 5 m, se considera una distribuciónde probabilidad alrededor de dicha lectura

– ¿Cómo representamos esta distribución?¿Cómo combinamos las lecturas de variossensores?


Técnicas• Ejemplo de un “mapa probabilista”

construido considerando la incertidumbrede los sensores y de la odometría


Desarrollo Histórico

• Inicios (50´s y 60´s)– “Mundos de juguete”– No se consideró el uso de números

• Sistemas Expertos (70´s)– Aplicaciones reales – surge necisidad de

manejo de incertidumbre– Métodos Ad-hoc– Nuevas teorías


Desarrollo Histórico• Resurgimiento de probabilidad (80´s)

– Resurge el uso de probabilidades– Desarrollo de las redes bayesianas

• Diversos formalismos (90´s)– Uso de diversas técnicas– Consolidación de modelos probabilistas

• Modelos gráficos probabilistas (00’s)– Unificación de técnicas bajo el marco de PGM– Modelos más expresivos (lógica + probabilidad)

Modelos Probabilistas

• Los modelos probabilistas tienen variasvarias ventajas:– Tienen una clara interpretación y sólidos

fundamentos teóricos– Pueden hacer uso de las técnicas y

herramientas desarrolladas en el área deprobabilidad y estadística

– Permiten un representación declarativa -separando el conocimiento del razonamiento

Modelos Probabilistas

• Sin embargo, si construimos un modeloprobabilista en forma “directa” nos enfrentamosal problema de complejidad computacional - elmodelo crece exponencialmente con el número devariables

• Los modelos gráficos probabilistas hacen uso delas independencias entre las variables para poderresolver problemas complejos en una formamucho más eficiente


Modelos Gráficos Probabilistas• Representaciones basadas en modelar

la incertidumbre con variablesaleatorias relacionadas mediante unmodelo gráfico (dependencias)

• Muchas técnicas se pueden englobardentro de este tipo de modelos


Modelos Gráficos Probabilistas• Podemos clasificar los modelos gráficos

probabilistas en 3 dimensiones principales:– Dirigidos vs. No-dirigidos– Estáticos vs. Dinámicos– Probabilista vs. Decisiones


Modelos Gráficos Probabilistas

• Dirigido • No-dirigido

1

32

4 5

1

32

4 5



• Híbrido (grafos de cadenas)

1

32

4 5



• Estático • Dinámico

St St+1 St+2 St+3

E E E E

C

H

E



• Probabilista • Decisiones

St St+1 St+2

E E E

A

B C

D

U

D


Modelos Gráficos ProbabilistasModelo D/N E/D P/DClasificador bayesiano D/N S PCadenas ocultas de Markov D D PCampos / Redes de Markov N S PRedes bayesianas D S PRedes bayesianas dinámicas D D PFiltros de Kalman D D PRedes de Decisión D S DProcesos de decisión de Markov D D DMDPs parcialmente observables D D D


Aplicaciones

• Existen actualmente muchas aplicaciones dePGMs, como:– Reconocimiento de voz y ademanes– Diagnóstico industrial– Modelado del estudiante– Navegación robótica– Validación de sensores– Recuperación de información– …

Clasificación de piel en imágenes

S

GR B IY QSH V


Medicina - endoscopía


Reconocimiento de ademanes

S

hand Face

right

Torso

above

S

torso

hand Face

right

Torso

above torso

A

T T+1

SX,Y A SX,Y


Diagnóstico industrial

FWF

FWPF LI

SWVF

SWV

SWF

FWVF

FWV FWP STV

STF

DRL

DRP

STT

FWPFOccur 0.58¬Occur 0.42

LIOccur 0.88¬Occur 0.12

FWVFOccur 0.57¬Occur 0.43

SWVFOccur 0.18¬Occur 0.82

FWPtrue, [10-29] = 0.36true, [29-107] = 0.57false, [10-107] = 0.07

STVTrue, [0-18] = 0.69True, [18-29] = 0.20False, [0-29] = 0.11

STFTrue, [52-72] = 0.65True, [72-105] = 0.24False, [52-105] = 0.11

FWVTrue, [28-41] = 0.30True, [41-66] = 0.27False, [28-66] = 0.43

SWVTrue, [20-33] = 0.11True, [33-58] = 0.13False, [20-58] = 0.76

FWFTrue, [25-114] = 0.77True, [114-248] = 0.18False, [25-248] = 0.05

SWFTrue, [108-170] = 0.75True, [170-232] = 0.21False, [108-232] = 0.04

STTDecrement, [10-42] = 0.37Decrement, [42-100] = 0.14Decrement, [100-272] = 0.47False, [10-272] = 0.02

DRPTrue, [30-70] = 0.58True, [70-96] = 0.40False, [30-96] = 0.02

DRLIncrement, [10-27] = 0.49Increment, [27-135] = 0.09Decrement, [22-37] = 0.28Decrement [37-44] = 0.12False, [10-135] = 0.02


Modelado del estudiante

Experiment results Experiment behavior

Knowledge objects

Student


Navegación robótica

St St+1 St+2 St+3

at-1 at at+1 at+2

rt rt+1 rt+2 rt+3

…

at-1 at at+1 at+2

rt rt+1 rt+2 rt+3


Validación de sensores

GeneradorCámara decombustión Turbina

CH4

CH1 CH1CH1 CH1 CH1 CH1 CH1CH1CH1

CH4 CH4 CH4

CH4 CH4

39 39

1-child-boy2-group-of-persons

3-child-girl

1-group-of-persons2-man

3-woman

1-sky-blue2-floor3-house

1-rock2-wall

3-sunset 1-window2-wall

3-woman

1-man2-person3-window

Anotación de Imágenes1- P(rock)=0.5422- P(wall)=0.4343- P(sunset)=0.412

1- P(group)=0.3252- P(man)=0.3213- P(woman)=0.3

ai = rockai, = wallai, = sunset


Referencias

• Ng & Abramson, “UncertaintyManagement in Expert Systems”, IEEEExpert, Abril 1990.

• [Russell y Norvig] Cap. 14• [Pearl] Cap.1• [Koller & Friedman] Cap. 1


Actividades

• Leer artículo sobre manejo deincertidumbre en sistemas expertos (en lapágina)

Modelos Gráficos Probabilistas: Principios y Aplicacionesesucar/Clases-mgp/pgm01-intro-2012.pdf ·...

Documents

Transcript of Modelos Gráficos Probabilistas: Principios y Aplicacionesesucar/Clases-mgp/pgm01-intro-2012.pdf ·...