Sesión 12: Redes Bayesianas: extensiones y aplicaciones

Sesión 12: Redes Bayesianas:extensiones y aplicaciones

Incertidumbre - RdeD, L.E. Sucar 2

RB – Extensiones y Aplicaciones• Extensiones

- Redes dinámicas

- Redes temporales

- Variables continuas

• Ejemplos de aplicaciones

- Diagnóstico en plantas eléctricas

- Endoscopía

- Reconocimiento de gestos y actividades

- Análisis de confiabilidad

Redes Bayesianas Dinámicas(RBD)

• Representan procesos dinámicos

• Consisten en una representación de los estados del proceso en un tiempo (red estática) y las relaciones temporales entre dichos procesos (red de transición)

• Se pueden ver como una generalización de las cadenas (ocultas) de Markov

Ejemplo de RBD (equiv. HMM)

EE E E

T T + 1 T + 2 T + 3

St St+3St+2St+1

Otro ejemplo

Xt Xt+1 Xt+2

St+2St+1

T T + 1 T + 2 T + 3

EE E E

Suposiciones Básicas

• Proceso markoviano - el estado actual sólo depende del estado anterior (sólo hay arcos entre tiempos consecutivos)

• Proceso Estacionario en el tiempo - las probabilidades de transición, P(St+1 | St), no cambian en el tiempo

Algoritmos• Propagación

- Aplican los mismos algoritmos de propagación de redes estáticas- Se incremento el problema de complejidad computacional

• Aprendizaje

- Existen extensiones de las técnicas de aprendizaje paramétrico y estructural para RBD- Se puede dividir en dos partes: aprender la red estática y aprender la red de transición

Redes Temporales

• Representaciones alternativas a RBD que incorporan aspectos temporales

• Se orientan a representar intervalos de tiempo o eventos en el tiempo vs estados

• Existen diferentes propuestas, dos ejemplos representativos son:

- Redes de tiempo (time net) [Kanazawa]- Redes de nodos temporales (TNBN) [Arroyo]

Red de tiempo

• La representación se basa en 2 tipos de eventos (nodos):

- Eventos: un hecho que ocurre de manera instantánea

- Hechos: una situación que es verdadera durante cierto intervalo de tiempo

• Cada hecho tiene asociado un evento de inicio y un evento de terminación

Ejemplo de redes de tiempoArrive (Sally) Load Leave (Sally)

Beg(here(Sally)) And(here(Sally))

Here (Sally)

Redes de tiempo

• Para poder representar alternativas se utilizan nodos virtuales (potencial events)

• Cada nodo tiene asociados como valores "tiempos" de ocurrencia, por ejemplo: Arrive(sally): [2 - 6]

• Se asocian a cada nodo una tabla de probabilidades dados sus padres

• Las propagación se realiza mediante técnicas de simulación estocástica

Ejemplo de redes de tiempo

beg (load)

End (load)Po-load

Leave (Sally)Leave/load (Sally)Po-leave/load (Sally)

Arrive (Sally)

beg(here(Sally)) and(here(Sally))

Here (Sally)

Redes de Nodos Temporales

• Representan cambios de estado (eventos) de las variables

• Tienen dos tipos de nodos:

- Nodos de estado - representan variables de estado como en las RBD

- Nodos temporales - representan cambios de estado de una variable

Nodo Temporal

• Nodo que representa un "evento" o cambio de estado de una variable de estado

• Sus valores corresponden a diferentes intervalos de tiempo en que ocurre el cambio

• Ejemplo: incremento de nivel- Valores (3): * Cambio 0 - 1 0

* Cambio 10 - 50* No Cambio

Redes con Nodos Temporales

•Permiten una representación más compacta de ciertos dominios que las redes dinámicas

• Ejemplo: Pupils dilated (PD)

Head injury (HI)

Vital signs unstable (VS)

Internal bleeding (IB) gross

Internal bleeding (IB) slight

(0-10)

(10-30)(30-60)

RB temporal para el ejemplo

HI1=trueHI2=false

C1=severeC2=moderateC3=mild

IB1=grossIB2=salightIB3=false

VS1 =unstables, [0-10]VS2 =unstables, [10-30]VS3=unstable, [30-60]VS4=normal, [0-60]

PD1 =dilated, [0-3]PD2 = dilated, [3-5]PD3=normal, [0-5]

• Para cada nodo temporal se definen un conjunto de valores que corresponden a intervalos de tiempo y las probabilidades asociadas

• La propagación se hace de la misma manera que en redes estáticas

Variables Continuas

• Las redes bayesianas normalmente manejan variables multivaluadas discretas.

• Cuando se presentan variables continuas (temperatura, estatura, etc.), éstas se discretizan en un número de intervalos y se manejan como si fueran discretas.

• Este enfoque presenta desventajas:- Si el número de intervalos es pequeño, se pierde precisión.- Si el número de intervalos es grande, el modelo se vuelve

demasiado complejo y se requiere gran cantidad de datos para estimar las probabilidades

Variables Continuas

• Otra alternativa es manejar directamente distribuciones continuas.

• Se han realizado pocos desarrollos en este sentido y la mayoría están limitados al manejo de distribuciones gaussianas:

Donde es el promedio y 2 es la varianza ( es la desviación estándar). Esta se representa como N( ,)

Propagación con variables gaussianas

1. La estructura de la red es un poliárbol.

2. Todas las fuentes de incertidumbre no están correlacionadas y siguen el modelo gausslano.

3. Existe una relación lineal entre variables (entre un nodo y sus padres):

X=b1U1 + b2U2 +... + bnUn + Wx

Donde X es una variable, las U¡ son los padres de X, las b son coeficientes constantes y w representa el "ruido" (gaussiano con media 0)

RB con variables continuas

• El método de propagación es análogo al de poliárboles con variables discretas.

• Se establece que en este caso las distribuciones marginales de todas las variables son también gaussianas:

xxNxxEXP ,|

• Los parámetros, y , se obtienen de los parámetros que envían los nodos padre e hijos con las siguientes expresiones:

Los mensajes que envían los nodos a sus padres e hijos se calculan de la siguiente manera:

kkikii

Mensaje que envía el nodo X a su padre i:

Mensaje que envía el nodo X a su hijo j:

Ejemplo - RB con Variables Continuas

Ejemplo - propagación

• Dado:- y1=8000, y2=10,000, z1=z2=1000- ds(y1)=300, ds(y2)=1000

• Aplicando las ecuaciones para “diagnóstico”:

x= [(8-1)(1)2+(10-1)(0.3)2]/[(1)2+(0.3)2]= 7.165x= [ (0.3)2(1)2]/[(1)2+(0.3)2]=0.0826, ds(x)= 287

Aplicaciones

Red Temporal

para Diagnóstico de Plantas Eléctricas

Red Temporal

para Diagnóstico de Plantas Eléctricas

Subsistema de una Planta Eléctrica

S U P E R H E A T E R S T E A M S Y S T E M

F E E D W A T E R S Y S T E M C O N D E N S E R S Y S T E M

W A T E R - S T E A MG E N E R A T O RS Y S T E M

S T E A M - T U R B I N E S Y S T E M

R E H E A T E RS T E A M S Y S T E M

F E E D A T E R P U M P

F E E D A T E R V A L V E

S P R A Y V A L V E P S T E A M V A L V E

T R U B I N E

D R PF

Nodo Temporal• Nodo que representa un “evento” o cambio de

estado de una variable de estado• Sus valores corresponden a diferentes intervalos

de tiempo en que ocurre el cambio• Ejemplo:

– Nodo: incremento de nivel– Valores (3):

• Cambio 0 - 10• Cambio 10 - 50• No cambio

Red bayesiana con nodos temporales

FWPF LI

FWV FWP STV

FWPFOccur 0.58¬Occur 0.42

LIOccur 0.88¬Occur 0.12

FWVFOccur 0.57¬Occur 0.43

SWVFOccur 0.18¬Occur 0.82

FWPtrue, [10-29] = 0.36true, [29-107] = 0.57false, [10-107] = 0.07

STVTrue, [0-18] = 0.69True, [18-29] = 0.20False, [0-29] = 0.11

STFTrue, [52-72] = 0.65True, [72-105] = 0.24False, [52-105] = 0.11

FWVTrue, [28-41] = 0.30True, [41-66] = 0.27False, [28-66] = 0.43

SWVTrue, [20-33] = 0.11True, [33-58] = 0.13False, [20-58] = 0.76

FWFTrue, [25-114] = 0.77True, [114-248] = 0.18False, [25-248] = 0.05

SWFTrue, [108-170] = 0.75True, [170-232] = 0.21False, [108-232] = 0.04

STTDecrement, [10-42] = 0.37Decrement, [42-100] = 0.14Decrement, [100-272] = 0.47False, [10-272] = 0.02

DRPTrue, [30-70] = 0.58True, [70-96] = 0.40False, [30-96] = 0.02

DRLIncrement, [10-27] = 0.49Increment, [27-135] = 0.09Decrement, [22-37] = 0.28Decrement [37-44] = 0.12False, [10-135] = 0.02

Variables

LI=Load increment

FWPF=FW pump failure

FWVF=FW valve failure

SWVF=SW valve failure

STV=Steam valve

FWP=FW pump

FWV=FW valve

SWV=SW valve

STF=Steam flow

FWF=FW flow

SWF=SW flow

DRL=Drum level

DRP=Drum pressure

STT=Steam temperature

Resultados Experimentales

Prueba

Predicción% RBS 87.37 9.19% Exactitud 84.48 14.98

Diagnóstico% RBS 84.25 8.09% Exactitud 80.00. 11.85

Diagnóstico yPredicción

% RBS 95.85 4 .71% Exactitud 94.92 . 8.59

Endoscopía

• Endoscopy is a tool for direct observation of the human digestive system

• Recognize “objects” in endoscopy images of the colon for semi-automatic navigation

• Main feature – dark regions

• Main objects – “lumen” & “diverticula”

Imagen del Colon

Segmentation – dark region

RB para endoscopía (parcial)

Semi-automatic Endoscope

Endoscopy navegation system

Human activity recognition• Recognize different human activities based

on videos (walk, run, goodbye, attention, etc.)• Consider the movement of several limbs

(arms, legs)• The movements can differ for different

persons or even for the same person• Several activities can be performed at the

same time• Consider continuos activities

Ejemplo

Feature extraction• The color marks (for each limb) are

segmented, with its position in each frame• The directions of movement (discretized in

8 direction) are obtained for each image pair

• A window is used to obtain each sequence of changes (6), which are the observations for the recognition model – a Bayesian network

Segmentación

Red de reconocimiento

Reconocimiento de gestos• Reconocimiento de gestos orientados a

comandar robots

• Inicialmente 5 gestos

• Reconocimiento con RBD

attention

go-right

go-left

Extracción de características

• Detección de piel

• Segmentación de cara y mano

• Seguimiento de la mano

• Características de movimiento

Segmentación

Agrupamiento de pixels depiel en muestreo radial

Seguimiento

Características• From each image we obtain the features:

– change in X (X)– change in Y (Y)– change in area (A)– change in size ratio (R)

• Each one is codified in 3 values: (+, 0, -)

X1,Y,1X2,Y2

St St+1 St+2

RBD para Reconocimiento de Gestos

T T+1 T+2

SX,Y A SX,Y A SX,Y

Training and Recognition• The parameters (conditional probabilities)

for the DBN are obtained from examples of each gesture using the EM algorithm (similar to Baum-Welch used in HMM)

• For recognition, the posterior probability of each model is obtained by probability propagation (forward)

Resultados• Reconocimiento:

– come 100 %– attention 66.2 %– stop 68.26 %– go-right 99.25 %– go-left 100 %– promedio 86%

ANÁLISIS Y DISEÑO DE SISTEMAS DE ALTA CONFIABILIDAD CON REDES

BAYESIANAS

Sistema con componentes en serie

a) DBC b) Red bayesiana

P(A/WA);P(A) P(B/WB);P(B)

P(X/A,B);P(Xi)P(C/WC);P(C)

P(X/ Xi,C);P(X)

Sistema en paralelo

a) DBC b) Red bayesiana

P(A/WA);P(A) P(B/WB);P(B)

P(X/A,B);P(Xi)P(C/WC);P(C)

P(X/ Xi,C);P(X)

Conversión de un DBC a RB

• El procedimiento se puede generalizar para convertir cualquier DBC a una red bayesiana:

1. Se buscan todos las trayectorias dentro del DBC

2. Por cada trayectoria se crea un nodo “AND” con todos los componentes

3. Se crea un nodo “OR” con todas las trayectorias (si son muchas se pueden agrupar en subnodos que luego se combinan en un nodo final)

Sistema Complejo - DB

13 14Inputs (0) Exits (15)

Sistema Complejo - RB84

1211109

Diseño de sistemas de alta confiabilidad

• El método de análisis se puede aplicar a la configuración de sistemas de alta confiabilidad

• Para ello se tiene un DBC inicial y se calcula su confiabilidad y costo

• Se genera un proceso de búsqueda generando nuevas configuraciones para maximizar confiabilidad, minimizar costo o una combinación de ambos.

Otras aplicaciones

• Predicción del precio del petróleo • Modelado de riesgo en accidentes de automóviles• Diagnóstico médico• Validación de sensores• Modelado de usuarios para tutores y sofware (ayudantes Microsoft Office)• Diagnóstico de turbinas (General Electric)• Reconocimiento de objetos en imágenes • Reconocimiento de voz• ...

Referencias

• Variables continuas - Pearl cap. 7- G. Torres Toledano, E. Sucar, Iberamia 1998

• RB dinámicas- U. Kjaerulff, A computational scheme for reasoning in dynamic belief networks, UAI´92

• RB temporales- K. Kanazawa, A logic and time nets for probabilistic inference, AAAI´91- G. Arroyo, E Sucar, A temporal bayesian networks for diagnisis and predictatión, UAI´99

Actividades

• Especificación detallada del proyecto final

Sesión 12: Redes Bayesianas: extensiones y aplicaciones

Documents

Transcript of Sesión 12: Redes Bayesianas: extensiones y aplicaciones

Redes Bayesianas en la Ingeniería del Software

InformeTecnico. Redes Bayesianas

Tema 7 Aplicaciones Web - Iniciar sesión 7 Aplicaciones... · Las extensiones .html y .htm indican lo mismo (un archivo que contiene código HTML). 7.1.2. Directorios virtuales ...

Sesión 7: Redes Bayesianas – Inferenciaesucar/Clases-mgp/pgm11-rbinf2... · 2012-03-14 · Sesión 7: Redes Bayesianas – Inferencia: 2da Parte Modelos Gráficos Probabilistas

Detecci on de Fallas Distribuida usando Redes Bayesianas ...

METODOLOGÍA DE REDES BAYESIANAS PARA ESTIMAR EL …

Ejemplos de Redes Bayesianas

#2 extensiones

Redes Bayesianas Causales - Ciencias Computacionalesesucar/Clases-mgc/Presentaciones/... · 2019. 7. 18. · Redes Bayesianas Causales Si G es una red bayesiana causal con respecto

extensiones joomla

Sesión 6: Redes Bayesianas - Representación

Sesión 10: Redes Bayesianas – Inferenciaesucar/Clases-mgp/pgm10-rbinf1-2012.pdf · Sesión 10: Redes Bayesianas – Inferencia 1era parte Modelos Gráficos Probabilistas L. Enrique

Redes Bayesianas Aplicadas a La Ingeniería de Software

análisis de sensibilidad en redes bayesianas gaussianas

Sesión 12: Redes Bayesianas – Aprendizaje “Preferiría ...Sesión 12: Redes Bayesianas – Aprendizaje “Preferiría descubrir una ley causal que ser rey de Persia” [Democritus]

Extensiones 23

Sesión 12: Redes Bayesianas: extensiones y aplicaciones Modelos Gráficos Probabilistas L. Enrique Sucar INAOE.

Sesión 12: Redes Bayesianas: extensiones y aplicaciones

Tema 6 Extensiones y aplicaciones (Máquinas de vectores ...verso.mat.uam.es/.../cursos/Matematicas-IO/io-tema6-svm-16.pdf · Tema 6 Extensiones y aplicaciones (M aquinas de vectores

Catálogo extensiones