Redes Bayesianas en la Ingeniería del Conocimiento

Alejandro Duque GonzálezJuan Diego Jiménez Pulgarín

Ingeniería del conocimiento (IC)

A partir de información (contenida en base de datos, libros, documentales, ect… )

Analizarla, tratarla y generar resultados

Las redes Bayesianas son modelos gráficos probabilísticos utilizados en la toma de decisiones (Castillo et al 1998, Neapolitan 2004, Korb y Nicholson 2004, Jensen 2001, 1996). Una red Bayesiana representa una función de distribución conjunta sobre un conjunto finito de variables.

Se componen de dos partes: ◦ La parte cualitativa, es una estructura gráfica (grafo) que

describe las posibles variables y dependencias entre ellas. ◦ La parte cuantitativa está compuesta por probabilidades

condicionadas que representan la incertidumbre del problema, dicho de otro modo, creencias de las relaciones causa efecto entre los nodos.

Redes Bayesianas

Desarrolladas a finales de los años 70, se convirtieron durante los 90’s en un esquema general de representación de la incertidumbre.

  En una Red Bayesiana, la información

proporcionada por una o más variables observadas se propaga por la red y actualiza nuestra creencia acerca de las variables no observadas. A este proceso se le llama inferencia.

Redes Bayesianas

Una Red Bayesiana es un grafo a cíclico que consta de:◦ Un conjunto de nodos; uno por cada variable aleatoria

del “mundo”.◦ En cada nodo, se encuentran las probabilidades

asociadas a esta variable. ◦ Un conjunto de arcos dirigidos que conectan los nodos;

si hay un arco de X a Y decimos que X es un padre de Y (padres(X) denota el conjunto de variables que son padres de X). Una variable puede tener uno o mas padres o no tener ninguno, de igual manera puede tener uno o mas hijos o no tener ninguno. Las variables que no tienen padres ni hijos son las variables independientes.

Redes Bayesianas

Ejemplo de Russell y Norvig:

Redes Bayesianas, ejemplo 1

Caries es una causa directa para Dolor y Huecos Dolor y Huecos son condicionalmente

independientes dada Caries Tiempo es independiente de las restantes

variables

Redes Bayesianas, ejemplo 1

Ejemplo (Pearl, 1990):◦ Tenemos una alarma antirrobo instalada en una casa

La alarma salta normalmente con la presencia de ladrones Pero también cuando ocurren pequeños temblores de

tierra◦ Tenemos dos vecinos en la casa, Juan y María, que han

prometido llamar a la policía si oyen la alarma Juan y María podrían no llamar aunque la alarma sonara:

por tener música muy alta en su casa, por ejemplo Incluso podrían llamar aunque no hubiera sonado: por

confundirla con un teléfono, por ejemplo

Redes Bayesianas, ejemplo 2

Redes Bayesianas, ejemplo 2

Robo y Terremoto son causas directas para Alarma

También, Robo y Terremoto son causas para Juanllama y para Mariallama, pero esa influencia sólo se produce a través de Alarma: ni Juan ni María detectan directamente el robo ni los pequeños temblores de tierra

En la red no se hace referencia directa, por ejemplo, a las causas por las cuales María podría no oír la alarma: éstas están implícitas en la tabla de probabilidades P(Mariallama|Alarma)

Redes Bayesianas, ejemplo 2

Al momento de analizar la dependencia entre las variables tenemos tres casos diferentes; uno cuando el padre de una variable es el hijo de la otra (1), otro tipo cuando dos variables tienen uno de los padres en común (2), y el otro cuando dos variables tienen un hijo en común (3)

Redes Bayesianas, dependencia e independencia

A

BC A

B C

A

B

C

Tipo 1

Tipo 2

Tipo 3

Para entender la dependencia lo haremos con un ejemplo general y tomaremos cada uno de los casos.

Redes Bayesianas, dependencia e independencia, ejemplos

Terremoto

AlarmaNoticia radio

Robo

Llamada

Robo y Llamada son dependientes:◦ Si hay un robo es más

probable suene la alarma, lo que hace más probable que reciba una llamada.

◦ Si recibo una llamada se incrementa la probabilidad de que haya sonado la alarma y por tanto de que me hayan robado.

Redes Bayesianas, dependencia e independencia, tipo 1

Terremoto

Alarma

Noticia radio

Robo

Llamada

• Robo y Llamada son independientes si se conoce a Alarma:– Si hay un Robo ya no es mas probable que suene

la Alarma (ya se sabe si suena o no)– Si recibo una llamada no se incrementa la

probabilidad de que suene la alarma (ya se sabe si suena o no)

Redes Bayesianas, dependencia e independencia, tipo 2

• Noticia radio y Alarma son dependientes:– Si oigo en la radio que ha

habido un terremoto es más probable que éste haya ocurrido, lo que hace más probable que suene la alarma.

– Si suena la alarma se incrementa la probabilidad de que haya ocurrido un terremoto y por tanto de que oiga la noticia en la radio.• Noticia radio y Alarma son independientes si se conoce a

Terremoto:– Si oigo en la radio que ha habido un terremoto ya no es más

probable que éste haya ocurrido. (ya se sabe si ha ocurrido o no)– Si suena la alarma ya no se incrementa la probabilidad de que haya

ocurrido un terremoto ( ya se sabe si ocurrió)

Terremoto

Alarma

Noticia radio

Robo

Llamada

Redes Bayesianas, dependencia e independencia, tipo 3

• Terremoto y Robo son dependientes si se conoce Alarma:– Si suena la alarma y

ocurre una de las causas (terremoto) me creo menos la otra (robo)

– Si suena la alarma y ocurre una de las causas (robo) me creo menos la otra (terremoto)

– A este efecto se le llama “eliminación de explicaciones”

• Terremoto y Robo son independientes:– Si desconozco si suena la alarma y ocurre una de las causas

(terremoto) no hay razón para creer menos la otra (robo)– Si desconozco si suena la alarma y ocurre una de las causas (robo)

no hay razón para creer menos la otra (terremoto)

Terremoto

Alarma

Noticia radio

Robo

Llamada

IC utilizando redes Bayesianas

•El primer paso consiste en seleccionar las variables de interés, para cada variable del dominio, es necesario decidir si será utilizada como variable entrada o variable de salida.•El tipo de variable (Booleano, etiquetas, numérico) y si es necesario discretizarla. •Definir la topología de la red, es decir, las relaciones causales entre las variables. •Correlación y causalidad. Causalidad implica correlación pero no a la inversa. •Definición de las tablas de probabilidad para cada uno de los nodos •Finalmente creada la red Bayesiana es necesaria su evaluación y verificación de su utilidad

Pasos típicos en la construcción de redes Bayesianas partiendo de bases de datos

Estructura de las redes Bayesianas

structure uncertainties

Estructura de las redes Bayesianas

Los diagramas de influencia, extienden las redes Bayesianas con dos nuevos tipos de nodos llamados utilidad (o valor) y decisión para modelar explícitamente la toma de decisiones.

Diagramas de Influencia

Tipos de nodos de un diagrama de influencia

Sistemas expertos para aplicaciones medicas e industriales Microsoft

Answer Wizard (Office) Diagnóstico de problemas de usuario (Aladdin) Home Health en la red de Microsoft (MSN)

Intel Diagnóstico de fallos de procesadores

HPDiagnóstico de problemas de impresora

NokiaDiagnóstico de redes celulares

NasaSistema de ayuda a la decisión en misiones espaciales

Aplicaciones de las redes Bayesianas

Tema 8: Introducción a las redes bayesianas; José L Ruiz Reina, Universidad De Sevilla

Inteligencia Artificial e ingeniería del conocimiento; Fernando Pérez Nava; Universidad De La Laguna

Redes bayesianas en la ingeniería del software; Daniel Rodríguez (Universidad de Alcalá), Javier Dolado(Universidad del País Vasco)

Bibliografía