factorización de `rboles de · pdf file factorización de `rboles de probabilidad...

Click here to load reader

Post on 27-Mar-2020

1 views

Category:

Documents

0 download

Embed Size (px)

TRANSCRIPT

  • Factorización de Árboles de Probabilidad

    Irene Martı́nez1, Serafı́n Moral2, Carmelo Rodrı́guez3 y Antonio Salmerón4

    1 Dept. Lenguajes y Computación. Universidad de Almerı́a

    2 Dept. Ciencia de la Computación e I.A. Universidad de Granada

    3,4 Dept. Estadı́stica y Matemática Aplicada Universidad de Almerı́a

    Almerı́a, Mayo 2005

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 1/38

  • Factorización de Árboles de Probabilidad

    Factorización de árboles de probabilidad

    Factorización exacta

    Factorización aproximada

    Factorización en Elvira

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 2/38

  • Bayesian networks and probability trees

    Lazy-Penniless: potenciales mediante probability trees

    Bajo ciertas condiciones, es posible realizar factorización sobre probability trees Ü disminuir size(T ) Ü incrementar eficiencia

    Probability Propagation:

    Supongamos que se va borrar la variable Xi : 1 Multiplicar los potenciales que contienen Xi (probability trees)

    2 Sumar en Xi

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 3/38

  • Bayesian networks and probability trees

    Lazy-Penniless: potenciales mediante probability trees

    Bajo ciertas condiciones, es posible realizar factorización sobre probability trees Ü disminuir size(T ) Ü incrementar eficiencia

    Probability Propagation:

    Supongamos que se va borrar la variable Xi : 1 Multiplicar los potenciales que contienen Xi (probability trees)

    2 Sumar en Xi

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 3/38

  • Bayesian networks and probability trees

    Lazy-Penniless: potenciales mediante probability trees

    Bajo ciertas condiciones, es posible realizar factorización sobre probability trees Ü disminuir size(T ) Ü incrementar eficiencia

    Probability Propagation:

    Supongamos que se va borrar la variable Xi : 1 Multiplicar los potenciales que contienen Xi (probability trees)

    2 Sumar en Xi

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 3/38

  • Bayesian networks and probability trees

    Lazy-Penniless: potenciales mediante probability trees

    Bajo ciertas condiciones, es posible realizar factorización sobre probability trees Ü disminuir size(T ) Ü incrementar eficiencia

    Probability Propagation:

    Supongamos que se va borrar la variable Xi : 1 Multiplicar los potenciales que contienen Xi (probability trees)

    1.a Factorizar cada árbol que contiene a Xi como el producto de dos árboles de menor tamaño:

    � uno contiene Xi � el otro no la contiene

    1.b El producto se realiza sobre potenciales con un dominio menor

    2 Sumar en Xi

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 3/38

  • Factorisation of Probability Trees

    Condiciones para aplicar factorización a Probability Trees:

    Producto de los factores debe ser igual al árbol original. Algoritmo de propagación trabaje con listas de potenciales: Lazy propagation y Lazy-penniless

    Métodos para descomponer probability trees: (conservando la primera condición)

    Tree Splitting:

    Proportional sub-trees:

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 4/38

  • Factorisation of Probability Trees

    Condiciones para aplicar factorización a Probability Trees:

    Producto de los factores debe ser igual al árbol original. Algoritmo de propagación trabaje con listas de potenciales: Lazy propagation y Lazy-penniless

    Métodos para descomponer probability trees: (conservando la primera condición)

    Tree Splitting:

    Proportional sub-trees:

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 4/38

  • Factorisation of Probability Trees

    Condiciones para aplicar factorización a Probability Trees:

    Producto de los factores debe ser igual al árbol original. Algoritmo de propagación trabaje con listas de potenciales: Lazy propagation y Lazy-penniless

    Métodos para descomponer probability trees: (conservando la primera condición)

    Tree Splitting: Obtiene un par de árboles: Ü sólo uno contiene la variable (marginalise out)

    Proportional sub-trees: Bajo ciertas condiciones, podemos aplicar la descomposición considerando:

    Exact Factorisation Approximate Factorisation

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 4/38

  • Factorisation of Probability Trees: Tree splitting

    Tree Splitting

    X

    Y

    0

    W

    0

    Z

    0

    0.1

    0

    0.7

    1 Z

    1

    0.3

    0

    0.1

    1

    W

    1

    Z

    0

    0.2

    0

    0.9

    1 Z

    1

    0.9

    0

    0.5

    1

    W

    1

    Z

    0

    0.3

    0

    0.1

    1 Z

    1

    0.7

    0

    0.6

    1

    Probability propagation: Y es la siguiente variable a borrar Ü Descomponer T como el producto de dos árboles menores:

    Tf : no contiene a Y Ü no interviene para borrar Y Tc: más sencillo que T

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 5/38

  • Factorisation of Probability Trees: Tree splitting

    Tree Splitting

    X

    Y

    0

    W

    0

    Z

    0

    0.1

    0

    0.7

    1 Z

    1

    0.3

    0

    0.1

    1

    W

    1

    Z

    0

    0.2

    0

    0.9

    1 Z

    1

    0.9

    0

    0.5

    1

    W

    1

    Z

    0

    0.3

    0

    0.1

    1 Z

    1

    0.7

    0

    0.6

    1

    Probability propagation: Y es la siguiente variable a borrar

    Ü Descomponer T como el producto de dos árboles menores:

    Tf : no contiene a Y Ü no interviene para borrar Y Tc: más sencillo que T

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 5/38

  • Factorisation of Probability Trees: Tree splitting

    Tree Splitting

    X

    Y

    0

    W

    0

    Z

    0

    0.1

    0

    0.7

    1 Z

    1

    0.3

    0

    0.1

    1

    W

    1

    Z

    0

    0.2

    0

    0.9

    1 Z

    1

    0.9

    0

    0.5

    1

    W

    1

    Z

    0

    0.3

    0

    0.1

    1 Z

    1

    0.7

    0

    0.6

    1

    Probability propagation: Y es la siguiente variable a borrar Ü Descomponer T como el producto de dos árboles menores:

    Tf : no contiene a Y Ü no interviene para borrar Y Tc: más sencillo que T

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 5/38

  • Factorisation of Probability Trees: Tree splitting

    X

    Y

    0

    W

    0

    Z

    0

    0.1

    0

    0.7

    1 Z

    1

    0.3

    0

    0.1

    1

    W

    1

    Z

    0

    0.2

    0

    0.9

    1 Z

    1

    0.9

    0

    0.5

    1

    W

    1

    Z

    0

    0.3

    0

    0.1

    1 Z

    1

    0.7

    0

    0.6

    1

    X

    Y

    0

    W

    0

    Z

    0

    0.1

    0

    0.7

    1 Z

    1

    0.3

    0

    0.1

    1

    W

    1

    Z

    0

    0.2

    0

    0.9

    1 Z

    1

    0.9

    0

    0.5

    1

    1

    1 ⊗ X

    1

    0

    W

    1

    Z

    0

    0.3

    0

    0.1

    1 Z

    1

    0.7

    0

    0.6

    1

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 6/38

  • Factorisation of Probability Trees: Tree splitting

    X

    Y

    0

    W

    0

    Z

    0

    0.1

    0

    0.7

    1 Z

    1

    0.3

    0

    0.1

    1

    W

    1

    Z

    0

    0.2

    0

    0.9

    1 Z

    1

    0.9

    0

    0.5

    1

    W

    1

    Z

    0

    0.3

    0

    0.1

    1 Z

    1

    0.7

    0

    0.6

    1

    X

    Y

    0

    W

    0

    Z

    0

    0.1

    0

    0.7

    1 Z

    1

    0.3

    0

    0.1

    1

    W

    1

    Z

    0

    0.2

    0

    0.9

    1 Z

    1

    0.9

    0

    0.5

    1

    1

    1 ⊗ . . .

    X

    1

    0

    W

    1

    Z

    0

    0.3

    0

    0.1

    1 Z

    1

    0.7

    0

    0.6

    1

    Almerı́a 2005 . . . Factorización de Árboles de Probabilidad . . .– p. 6/38

  • Factorisation of Probability Trees: Tree splitting

    X

    Y

    0

    W

    0

    Z

    0

    0.1

    0

    0.7

    1 Z

    1