josé manuel velasco cabo ropero, josé manuel …villegas/pdf/computacionbayesiana.pdfpaseo...

47
José Manuel Velasco Cabo [email protected] http://github.com/manelvcmb Taller del Curso Big & Open Data: Análisis y Programación con R Escuela Complutense de Verano 2014-2015 Beatriz González Pérez, Victoria López López, Guadalupe Miñana Ropero, José Manuel Velasco Cabo http://www.tecnologiaucm.es

Upload: others

Post on 06-Jan-2020

2 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

José Manuel Velasco Cabo [email protected] http://github.com/manelvcmb

Taller del Curso Big & Open Data: Análisis y Programación con R Escuela Complutense de Verano 2014-2015 Beatriz González Pérez, Victoria López López, Guadalupe Miñana Ropero, José Manuel Velasco Cabo

http://www.tecnologiaucm.es

Page 2: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Instalación OpenBugs

Page 3: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Instalación JAGS

Page 4: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Dentro de Rstudio, en la consola de R:

source('http://mc-stan.org/rstan/install.R', echo = TRUE, max.deparse.length = 2000)

install_rstan()

Instalación RSTAN

Page 5: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

- Teorema de Bayes. Inferencia Bayesiana

- Posterior y Prior Conjugados

- MCMC

- BUGS

- JAGS

- STAN

- MCMCPACK

- Diagnosis de Convergencia

Índice

Page 6: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

- Posterior y Prior Conjugados

- Computación Bayesiana

- Metodos Montecarlo

- Metropolis

- Gibbs

- MCMC

- BUGS

- JAGS

- STAN

- MCMCPACK

- Diagnosis de Convergencia

Índice

Page 7: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Stanislaw (Stan) Ulam

Page 8: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

John von Neumann

Page 9: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Klara von Neumann (Dan Eckart)

Page 10: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Statistical Methods in Neutron Diffusion

Page 11: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el
Page 12: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Aguja de Bufón - Método GRID

Page 13: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Metropolis

Page 14: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

- Unos políticos quieren hacer campaña en las islas Canarias.

- Quieren dedicar a cada isla un tiempo proporcional a su población

- Sin embargo, estudiaron estadística en un par de tardes y no les dio tiempo a aprender a normalizar

- ¿Qué pueden hacer?

Idea de John Kruschke

Paseo Aleatorio por las Canarias

Page 15: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Paseo Aleatorio por las Canarias

Page 16: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Paseo Aleatorio por las Canarias

Empezamos en una isla cualquiera. Por ejemplo: La Palma.

Page 17: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Paseo Aleatorio por las Canarias

Elegimos al azar una de las islas adyacentes. Por ejemplo: Tenerife

La población de Tenerife es mayor que la de La Palma Nos movemos a Tenerife

Page 18: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Paseo Aleatorio por las Canarias

De nuevo, elegimos al azar una de las islas adyacentes. Por ejemplo: Gran Canaria

La población de Tenerife es mayor que la de Gran Canaria

Población de Gran Canaria

Población de Tenerife = 0.9

Page 19: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Paseo Aleatorio por las Canarias

Elegimos un número aleatorio entre 0 y 1 0.7

Población de Gran Canaria

Población de Tenerife = 0.9 > 0.7 Nos movemos a Gran Canaria

Page 20: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Paseo Aleatorio por las Canarias

Elegimos una isla adyacente al azar Fuerteventura

De nuevo, la población de Gran Canaria es mayor que la de Fuerteventura

Page 21: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Paseo Aleatorio por las Canarias

Elegimos un número aleatorio entre 0 y 1 0.4

¡Rechazamos el movimiento a Fuerteventura!

Población de Fuerteventura

Población de Gran Canaria = 0.1 < 0.4 Nos quedamos en Gran Canaria

Page 22: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Paseo Aleatorio por las Canarias

Page 23: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Paseo Aleatorio por las Canarias

Si el paseo es lo suficientemente largo, al final el tiempo que pasan en cada isla es proporcional a su población relativa

Page 24: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Cadena de Markov

0.3

0.25 0.5 0.45 0.05 0.5

0.45

0.25

0.25

Page 25: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Ergodicidad

Page 26: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Gibbs Sampling

Page 27: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Interfaz entre R y librerias externas

Page 28: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

- BUGS Bayesian inference Using Gibbs Sampling

- JAGS Just Another Gibbs Sampler

- Stan Stan (Ulam) Hamiltonian Monte Carlo

BUGS - JAGS

Page 29: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

BUGS - JAGS

MODELO

Datos

Valores Iniciales

Page 30: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

BUGS - JAGS

MODELO

Datos

Valores Iniciales

Page 31: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

BUGS - JAGS

MODELO

Asignación determinística

Page 32: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

BUGS - JAGS

MODELO

Asignación determinística

Asignación estocástica

Page 33: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

BUGS - JAGS

MODELO

Asignación determinística

Asignación estocástica

Bucles

Page 34: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

BUGS - JAGS

MODELO

¡BUGS es un lenguaje descriptivo!

Page 35: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

BUGS - JAGS

Page 36: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

JAGS – Regresión Lineal

Page 37: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

JAGS – Regresión Logística

Page 38: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

JAGS – Regresión Lineal Jerárquica

Page 39: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

JAGS – Regresión Lineal Jerárquica

Page 40: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Recopilación de funciones

Page 41: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

STAN

Page 42: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

STAN

MODELO

Datos

Parámetros

Transformación

¡Stan es un lenguaje imperativo!

Page 43: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

STAN – Regresión Lineal

Page 44: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

STAN – Regresión Logística

Page 45: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

30 ratas son pesadas durante cinco semanas

Ratas – Regresión Lineal jerárquica

Page 46: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

BUGS STAN

Page 47: José Manuel Velasco Cabo Ropero, José Manuel …villegas/PDF/ComputacionBayesiana.pdfPaseo Aleatorio por las Canarias Elegimos un número aleatorio entre 0 y 1 0.4 ¡Rechazamos el

Conclusión