Montecarlo de Markov

8/16/2019 Montecarlo de Markov

1/13


2/13

Contenido

Planteamiento. Posibles enfoques deMontecarlo

Algoritmo general de Metroolis!"astings

Algoritmo de Metr#olisMuestreador de indeendencia

Metroolis!"astings aso a asoCondicionales comletas

Muestreo de $ibbs

Algunas cuestiones abiertas


3/13

Planteamiento

El m%todo de Montecarlo ermitedeterminar la distribuci#n, p& y ', de unestadístico, o alg(n asecto de la misma

&media, varian)a' E*emlos+

distribuci#n osterior en un análisis bayesiano+

varian)a de un estadístico &caso frecuentista'+


4/13

Posibles enfoques deMontecarlo

-íico algoritmo de Montecarlo/ araaro0imar esta distribuci#n+ generar n muestras iid, x, evaluar reetidamente

el estadístico sobre ellas t &x', yaro0imar p mediante la distribuci#nemírica de valores obtenidos.

Alternativamente+ generar roceso

estocástico cuya distribuci#nestacionaria sea p. 1esu%s de fasetransitoria &fase de calentamiento/',recolectar valores t &xt ', t 23,...,n, noindeendientes ero con distribuci#n,muy aro0imadamente, p.


5/13

Algoritmo de Metroolis!"astings

Posible generador+ roceso de Markov, p&xt 435Xt 2xt ,..., X62x6'2 p&xt 435Xt 2xt '.

Algoritmo de Metroolis!"astings+ en fase t ,

r#0imo valor Xt 43 generado a artir de Xt 2xt rooniendo valor Y a artir de densidad q&y5Xt 2xt '. Este valor se aceta como el siguienteXt 43 con robabilidad &xt ,y', o se rec7a)a y se

vuelve a generar un nuevo y, etc.Ciertamente, genera una cadena de Markov.

Pero ob*etivo es que distribuci#n estacionariasea p.


6/13

Algoritmo de Metroolis!"astings

89u% densidad q 7ay que utili)ar:+ cualquierasirve &ba*o ciertas condiciones' siemre que

;o todas las q igual de eos distintos m%todos de Montecarlo de Markov

di


7/13

Algoritmo de Metr#olis

1ensidades sim%tricas q&x5y'2q&y5x' aratodo x,y. E*emlo+ q&·|x' normal multivariantede media x y constante. -ambi%n caminata

aleatoria de Metroolis q&y5x'2q&5x

y5'. Probabilidad de acetaci#n+

Elecci#n del arámetro de escala &

' delicada+si yxt tiende a ser equeo &y,xt' grandeero con lenta velocidad de mi0tura.

& ' & '

& '? @, min 3, p pa 2 y

x yx


8/13

Muestreador deindeendencia

Basado en q&y5x'2q&y'. Conduce a

uele funcionar bien cuando q es unabuena aro0imaci#n a p, ero con colasmás esadas.

-íica elecci#n si alicable -C>+ q normal

multivariante de media igual a la moda de p y matri) de covarian)as algo mayor que/

& '& ' & '

& ' & '? @, min 3, p q

p qa 2

x yx y

y x

& '

3 log

i j

p

x x

!% DF (!F ( G H

x


9/13

Metroolis!"astings aso aaso &single component '

En lugar de actuali)ar X en bloque, me*orconsiderar comonentes ? X 3,X ,..., X h@ yactualit)arlas una a una.

;otaci#n+ X i 2 ? X 3,X ,..., X i3, X i43,..., X h@Cada iteraci#n dividida en h etaas.

Etaa i de t →t 43 actuali)a X t.i+ se

roone Y i seg(n qi& y i5 x t.i, x t. i', con x t. i 2 ? x t 43.3,x t 43.,..., x t 43.i3, x t.i43,..., x [email protected] con robabilidad

& ' & ' & '

& ' & '. . . . .

. . .

. . . . .

,, , min 3,

,t i t i i t i t i t i

t i t i t i

t i t i i t i t i t i

p y x q x y x x x y

p x x q y x x a !

!

!

I J K K K K 2 í L K K K K


10/13

Muestreo de $ibbs

Es el algoritmo de Montecarlo de Markov másconocido y utili)ado.

Caso articular de Metroolis!"astings aso a

aso+ emlear eguridad total de acetaci#n+ & x , y '23.

E0isten muy buenos m%todos ara generarvalores a artir de condicionales totales.

Conocido de antiguo en Mecánica estadísticadescubierto/ en los aos O6 or estadísticos.

& ' & ',i i i i iq y x x p y x ! !2


11/13

Condicionales comletas

p& x i|x i' se conoce como la distribuci#ncondicional comleta, la distribuci#n de x i dadas las restantes comonentes.

Algoritmo de Metroolis!"astings continuasiendo válido ya que el con*unto de todas lascondicionales comletas determinaunívocamente p. esultado imortante en

estadística esacial.Algoritmo aso a aso+ venta*as

comutacionales, simli


12/13

Algunas cuestiones abiertas,mal conocidas todavía

Qrden de actuali)aci#n en algoritmos aso aaso, no necesariamente actuali)ar siemreen orden i23,,...,h. &Rncluso se 7a rouesto

que orden aleatorio es me*or en ciertoscasos'.

;(mero de cadenas+ 8muestrear de variascadenas de Markov cortas &indeendientes

entre ellas' o de una (nica, larga:Elecci#n de valores iniciales x6. -e#ricamente

no imortan ero ueden inSuir en longitudde fase de calentamiento/.


13/13

Más cuestiones abiertas

>ongitud de la fase de calentamiento 1ifícil determinarla analíticamente

Criterios emíricos basados en datos generados+

T 1iagn#sticos grá

Documents

Montecarlo de Markov