¿Una distribución posterior tiene una varianza más alta que la anterior uniforme?
Estoy trabajando en algunas inversiones bayesianas con cadenas MCMC, la parte posterior de uno de los parámetros (que se sabe que es malo) resultó tener una variación (ligeramente) mayor que el uniforme antes de que comenzara, no estoy realmente seguro de cómo explicar esto resultado matemáticamente, dudo que sea un error numérico. Si alguno de ustedes pudiera proporcionar alguna explicación o referencia relacionada, sería genial.
Para su información, la siguiente figura es el (histograma) posterior al que me refiero: histograma de
La varianza de estas muestras posteriores es 1,7539
El a priori uniforme es anterior ~ U [0.002, 4.5], que tiene una varianza de 1.6860
Respuestas
Según La varianza máxima de Restricted Unimodal Distribuciones, Harold I. Jacobson, The Annals of Mathematical Estadísticas 40 (1969), 1746 a 1752 , la varianza de una distribución unimodal constreñido a estar en un cierto intervalo puede ser más grande que la varianza de la uniforme. Rara vez sucede pero puede suceder.
Su histograma parece implicar que los datos sugieren que el parámetro está alrededor de 0,4 aproximadamente con alta probabilidad, sin embargo, todavía es compatible con el parámetro que está muy lejos de él; la densidad en 4.5 no es realmente mucho más baja que en 2, digamos. Normalmente, esto tendría que ver con la naturaleza precisa del parámetro. Puede suceder si un parámetro es de tal naturaleza que si genera datos a partir de un modelo con un valor de parámetro fijo, de, digamos, 4.5, ocasionalmente (con baja pero no muy baja probabilidad) puede suceder que los datos se vean como si el valor del parámetro 0.4 los ha producido. De manera más general, un parámetro a menudo puede generar datos que se correspondan bien con lo que se espera dado su valor, pero con una probabilidad no demasiado baja producirá "datos perdidos" que no se acercan a lo que el parámetro produce normalmente.