Aproximação / amostragem de probabilidades complexas

Dec 16 2020

Gostaria de fazer uma pergunta bastante vaga, a fim de reunir referências e ideias sobre esse assunto.

Minha dúvida é a seguinte:

Nos casos em que o cálculo da probabilidade na estrutura bayesiana é complexo ou ineficiente computacional, quais outros métodos / aproximações existem para calcular / aproximar a probabilidade ou tirar amostras dela.

Respostas

2 jcken Dec 16 2020 at 20:31

Existem duas maneiras principais (das quais estou ciente) de lidar com esse problema quando a probabilidade é difícil de trabalhar.

O método (provavelmente) mais popular é a Computação Bayesiana Aproximada. Suponha que eu tenha observado dados$x$ e deseja inferir parâmetros $\theta$. A ideia básica por trás disso é gerar amostras de uma distribuição de probabilidade apropriada$x_{\text{synthetic}} \mid \theta \sim\text{model}(\theta)$. E se$x_{\text{synthetic}}$ é perto de $x$ reter $\theta$. página da Wikipedia para ABC . Tudo bem se não pudermos escrever a probabilidade, mas pudermos simular facilmente a partir do modelo. (por exemplo, muitos modelos do tipo predador-presa ou nascimento-morte).

Um outro método é usar um modelo substituto do Processo Gaussiano (emulador) - uma aproximação rápida do modelo 'verdadeiro'. Aqui nós basicamente construímos$\widehat{\text{model}}(\theta)$e basear as inferências em um modelo rápido e aproximado com boas propriedades estatísticas. Um artigo importante sobre a abordagem é Kennedy & O'Hagan 2001 . Embora este artigo seja sobre a calibração de um modelo determinístico, também podemos construir modelos substitutos estocásticos, por exemplo, Binois et al 2018 e usá- los para calibração / inferência. A coisa boa sobre a abordagem do emulador é que podemos escolher emular a função de verossimilhança ou construir um emulador para o modelo diretamente.