Aproksymacja / próbkowanie złożonych prawdopodobieństw

Dec 16 2020

Chciałbym zadać dość niejasne pytanie, aby zebrać odniesienia i pomysły na ten temat.

Moje pytanie jest następujące:

W przypadkach, gdy obliczanie prawdopodobieństwa w strukturze bayesowskiej jest złożone lub obliczeniowe nie jest łatwe, jakie inne metody / przybliżenia istnieją w celu obliczenia / przybliżenia prawdopodobieństwa lub pobrania z niego próbek.

Odpowiedzi

2 jcken Dec 16 2020 at 20:31

Są dwa główne sposoby (o których wiem) radzenia sobie z tym problemem, gdy prawdopodobieństwo jest trudne do wykorzystania.

(Prawdopodobnie) bardziej popularną metodą są przybliżone obliczenia bayesowskie. Załóżmy, że zaobserwowałem dane$x$ i chcesz wywnioskować parametry $\theta$. Podstawową ideą jest wygenerowanie próbek z odpowiedniego rozkładu prawdopodobieństwa$x_{\text{synthetic}} \mid \theta \sim\text{model}(\theta)$. Jeśli$x_{\text{synthetic}}$ jest blisko do $x$ zachować $\theta$. strona wikipedii dla ABC . Jest to w porządku, jeśli nie możemy zapisać prawdopodobieństwa, ale możemy łatwo przeprowadzić symulację na podstawie modelu. (np. wiele modeli typu drapieżnik-ofiara lub śmierć od urodzenia).

Inną metodą jest użycie zastępczego modelu procesu Gaussa (emulatora) - szybkiego przybliżenia do „prawdziwego” modelu. Tutaj w zasadzie konstruujemy$\widehat{\text{model}}(\theta)$i opieraj wnioski na szybkim, przybliżonym modelu z ładnymi właściwościami statystycznymi. Kluczowym artykułem na temat tego podejścia jest Kennedy & O'Hagan 2001 . Chociaż ten artykuł dotyczy kalibracji modelu deterministycznego, możemy również skonstruować stochastyczne modele zastępcze, np. Binois i wsp. 2018 i wykorzystać je do kalibracji / wnioskowania. Zaletą podejścia emulatora jest to, że możemy wybrać emulację funkcji prawdopodobieństwa lub bezpośrednio zbudować emulator dla modelu.