L'inférence fréquentiste est-elle objective?

Question

La statistique bayésienne est critiquée pour être subjective, car elle nécessite une distribution préalable encapsulant les croyances subjectives de l'observateur. Les statistiques fréquentistes sont communément annoncées comme étant objectives (car elles ne nécessitent pas de choisir un a priori, parce que leurs probabilités sont définies de manière objective, ou pour une raison quelconque dont je ne suis pas vraiment sûr), cependant Wald a prouvé que la plupart des règles de décision recevables dans Frequentist les statistiques sont chacune équivalentes à une règle de Bayes utilisant un a priori (qui peut être incorrect entre autres, mais il existe). On pourrait penser que les règles fréquentistes sont non informatives, mais le calcul des a priori non informatifs peut donner des résultats différents de ceux fréquentistes (comme dans le cas de la distribution de Bernoulli, par exemple). Mes questions sont les suivantes:

1. Y a-t-il une raison objective de choisir les prieurs associés aux règles de décision fréquentistes plutôt que les autres?
2. Sinon, cela signifie-t-il que l'inférence fréquentiste est subjective?
3. Si oui, quelle est la croyance / connaissance personnelle que nous injectons lorsque nous utilisons l'inférence fréquentiste?

Merci d'avance!

Answer 1

Permettez-moi de rappeler (à partir de mon livre ) le cadre précis de la caractérisation par Wald des estimateurs admissibles: premièrement, les théorèmes de Stein pour que les procédures admissibles soient la limite des procédures de Bayes:

Charles Stein (1955) a produit une condition nécessaire et suffisante : si (i)$f(x|\theta)$ est continue dans $\theta$ et strictement positif sur $\Theta$; et (ii) la fonction de perte$\text{L}(\cdot,\cdot)$ est strictement convexe, continue et, si $E\subset\Theta$ est compact, $$ \lim_{\|\delta\|\rightarrow +\infty} \inf_{\theta\in E} \text{L}(\theta,\delta) =+\infty, $$ puis un estimateur $\delta$ est admissible si, et seulement si, il existe (a) une séquence $(F_n)$ d'ensembles compacts croissants tels que $\Theta=\bigcup_n F_n$, (b) une séquence $(\pi_n)$ de mesures finies avec support $F_n$, et (c) une séquence $(\delta_n)$ d'estimateurs de Bayes associés à $\pi_n$ tel que

1. il existe un ensemble compact $E_0\subset \Theta$ tel que $\inf_n \pi_n(E_0) \ge 1$;
2. si $E\subset \Theta$ est compact, $\sup_n \pi_n(E) <+\infty$;
3. $\lim_n r(\pi_n,\delta)-r(\pi_n) = 0$; et
4. $\lim_n R(\theta,\delta_n)= R(\theta,\delta)$.

Larry Brown (1986) propose une caractérisation alternative et assez générale des estimateurs admissibles. Considérer$x\sim f(x|\theta)$et assumer $\text{L}$ être semi-continu inférieur et tel que $$ \lim_{||\delta||\rightarrow +\infty} \text{L}(\theta,\delta) = +\infty. $$ Brown (1986) montre que, dans ces conditions, la clôture (pour la convergence ponctuelle) de l'ensemble de tous les estimateurs de Bayes est une classe complète.

Proposition Si L est strictement convexe, tout estimateur admissible de$\theta$ est une limite ponctuelle des estimateurs de Bayes pour une séquence de prieurs avec des supports finis.

Deuxièmement, le résultat de classe complet du générique Wald (1950):

Théorème Considérons le cas où$\Theta$ est compact et l'ensemble des risques $$ \mathcal R = \{(R(\theta,\delta))_{\theta\in\Theta},\ \delta\in\mathcal D^*\}, $$ est convexe (où $\mathcal D^*$désigne l'ensemble des décisions aléatoires). Si tous les estimateurs ont une fonction de risque continue, les estimateurs de Bayes constituent une classe complète.

et une remarque sur les cas où il ne tient pas:

Dans le cas des distributions avec support discret, l'exhaustivité des estimateurs Bayes généralisés n'est pas toujours valable et les classes complètes impliquent des procédures bayésiennes par morceaux (voir Berger et Srinivasan (1978), Brown (1981) et Brown et Farrell (1985)).

Ces résultats n'impliquent pas que chaque estimateur admissible puisse être associé à un a priori correct ou un a priori incorrect. De plus, même si c'est le cas, il y a autant de prieurs «admissibles» que d'estimateurs admissibles, d'où aucune restriction apparente sur le choix des a priori. (C'est pourquoi l'admissibilité est une caractéristique souhaitable plutôt qu'une propriété d'optimalité en soi.)

De la même manière que la notion d'un préalable «objectif», «non informatif», «par défaut» ne rencontre pas de consensus dans la communauté bayésienne, il n'y a pas de consensus sur une procédure fréquentiste par défaut qui conduirait à la notion de «fréquentiste avant". On notera par ailleurs qu'associer un a priori à une procédure fréquentiste dépend du choix de la fonction de perte L, donc variant avec la quantité d'intérêt.

Answer 2

J'ai longuement discuté de votre question 2 dans l'annexe E de mon doctorat. thèse (Hatton, 2003, Spin-polarized electron scattering at ferromagnetic interfaces , University of Cambridge). La position que j'ai finalement atteinte était que la véritable objectivité est atteinte lorsque (généralement en raison du fait d'avoir beaucoup de données) les caractéristiques clés de la distribution postérieure deviennent indépendantes du choix du prior sur un certain domaine des a priori «raisonnables». L'approche fréquentiste, considérée comme ayant un a priori comme vous le suggérez, cache le prieur et le rend immuable, ce qui empêche de tester l'objectivité, lorsque l'objectivité est conçue de la manière que je suggérais.

BTW, je ne connaissais pas la preuve de Wald selon laquelle «chaque règle de décision recevable dans les statistiques Frequentist équivaut à une règle de Bayes utilisant un a priori convenablement choisi». Avez-vous une citation spécifique? (Dans ma thèse (annexe D), j'ai donné ma propre preuve, mais la mienne ne fonctionne que pour un certain sous-ensemble de tests de signification fréquentistes.)