Wahrscheinlichkeit einer Abweichung, wenn Jensens Ungleichung fast eng ist
Dies ist ein Cross-Post zu einer noch nicht beantworteten Frage in Math StackExchange
https://math.stackexchange.com/questions/3906767/probability-of-a-deviation-when-jensen-s-inequality-is-almost-tight
Lassen $X>0$eine Zufallsvariable sein. Nehmen wir an, wir wüssten das für einige$\epsilon \geq 0$, \ begin {eqnarray} \ log (E [X]) \ leq E [\ log (X)] + \ epsilon \ tag {1} \ label {eq: primary} \ end {eqnarray} Die Frage lautet: if$\epsilon$ist klein, können wir eine gute Grenze für \ begin {eqnarray *} P \ left (\ log (X)> E [\ log (X)] + \ eta \ right) \ end {eqnarray *} für eine gegebene finden$\eta > 0$. Eine Grenze kann auf folgende Weise erhalten werden: \ begin {eqnarray *} P \ left (\ log (X)> E [\ log (X)] + \ eta \ right) & = & P \ left (X> \ exp ( E [\ log (X)] + \ eta) \ rechts) \\ & \ leq & E [X] / \ exp (E [\ log (X)] + \ eta) \\ & = & \ exp (\ log E [X] - E [\ log (X)] - \ eta) \\ & \ leq & \ exp (\ epsilon - \ eta) \ end {eqnarray *}, wobei die erste Ungleichung aus Markovs Ungleichung folgt. Dies scheint aufgrund des exponentiellen Zerfalls mit eine gute Grenze zu sein$\eta$Bei näherer Betrachtung scheint es jedoch deutlich zu verbessern. Wenn wir haben$\epsilon = 0$, dann ergibt diese Grenze \ begin {eqnarray} P \ left (\ log (X)> E [\ log (X)] + \ eta \ right) & \ leq & \ exp (- \ eta) \ tag {2} \ label {eq: good_but_not_best} \ end {eqnarray} Aus Jensens Ungleichung für (\ ref {eq: primary}) mit$\epsilon = 0$ wir erhalten $\log(E[X]) = E[\log(X)]$ und deshalb $X$ist fast überall eine Konstante. Infolgedessen für jeden$\eta>0$, \ begin {eqnarray *} P \ left (\ log (X)> E [\ log (X)] + \ eta \ right) = 0. \ end {eqnarray *}, was (natürlich) unendlich besser ist als ( \ ref {eq: good_but_not_best}).
Es scheint, dass eine bessere Grenze als auf Null abfallen sollte $\epsilon$ zerfällt und bewahrt idealerweise den exponentiellen Zerfall mit $\eta$. Irgendwelche Vorschläge?
(Mir ist bekannt, dass eine Version dieser Frage zuvor gestellt wurde. Quantitative Version von Jensens Ungleichung? )
Antworten
$\newcommand\ep\epsilon $Lassen $u:=\eta>0$, so dass die fragliche Wahrscheinlichkeit ist $P(\ln X>E\ln X+u)$. Beachten Sie, dass sich diese Wahrscheinlichkeit nicht ändert, wenn wir dort ersetzen$X$ durch $tX$ für jeden echten $t>0$. Ohne Verlust der Allgemeinheit \ begin {Gleichung *} E \ ln X = 0 kann \ tag {-1} \ end {Gleichung *} und damit Ihre Bedingung (1) als \ begin {Gleichung *} EX \ umgeschrieben werden le e ^ \ ep, \ tag {0} \ end {Gleichung *} und dann vereinfacht sich die fragliche Wahrscheinlichkeit zu \ begin {Gleichung *} P (X> v), \ end {Gleichung *}, wobei \ begin {Gleichung * } v: = e ^ u> 1. \ end {Gleichung *} Nimm jetzt eine$z\in(0,v)$ und für alle echt $x>0$sei
\ begin {Gleichung *} g (x): = ax-b \ ln x + c, \ end {Gleichung *} wobei \ begin {Gleichung *} a: = a (z): = \ frac {1 / v } {h (r)}, \ quad b: = b (z): = az, \ quad c: = c (z): = az \ ln \ frac ze, \ end {Gleichung *} \ begin {Gleichung * } h (r): = 1-r + r \ lnr, \ quadr: = z / v \ in (0,1). \ end {Gleichung *} Beachten Sie, dass die Funktion$h$ nimmt ab $(0,1)$mit $h(1-)=0$. So,$h>0$ auf $(0,1)$ und daher $a>0$ und $b>0$. Also die Funktion$g$ ist konvex auf $(0,\infty)$. Außerdem ist \ begin {Gleichung *} g (z) = g '(z) = 0, \ quad g (v) = 1. \ end {Gleichung *} Daraus folgt$g(x)\ge1(x>v)$ für alle echt $x>0$und daher ist im Hinblick auf (-1) und (0)
\ begin {Gleichung *} P (X> v) \ le Eg (X) = a \, EX + c \ le ae ^ \ ep + c. \ tag {1} \ end {Gleichung *} Letzterer Ausdruck,$ae^\ep+c$, in (1) kann nun in minimiert werden $z\in(0,v)$mit dem Minimierer ausgedrückt in Lamberts $W$ Funktion.
Die suboptimale aber einfache Wahl $z=1$in (1) ergibt \ begin {Gleichung *} P (\ ln X> E \ ln X + u) = P (X> v) \ le \ frac {e ^ \ ep-1} {v-1- \ ln v} \ end {Gleichung *} und damit \ begin {Gleichung *} P (\ ln X> E \ ln X + u) \ le B_ \ ep (u): = \ min \ Big (1, \ frac {e ^ \ ep-1} {e ^ u-1-u} \ Big). \ end {Gleichung *} Die einfache Obergrenze$B_\ep(u)$ hat beide gewünschten Eigenschaften:
(i) für jeden Real $u>0$ \ begin {Gleichung *} B_ \ ep (u) \ underset {\ ep \ downarrow0} \ longrightarrow0; \ end {Gleichung *}
(ii) insgesamt einheitlich $\ep\in(0,1)$(sprich) \ begin {Gleichung *} B_ \ ep (u) = O (e ^ {- u}) \ end {Gleichung *} as$u\to\infty$.