Вероятность отклонения при почти точном неравенстве Дженсена
Это перекрестный пост на вопрос, на который еще нет ответа в Math StackExchange.
https://math.stackexchange.com/questions/3906767/probability-of-a-deviation-when-jensen-s-inequality-is-almost-tight
Позволять $X>0$быть случайной величиной. Предположим, мы знали, что для некоторых$\epsilon \geq 0$, \ begin {eqnarray} \ log (E [X]) \ leq E [\ log (X)] + \ epsilon \ tag {1} \ label {eq: primary} \ end {eqnarray} Вопрос: если$\epsilon$мала, можем ли мы найти хорошую оценку для \ begin {eqnarray *} P \ left (\ log (X)> E [\ log (X)] + \ eta \ right) \ end {eqnarray *} для данного$\eta > 0$. Одна граница может быть получена следующим образом: \ begin {eqnarray *} P \ left (\ log (X)> E [\ log (X)] + \ eta \ right) & = & P \ left (X> \ exp ( E [\ log (X)] + \ eta) \ right) \\ & \ leq & E [X] / \ exp (E [\ log (X)] + \ eta) \\ & = & \ exp (\ log E [X] - E [\ log (X)] - \ eta) \\ & \ leq & \ exp (\ epsilon - \ eta) \ end {eqnarray *}, где первое неравенство следует из неравенства Маркова. Это кажется хорошей оценкой из-за экспоненциального затухания с$\eta$, но при ближайшем рассмотрении оказывается, что его можно значительно улучшить. Если у нас есть$\epsilon = 0$, то эти границы дают \ begin {eqnarray} P \ left (\ log (X)> E [\ log (X)] + \ eta \ right) & \ leq & \ exp (- \ eta) \ tag {2} \ label {eq: good_but_not_best} \ end {eqnarray} Однако из неравенства Дженсена, примененного к (\ ref {eq: primary}) с$\epsilon = 0$ мы получаем $\log(E[X]) = E[\log(X)]$ и поэтому $X$постоянная почти везде. Как следствие, для любого$\eta>0$, \ begin {eqnarray *} P \ left (\ log (X)> E [\ log (X)] + \ eta \ right) = 0. \ end {eqnarray *}, что (конечно) бесконечно лучше, чем ( \ ref {eq: good_but_not_best}).
Казалось бы, лучшая граница должна исчезнуть до нуля при $\epsilon$ распадается, и в идеале сохранить экспоненциальный распад с $\eta$. Какие-либо предложения?
(Я знаю, что версия этого вопроса уже задавалась ранее « Количественная версия неравенства Дженсена»? )
Ответы
$\newcommand\ep\epsilon $Позволять $u:=\eta>0$, так что рассматриваемая вероятность равна $P(\ln X>E\ln X+u)$. Обратите внимание, что эта вероятность не изменится, если мы заменим там$X$ от $tX$ для любого реального $t>0$. Итак, без потери общности \ begin {уравнение *} E \ ln X = 0, \ tag {-1} \ end {уравнение *} и, следовательно, ваше условие (1) может быть переписано как \ begin {уравнение *} EX \ le e ^ \ ep, \ tag {0} \ end {уравнение *}, а затем рассматриваемая вероятность упрощается до \ begin {Equation *} P (X> v), \ end {уравнение *} где \ begin {уравнение * } v: = e ^ u> 1. \ end {формула *} Возьми сейчас любую$z\in(0,v)$ и на самом деле $x>0$пусть
\ begin {уравнение *} g (x): = ax-b \ ln x + c, \ end {уравнение *} где \ begin {уравнение *} a: = a (z): = \ frac {1 / v } {h (r)}, \ quad b: = b (z): = az, \ quad c: = c (z): = az \ ln \ frac ze, \ end {уравнение *} \ begin {уравнение * } h (r): = 1-r + r \ ln r, \ quad r: = z / v \ in (0,1). \ end {уравнение *} Обратите внимание, что функция$h$ уменьшается на $(0,1)$, с участием $h(1-)=0$. Так,$h>0$ на $(0,1)$ и, следовательно $a>0$ и $b>0$. Итак, функция$g$ выпуклый на $(0,\infty)$. Кроме того, \ begin {уравнение *} g (z) = g '(z) = 0, \ quad g (v) = 1. \ end {Equation *} Отсюда следует, что$g(x)\ge1(x>v)$ для всех реальных $x>0$и, следовательно, ввиду (-1) и (0),
\ begin {уравнение *} P (X> v) \ le Eg (X) = a \, EX + c \ le ae ^ \ ep + c. \ tag {1} \ end {формула *} Последнее выражение,$ae^\ep+c$, в (1) теперь можно минимизировать в $z\in(0,v)$, с минимизатором, выраженным в терминах Ламберта $W$ функция.
Неоптимальный, но простой выбор $z=1$в (1) дает \ begin {уравнение *} P (\ ln X> E \ ln X + u) = P (X> v) \ le \ frac {e ^ \ ep-1} {v-1- \ ln v} \ end {уравнение *} и, следовательно, \ begin {уравнение *} P (\ ln X> E \ ln X + u) \ le B_ \ ep (u): = \ min \ Big (1, \ frac {e ^ \ ep-1} {e ^ u-1-u} \ Большой). \ end {уравнение *} Простая верхняя граница$B_\ep(u)$ имеет оба желаемых свойства:
(i) для каждого реального $u>0$ \ begin {уравнение *} B_ \ ep (u) \ underset {\ ep \ downarrow0} \ longrightarrow0; \ end {уравнение *}
(ii) равномерно по всем $\ep\in(0,1)$(скажем) \ begin {уравнение *} B_ \ ep (u) = O (e ^ {- u}) \ end {уравнение *} как$u\to\infty$.