Konsentrasi Norma untuk Sub-gaussians
Saya membaca Teorema 3.1.1 dalam buku HDP oleh Vershynin. Teorema menyatakan bahwa
$ \text{Let } X=\left(X_1,\ldots,X_n \right) \text{be a random vector with independent, sub-gaussian coordinates } X_i \text{ that satisfy } \mathbb{E}X_i^2=1. \text{Then}$ $$ \| \| X\|_2-\sqrt{n}\|\|_{\psi_2} \leq CK^2$$ $ \text{where } K=\max_i{\|X_i\|_{\psi_2}} \text{ and } C \text{ is an absolute constant.}$
Itu $\psi_2$ norma adalah norma Orlicz dengan fungsi Orlicz $\psi(x)=e^{x^2}-1. $
Saya menemukan tempat yang tidak saya mengerti dalam buktinya.
Seluruh bukti hanya menunjukkan itu $ \| X \|_2 -\sqrt{n} $adalah variabel acak sub-gaussian. Dan pada kalimat terakhir, penulis hanya mengatakan itu setara dengan kesimpulan teorema.
Saya ingin bertanya tentang kesetaraan di kalimat terakhir.
Saya telah mencoba melihat properti pemusatan sub-gaussian, tetapi tampaknya begitu $\sqrt n \neq \mathbb{E}\|X\|_2 $. Setiap petunjuk atau ide dihargai.
Jawaban
Saya mengikuti kursus HDP yang menjadi dasar buku ini dan menurut saya hasil ini juga membutuhkan waktu lama! Ada sedikit alasan "perasaan melingkar" yang harus Anda lakukan yang tidak (setidaknya bagi saya) segera terlihat. Singkatnya, ada dua hal yang berperan:
- Pertama, dari pembuktian kita memiliki ketimpangan konsentrasi $$\mathbb{P}\left\{ \big| ||X||_2 - \sqrt{n} \big|\geq t\right\} \leq 2 \exp\left(-\frac{ct^2}{K^4}\right) \\ = 2 \exp\left(-\frac{ct^2}{(K^2)^2}\right)$$ yang berlaku untuk semua $t \geq 0$. Seperti yang Anda sebutkan, ini berarti istilah nilai absolut adalah sub-Gaussian dengan parameter$K^2$. Dari Proposisi 2.5.2, kita tahu bahwa ada padanan (hingga faktor konstan)$K_1=c_1K^2$ seperti yang $\mathbb{E}\exp\left(X^2/K_1^2\right) \leq 2$.
- Dari definisi norma Orlicz, $$\big|\big| ||X||_2 - \sqrt{n}\big|\big|_{\psi_2} $$yang menentukan norma sebagai infimum atau positif minimal$t$ dengan $\mathbb{E}\exp\left(X^2/t^2\right) \leq 2$. Dari sini, kami menyimpulkan bahwa norma tidak boleh lebih dari$K_1$. Kami berhubungan$K_1$ untuk $K^2$ di atas dan hasilnya mengikuti.