Debiasing embeddings kata

Question

Saya membaca makalah berjudul "pria ke komputer programmer adalah wanita ke ibu rumah tangga. Debiasing kata embeddings" . Saya sekarang mencoba untuk mencari tahu matematika dan logika di baliknya dan baik-baik saja sampai saya mencapai bagian menetralkan dan menyamakan. Adakah yang bisa menjelaskan persamaan di Step3?

Saya mengerti bahwa itu adalah beberapa cara mengambil rata-rata arah bias dari rata-rata himpunan dan kemudian untuk setiap kata menambahkan rata-rata yang dihilangkan ini ke vektor kata yang dihilangkan, tetapi sepertinya saya tidak bisa mendapatkan matematika di antara mereka di mana dikatakan $\sqrt{1-||v||^2}.$

Terima kasih sebelumnya!

Answer 1

Sepertinya istilah itu $\sqrt{1-||\nu||^2}$ ditambahkan untuk memastikan bahwa norma $\vec{w}$ adalah $1$.

Sejak $\nu$ dan $\vec{w}_B-\mu_B$ ortogonal, dalam rumus bergaris bawah merah yang Anda dapatkan $||\vec{w}||^2 = ||\nu||^2 + (1-||\nu||^2)\frac{||\vec{w}_B-\mu_B||^2}{||\vec{w}_B-\mu_B||^2} = 1$.