Debiasing word embeddings

Oct 08 2020

Estou lendo o artigo intitulado "homem para programador de computador é mulher a dona de casa. Debiasing embeddings palavra" . Estou agora tentando descobrir a matemática e a lógica por trás disso e estava indo bem até chegar à parte de neutralizar e equalizar. Alguém pode explicar a equação na Etapa 3?

Eu entendo que é de alguma forma tirar a média das direções de polarização da média do conjunto e, em seguida, para cada palavra, adiciona essa média distorcida ao vetor de palavra distorcida, mas não consigo entender a matemática entre elas onde diz $\sqrt{1-||v||^2}.$

Desde já, obrigado!

Respostas

2 Noname Oct 09 2020 at 05:07

Parece o termo $\sqrt{1-||\nu||^2}$ foi adicionado a fim de garantir que a norma de $\vec{w}$ é $1$.

Desde a $\nu$ e $\vec{w}_B-\mu_B$ são ortogonais, na fórmula sublinhada em vermelho você obtém $||\vec{w}||^2 = ||\nu||^2 + (1-||\nu||^2)\frac{||\vec{w}_B-\mu_B||^2}{||\vec{w}_B-\mu_B||^2} = 1$.