Embeddings de palabras de debiasing
Estoy leyendo el artículo titulado "hombre a programador de computadora es mujer a ama de casa. Debiasing las incrustaciones de palabras" . En este momento estoy tratando de averiguar las matemáticas y la lógica detrás de esto y lo estaba haciendo bien hasta que llegué a la parte de neutralización y ecualización. ¿Alguien puede explicar la ecuación en el Paso 3?
Entiendo que de alguna manera se toma el promedio de las direcciones de sesgo del promedio del conjunto y luego, para cada palabra, se agrega este promedio con desvanecimiento al vector de palabra con desvanecimiento, pero parece que no puedo obtener las matemáticas entre ellos donde dice $\sqrt{1-||v||^2}.$
¡Gracias por adelantado!
Respuestas
Parece el término $\sqrt{1-||\nu||^2}$ fue agregada para asegurar que la norma de $\vec{w}$ es $1$.
Ya que $\nu$ y $\vec{w}_B-\mu_B$ son ortogonales, en la fórmula subrayada en rojo se obtiene $||\vec{w}||^2 = ||\nu||^2 + (1-||\nu||^2)\frac{||\vec{w}_B-\mu_B||^2}{||\vec{w}_B-\mu_B||^2} = 1$.