Día Internacional de las Personas con Discapacidad: Discapacidad, Tecnocapacidad y las Tres Espadas de la Justicia AI

por Nadia Metoui

Tenga en cuenta que esta es la primera parte. La Parte 2 se publicará el 9 de diciembre y se centrará en "La discapacidad y las tres espadas de la justicia de la IA".

El progreso de las tecnologías digitales durante las últimas tres décadas dio un impulso positivo a la diversidad y la inclusión, permitiendo el cambio cultural hacia la creación de un sentimiento de pertenencia para muchos grupos minoritarios. Las tecnologías de la información y la comunicación (TIC), por ejemplo, han permitido a las comunidades formar, conectar y empoderar a sus miembros a través de múltiples fronteras (físicas y actitudinales). Las redes sociales brindan la oportunidad de expresar a las minorías, dándoles la posibilidad de crear y difundir noticias y contenido que los medios tradicionales no promovieron y, a menudo, aún no promueven. Las herramientas de teleconferencia y teletrabajo vienen rompiendo o bajando muchas barreras (reduciendo la situación de discapacidad) para las personas con deficiencias, limitaciones de participación, enfermedades crónicas y trastornos crónicos, permitiéndoles incorporarse al mundo laboral.

Como una de las tendencias tecnológicas más recientes, la inteligencia artificial (IA) y el aprendizaje automático (ML) tienen el potencial de hacer más y ayudarnos a desarrollar lugares de trabajo y sociedades verdaderamente inclusivos. Incluso pueden ampliar los límites de lo posible y aumentar las habilidades de todos, no solo de las personas con discapacidades.

Sin embargo, existen varias trampas para presentar las tecnologías de IA (o cualquier otra tecnología) como la solución definitiva a los problemas y desafíos de "Cada", "Cada" y "Todos" en torno a la accesibilidad, la inclusión y la justicia para las personas con discapacidad.

¿Qué es la discapacidad?

Modelos de discapacidad y proceso de creación de discapacidades
Antes de sumergirnos de cabeza y enumerar los problemas y las deficiencias de las tecnologías de IA, exploremos un poco de terreno, y como se podría decir, una comprensión innovadora de la discapacidad. Entonces, ¿qué es la discapacidad? La respuesta no es tan sencilla, depende del modelo que se adopte para definir la discapacidad. Como se insinuó anteriormente, existen varias concepciones o modelos de discapacidad; estos diferentes modelos se pueden clasificar en dos categorías.

La categoría individualista:
Esta categoría de modelos de discapacidad considera la discapacidad como un 'déficit', 'defecto' o 'anormalidad' que se encuentra en el cuerpo y/o la mente de las personas discapacitadas que las hace 'no aptas'. Por lo tanto, este déficit se considera una cuestión del individuo, que 'otros' necesitan 'arreglar', para que la persona con discapacidad tenga una 'vida normal'. Desde una perspectiva social, la discapacidad (y las personas discapacitadas) se considera una carga y un inconveniente que debe 'irradiarse' u 'ocultarse' para que 'todos' puedan vivir en una sociedad normal o se considera una 'tragedia' para 'otros' y la sociedad para ser caritativo hacia. La categoría individualista más común es el modelo médico de discapacidad. La discapacidad es percibida como una enfermedad o condición médica que debe ser curada. Una persona con alguna discapacidad se considera una “persona discapacitada”. Personal medico, los expertos e investigadores (a menudo “no discapacitados”) tienen el conocimiento sobre la “discapacidad” y el poder de decisión sobre su cura. El conocimiento y la experiencia de la persona con discapacidad a menudo no se tienen en cuenta en este modelo. Dos modelos muy similares son el modelo de rehabilitación y el modelo solidario. El primero pretende minimizar la presencia de la discapacidad en la sociedad. Este último etiqueta la discapacidad como una “tragedia” y algunas “personas discapacitadas” como merecedoras de caridad.

Aunque los enfoques del modelo de discapacidad individualista parecen benévolos, pueden ser muy capacitados y perjudiciales para las personas con discapacidad. Refuerzan la idea de que la persona con discapacidad es “un problema”. El modelo médico y el modelo de rehabilitación tienen autoridad. Infantilizan a las personas con discapacidad, rara vez “creen” en sus experiencias o que pueden saber lo que es mejor para ellos, y muy a menudo ignoran su derecho a la agencia y la libertad de elección. Esto puede conducir a prácticas horribles y poco éticas, como el aislamiento y el internamiento, la esterilización forzada, etc. El modelo de caridad también puede crear segregación entre categorías de personas con discapacidad y declarar a algunas de ellas “reales” y “dignas de ayuda” y otras “no real” e “indigno”…

La categoría social:
Esta categoría percibe la discapacidad como una construcción social. “Discapacidad y funcionamiento” en esta categoría son consecuencias contextuales de un entorno dado (por ejemplo, actitudes sociales, características arquitectónicas, estructuras legales y sociales, así como clima, terreno, etc.); impedimentos (comúnmente utilizados en un sentido médico, pueden ser causados ​​por enfermedades, trastornos, lesiones, etc.), y factores personales internos (incluidos el género, la edad, el origen social, la educación, la profesión, la experiencia pasada y actual, etc.). Entonces, en esta categoría, hay una distinción entre deficiencia y discapacidad. El deterioro se refiere al estado "individual", que puede afectar o no la capacidad de una persona para participar en la sociedad. La discapacidad, sin embargo, es un juicio sociocultural impuesto por la sociedad sobre las capacidades de un individuo. Una persona que no puede ver en la oscuridad no se considera discapacitada. No ver en la oscuridad se considera socialmente "normal". Una persona a la que le falta una extremidad o que no se ha formado por completo a menudo se considera "anormal", por lo que, incluso si puede caminar perfectamente, se etiqueta como la percepción social de lo que es "caminar normal" los consideraría "discapacitados". Por lo tanto cambiar las percepciones sociales es lo que alivia la situación de discapacidad en este caso. Los modelos sociales de discapacidad consideran como una responsabilidad social paliar las situaciones de discapacidad y disminuir las barreras a las que se enfrentan las personas con discapacidad. ” por lo que incluso si son perfectamente capaces de caminar están etiquetados como la percepción social de lo que es “caminar normal” los consideraría “discapacitados”. Por lo tanto cambiar las percepciones sociales es lo que alivia la situación de discapacidad en este caso. Los modelos sociales de discapacidad consideran como una responsabilidad social paliar las situaciones de discapacidad y disminuir las barreras a las que se enfrentan las personas con discapacidad. ” por lo que incluso si son perfectamente capaces de caminar están etiquetados como la percepción social de lo que es “caminar normal” los consideraría “discapacitados”. Por lo tanto cambiar las percepciones sociales es lo que alivia la situación de discapacidad en este caso. Los modelos sociales de discapacidad consideran como una responsabilidad social paliar las situaciones de discapacidad y disminuir las barreras a las que se enfrentan las personas con discapacidad.

¡Bueno saber! Pero, ¿qué tiene que ver todo esto con la IA?

Tecno-solucionismo y Tecno-capacitismo
Hay muchos riesgos asociados con el uso de la IA. Los sesgos de la IA, incluidos el racismo, la misoginia, la seguridad y las amenazas a la seguridad, no dejaron de aparecer en los titulares de las noticias durante la última década. En particular, las personas con discapacidad a menudo son objeto de discriminación cuando la IA se utiliza en campos como la salud (pólizas de seguros, prioridad de tratamiento, etc.), la admisión a la escuela y la universidad, la contratación laboral, la evaluación del desempeño laboral, las redes sociales, el transporte y la movilidad, etc. La discriminación contra las personas con discapacidad a veces se denominableísmo Al igual que otras formas de discriminación, el capacitismo también puede ser indirecto, involuntario o estar cubierto por un velo de imparcialidad o benevolencia. Esto puede ser tanto a nivel individual (por ejemplo, comportamiento capacitado) como estructural (por ejemplo, políticas capacitados, diseño capacitado). El capacitismo también puede ser impulsado por creencias problemáticas y una comprensión de la discapacidad similar a las que se explican en los modelos de discapacidad individualistas.

La IA, al igual que cualquier otra tecnología, es producto y reflejo de la sociedad en la que vivimos (y vivimos). Está influenciada por decisiones políticas, económicas y organizativas tomadas en el pasado, y hereda (y resulta que amplifica ) las carencias y sesgos de su entorno. El tecnocapacitismo de la IA ocurre cuando permitimos que las narrativas (y prácticas) capacitistas sobre las personas con discapacidad den forma a nuestra imaginación digital y tecnológica. AI puede ser tecno-capacitista de varias maneras. Mencionamos anteriormente el ejemplo de la exclusión y discriminación de las personas con discapacidad en varios campos. Estas injusticias se suman a la precariedad social y económica ya impuesta históricamente a estos individuos en el llamado mundo fuera de línea. Además, la eficiencia, la inclusión, la seguridad,

Otra forma es el tecno-capacitismo a través del tecno-solucionismo. El tecno-solucionismo es la idea de que la tecnología (IA en este contexto) puede y debe usarse para resolver todos los problemas sociales. En el contexto de las personas con discapacidad, el tecno-solucionismo de la IA a menudo se disfraza como "empoderar a las personas con discapacidad a través de las tecnologías" y, al mismo tiempo, se atiene a las mismas ideas y prácticas capacitistas, a saber, la necesidad de "arreglar" a las personas con discapacidad para ellos. para “encajar” en el mundo normal. Además, el tecno-solucionismo es a menudo el árbol que esconde un bosque de problemas “impulsados ​​por las ganancias”. La industria de la IA se ha vuelto notoria por priorizar las ganancias, prometer demasiado, cumplir de manera insuficiente y ocultar o ignorar los problemas de seguridad y confiabilidad. En el contexto de la discapacidad, esto generará, en el mejor de los casos, productos costosos y decepcionantes y, en el peor de los casos, dañinos y que amenazan la vida.

No hay duda de que la IA llegó para quedarse. Por un lado, la IA es una tecnología poderosa que puede hacer mucho para ayudarnos a entendernos y mejorarnos a nosotros mismos, nuestro mundo y nuestras sociedades. Por otro lado, los productos de IA son disruptivos y versátiles; conllevan riesgos que son difíciles de predecir, pueden aumentar rápidamente y tener impactos devastadores al excluir, alienar y dañar a grupos vulnerables, incluidas las personas con discapacidad. La elección que nos queda ya no es si usar IA o no. Es, en cambio, qué tipo de IA queremos. El que infantiliza, excluye y entorpece a grupos históricamente marginados. ¿O el que incluye, empodera y protege a todos los miembros de la sociedad, incluidas las personas con deficiencias, limitaciones de actividad y restricciones de participación, las personas con discapacidad?

Autor

Nadia Metoui es profesora asistente en IA responsable, datos y digitalización en la Universidad Tecnológica de Delft en los Países Bajos. Su investigación gira en torno a los temas de la ética de la IA, la IA explicable y el aprendizaje automático (XAI) y la privacidad en la sociedad digital. Actualmente está explorando el papel de diversos equipos y colaboraciones pluridisciplinarias y pluridisciplinarias para dar forma a tecnologías de IA responsables centradas en el ser humano. Sus actividades de enseñanza y supervisión también son una parte importante y emocionante del trabajo. Imparte cursos sobre tecnologías digitales responsables, justas e inclusivas, ML y análisis de datos, pero tanto a nivel de maestría como de licenciatura.
Tiene un doctorado industrial financiado por Marie Curie en seguridad y privacidad de datos. Actualmente es la presidenta del grupo de trabajo Géneros, Equidad, Diversidad e Inclusión (GEDI WG) de la Asociación de Antiguos Alumnos de Marie Curie. Dentro de GEDI WG, lidera un equipo de voluntarios y organiza y facilita eventos y acciones para promover la diversidad y la inclusión dentro de la investigación y la academia y empoderar a los investigadores independientemente de las características individuales. Aboga por un entorno de investigación responsable, más inclusivo y justo para fomentar la excelencia y la investigación responsable.

Acerca de MCAA GEDI WG y ResearchAbility
Genders, Equity, Diversity and Inclusion Working Group (GEDI WG) de la Marie Curie Alumni Association (MCAA) ha estado activo desde 2014 dentro de la asociación, y su objetivo principal es promover la diversidad en la investigación y empoderar la investigación. , independientemente de las características individuales. Organizamos y participamos en acciones y eventos para investigar y sensibilizar sobre las desigualdades y desafíos de investigadores diversos e históricamente marginados. También asesoramos y desarrollamos soluciones para impulsar la equidad y la diversidad a nivel individual, institucional y de políticas.

ResearchAbility (RA) es un grupo de trabajo con MCAA GEDI WG. La misión principal de RA es doble: en primer lugar, apoyar las carreras de estudiantes e investigadores con discapacidad y, en segundo lugar, promover la investigación y la concienciación sobre la discapacidad y la cultura inclusiva en el entorno académico.