Journée internationale des personnes handicapées : Handicap, technicisme et les trois épées de la justice de l'IA

par Nadia Metoui

Veuillez noter qu'il s'agit de la première partie. La partie 2 sera publiée le 9 décembre et se concentrera sur "Le handicap et les trois épées de la justice de l'IA".

Les progrès des technologies numériques au cours des trois dernières décennies ont donné une impulsion positive à la diversité et à l'inclusion, permettant un changement culturel vers la création d'un sentiment d'appartenance pour de nombreux groupes minoritaires. Les technologies de l'information et de la communication (TIC), par exemple, ont permis aux communautés de se former, de se connecter et de responsabiliser leurs membres au-delà de multiples frontières (physiques et comportementales). Les médias sociaux offrent la possibilité d'exprimer les minorités, en leur donnant la possibilité de créer et de diffuser des informations et du contenu que les médias grand public n'ont pas, et souvent ne promeuvent toujours pas. Les outils de conférence et de travail à distance ont fait tomber ou abaissé de nombreux obstacles (réduisant la situation de handicap) pour les personnes handicapées, les limitations de participation, les maladies chroniques et les troubles chroniques, leur permettant de rejoindre le marché du travail.

En tant que l'une des dernières tendances technologiques, l'intelligence artificielle (IA) et l'apprentissage automatique (ML) ont le potentiel de faire plus et de nous aider à développer des lieux de travail et des sociétés véritablement inclusifs. Ils peuvent même repousser les limites du possible et augmenter les capacités de chacun, pas seulement des personnes handicapées.

Il existe cependant plusieurs pièges à présenter les technologies d'IA (ou toute autre technologie) comme la solution ultime aux problèmes et défis « Chacun », « Tous » et « Tous » en matière d'accessibilité, d'inclusion et de justice pour les personnes handicapées.

Qu'est-ce que le handicap ?

Modèles de handicap et processus de création du handicap
Avant de plonger la tête la première et d'énumérer les problèmes et les lacunes des technologies de l'IA, explorons un terrain - et comme on pourrait dire - une compréhension révolutionnaire du handicap. Qu'est-ce donc que le handicap ? La réponse n'est pas aussi simple, cela dépend du modèle que l'on adopte pour définir le handicap. Comme indiqué ci-dessus, il existe plusieurs conceptions ou modèles de handicap ; ces différents modèles peuvent être classés en deux catégories.

La catégorie individualiste :
Cette catégorie de modèles de handicap considère le handicap comme un « déficit », un « défaut » ou une « anomalie » trouvés dans le corps et/ou l'esprit des personnes handicapées qui les rendent « inaptes ». Par conséquent, ce déficit est considéré comme un problème individuel — que les « autres » doivent « régler » — pour que la personne handicapée ait une « vie normale ». D'un point de vue sociétal, le handicap (et les personnes handicapées) est alors soit considéré comme un fardeau et un inconvénient qui doit être « éradiqué » ou « caché » pour que « tous » puissent vivre dans une société normale, soit considéré comme une « tragédie » pour « les autres » et la société à être charitable envers. La catégorie individualiste la plus courante est le modèle médical du handicap. Le handicap est perçu comme une maladie ou une condition médicale qui doit être guérie. Une personne ayant un certain handicap est considérée comme une « personne handicapée ». Le personnel médical, les experts et les chercheurs (souvent « non handicapés ») détiennent les connaissances sur le « handicap » et le pouvoir de décision sur sa guérison. Les connaissances et l'expérience de la personne handicapée sont souvent ignorées dans ce modèle. Deux modèles très similaires sont le modèle de réhabilitation et le modèle caritatif. Le premier vise à minimiser la présence du handicap dans la société. Cette dernière qualifie le handicap de « tragédie » et certaines « personnes handicapées » de dignes de charité.

Bien que les approches du modèle de handicap individualiste semblent bienveillantes, elles peuvent être très capacitistes et préjudiciables aux personnes handicapées. Ils renforcent l'idée que la personne handicapée est « un problème ». Le modèle médical et le modèle de réadaptation font autorité. Ils infantilisent les personnes handicapées, "croient" rarement leurs expériences ou qu'elles pourraient savoir ce qui est mieux pour elles-mêmes, et très souvent ignorent leur droit à l'action et à la liberté de choix. Cela peut conduire à des pratiques horribles et contraires à l'éthique, telles que l'isolement et l'internement, la stérilisation forcée, etc. Le modèle caritatif peut en outre créer une ségrégation entre les catégories de personnes handicapées et déclarer certaines d'entre elles « réelles » et « dignes d'aide » et d'autres « non ». réel » et « indigne »…

La catégorie sociale :
Cette catégorie perçoit le handicap comme une construction sociale. « Handicap et fonctionnement » dans cette catégorie sont les conséquences contextuelles d'un environnement donné (par exemple, les attitudes sociales, les caractéristiques architecturales, les structures juridiques et sociales, ainsi que le climat, le terrain, etc.) ; les déficiences (couramment utilisées dans un sens médical, peuvent être causées par des maladies, des troubles, des blessures, etc.) et des facteurs personnels internes (notamment le sexe, l'âge, l'origine sociale, l'éducation, la profession, l'expérience passée et actuelle, etc.). Ainsi, dans cette catégorie, il y a une distinction entre déficience et handicap. La déficience fait référence à l'état « individuel », qui peut ou non avoir une incidence sur la capacité d'une personne à participer à la société. Le handicap, cependant, est un jugement socioculturel imposé aux capacités d'un individu par sa société. Une personne qui ne peut pas voir dans le noir n'est pas considérée comme handicapée. Ne pas voir dans le noir est socialement considéré comme « normal ». Une personne ayant un membre manquant ou incomplètement formé est souvent considérée comme "anormale", donc même si elle est parfaitement capable de marcher, elle est étiquetée car la perception sociale de ce qu'est la "marche normale" la considérerait comme "handicapée". Par conséquent, changer les perceptions sociales est ce qui atténue la situation de handicap dans ce cas. Les modèles sociaux du handicap considèrent l'atténuation des situations de handicap et la réduction des obstacles auxquels sont confrontées les personnes handicapées comme une responsabilité sociale. " donc même s'ils sont parfaitement capables de marcher, ils sont étiquetés car la perception sociale de ce qu'est la "marche normale" les considérerait comme "handicapés". Par conséquent, changer les perceptions sociales est ce qui atténue la situation de handicap dans ce cas. Les modèles sociaux du handicap considèrent l'atténuation des situations de handicap et la réduction des obstacles auxquels sont confrontées les personnes handicapées comme une responsabilité sociale. " donc même s'ils sont parfaitement capables de marcher, ils sont étiquetés car la perception sociale de ce qu'est la "marche normale" les considérerait comme "handicapés". Par conséquent, changer les perceptions sociales est ce qui atténue la situation de handicap dans ce cas. Les modèles sociaux du handicap considèrent l'atténuation des situations de handicap et la réduction des obstacles auxquels sont confrontées les personnes handicapées comme une responsabilité sociale.

Bon à savoir! Mais qu'est-ce que tout cela a à voir avec l'IA ?

Techno-solutionnisme et techno-capabilité
De nombreux risques sont associés à l'utilisation de l'IA. Les préjugés de l'IA, notamment le racisme, la misogynie, la sûreté et les menaces à la sécurité, n'ont cessé de faire la une des journaux au cours de la dernière décennie. En particulier, les personnes handicapées sont souvent ciblées par la discrimination lorsque l'IA est utilisée dans des domaines tels que la santé (polices d'assurance, priorité de traitement, etc.), l'admission à l'école et à l'université, le recrutement, l'évaluation des performances professionnelles, les médias sociaux, le transport et la mobilité, etc. Les discriminations à l'égard des personnes handicapées sont parfois qualifiées debleisme. Comme d'autres formes de discrimination, le capacitisme peut également être indirect, involontaire ou couvert derrière un voile d'impartialité ou de bienveillance. Cela peut être à la fois au niveau individuel (par exemple, comportement capacitiste) et structurel (par exemple, politiques capacitistes, conception capacitiste). Le capacitisme peut également être motivé par des croyances et une compréhension problématiques du handicap similaires à celles expliquées dans les modèles de handicap individualistes.

L'IA, comme toute autre technologie, est le produit et le reflet de la société dans laquelle nous vivons (et nous avons vécu). Elle est influencée par des décisions politiques, économiques et organisationnelles prises dans le passé, et elle hérite (et il s'avère qu'elle amplifie ) les carences et les biais de son environnement. Le techno-capacité de l'IA se produit lorsque nous permettons aux récits (et pratiques) capacitistes sur les personnes handicapées de façonner notre imagination numérique et technologique. L'IA peut être techno-capable de plusieurs manières. Nous avons mentionné ci-dessus l'exemple de l'exclusion et de la discrimination à l'égard des personnes handicapées dans plusieurs domaines. Ces injustices s'ajoutent à la précarité sociale et économique déjà imposée historiquement à ces individus dans le monde dit hors ligne. En outre, l'efficacité, l'inclusivité, la sécurité,

Une autre forme est le techno-capacité à travers le techno-solutionnisme. Le techno-solutionnisme est l'idée que la technologie (l'IA dans ce contexte) peut et doit être utilisée pour résoudre tous les problèmes de société. Dans le contexte des personnes handicapées, le techno-solutionnisme de l'IA est souvent déguisé en "autonomisation des personnes handicapées grâce aux technologies" tout en respectant les mêmes idées et pratiques capacitistes, à savoir la nécessité de "réparer" les personnes handicapées pour elles. pour « s'adapter » au monde normal. Par ailleurs, le techno-solutionnisme est souvent l'arbre qui cache une forêt de problèmes « axés sur le profit ». L'industrie de l'IA est devenue connue pour donner la priorité au profit, faire des promesses excessives, sous-livrer et cacher ou ignorer les problèmes de sécurité et de fiabilité. Dans le contexte du handicap, cela engendrera au mieux des produits coûteux et décevants et au pire des produits nocifs et menaçants pour la vie.

Il ne fait aucun doute que l'IA est là pour rester. D'une part, l'IA est une technologie puissante qui peut faire beaucoup pour nous aider à nous comprendre et à nous améliorer, ainsi que notre monde et nos sociétés. D'autre part, les produits d'IA sont perturbateurs et polyvalents ; ils comportent des risques difficiles à prévoir, peuvent s'étendre rapidement et avoir des effets dévastateurs en excluant, en aliénant et en nuisant aux groupes vulnérables, y compris les personnes handicapées. Le choix qui nous reste n'est plus d'utiliser ou non l'IA. Il s'agit plutôt de savoir quel type d'IA voulons-nous. Celle qui infantilise, exclut et harcèle les groupes historiquement marginalisés. Ou celui qui inclut, responsabilise et protège tous les membres de la société, y compris les personnes handicapées, les limitations d'activités et les restrictions de participation - les personnes handicapées ?

Auteur

Nadia Metoui est professeure adjointe en IA responsable, données et numérisation à l'Université de technologie de Delft aux Pays-Bas. Ses recherches portent sur les thèmes de l'éthique de l'IA, de l'IA explicable et de l'apprentissage automatique (XAI) et de la confidentialité dans la société numérique. Elle explore actuellement le rôle des équipes diverses et des collaborations pluridisciplinaires pluridisciplinaires dans l'élaboration de technologies d'IA responsables centrées sur l'humain. Ses activités d'enseignement et de supervision sont également une partie importante et passionnante du travail. Elle enseigne des cours sur les technologies numériques responsables, équitables et inclusives, le ML et l'analyse de données, mais au niveau de la maîtrise et de la licence.
Elle est titulaire d'un doctorat industriel financé par Marie Curie en sécurité et confidentialité des données. Elle est actuellement présidente du groupe de travail Genre, équité, diversité et inclusion (GEDI WG) de l'Association des anciens élèves Marie Curie. Au sein de GEDI WG, elle dirige une équipe de bénévoles et organise et facilite des événements et des actions pour promouvoir la diversité et l'inclusion au sein de la recherche et du milieu universitaire et responsabiliser les chercheurs quelles que soient leurs caractéristiques individuelles. Elle plaide pour un environnement de recherche responsable, plus inclusif et équitable afin de favoriser l'excellence et la recherche responsable.

À propos de MCAA GEDI WG et ResearchAbility
Genders, Equity, Diversity and Inclusion Working Group (GEDI WG) de l'Association des anciens élèves Marie Curie (MCAA) est actif depuis 2014 au sein de l'association, et son objectif principal est de promouvoir la diversité dans la recherche et d'autonomiser la recherche , quelles que soient les caractéristiques individuelles. Nous organisons et participons à des actions et des événements pour enquêter et sensibiliser aux inégalités et aux défis des chercheurs divers et historiquement marginalisés. Nous conseillons et développons également des solutions pour renforcer l'équité et la diversité aux niveaux individuel, institutionnel et politique.

ResearchAbility (RA) est un groupe de travail avec MCAA GEDI WG. La mission principale de RA est double : d'une part soutenir les carrières des étudiants et chercheurs en situation de handicap et d'autre part promouvoir la recherche et la sensibilisation sur le handicap et la culture inclusive dans le milieu universitaire