Dia Internacional das Pessoas com Deficiência: Deficiência, Tecnoableismo e as Três Espadas da Justiça da IA

por Nadia Metoui

Por favor, note que esta é a primeira parte. A Parte 2 será publicada no dia 9 de dezembro e se concentrará em “Deficiência e as Três Espadas da Justiça da IA”.

O progresso nas tecnologias digitais nas últimas três décadas deu um impulso positivo à diversidade e inclusão, permitindo uma mudança cultural para a criação de um sentimento de pertencimento para muitos grupos minoritários. As tecnologias de informação e comunicação (TIC), por exemplo, têm permitido que as comunidades formem, conectem e empoderem seus membros através de múltiplas fronteiras (físicas e atitudinais). As mídias sociais oferecem a oportunidade de dar voz às minorias, dando-lhes a possibilidade de criar e divulgar notícias e conteúdos que a grande mídia não fez e muitas vezes ainda não promove. As ferramentas de conferência e trabalho remoto vêm quebrando ou baixando muitas barreiras (reduzindo a situação de incapacidade) para pessoas com deficiências, limitações de participação, doenças crônicas e distúrbios crônicos, permitindo que elas ingressem no mercado de trabalho.

Como uma das mais novas tendências tecnológicas, a inteligência artificial (IA) e o aprendizado de máquina (ML) têm o potencial de fazer mais e nos ajudar a desenvolver locais de trabalho e sociedades verdadeiramente inclusivos. Eles podem até ultrapassar os limites do possível e aumentar as habilidades de todos, não apenas das pessoas com deficiência.

Existem, no entanto, várias armadilhas para apresentar as tecnologias de IA (ou qualquer outra tecnologia) como a solução definitiva para questões e desafios de “Cada”, “Todos” e “Todos” em torno da acessibilidade, inclusão e justiça para pessoas com deficiência.

O que é deficiência?

Modelos de deficiência e processo de criação de deficiência
Antes de mergulhar de cabeça e enumerar problemas e deficiências das tecnologias de IA, vamos explorar um pouco do terreno - e como se pode dizer - compreensão inovadora da deficiência. Então, o que é deficiência? A resposta não é tão direta, depende do modelo que se adota para definir deficiência. Conforme sugerido acima, existem várias concepções ou modelos de deficiência; esses diferentes modelos podem ser classificados em duas categorias.

A categoria individualista:
Esta categoria de modelos de deficiência considera a deficiência como um 'déficit', 'defeito' ou 'anormalidade' encontrada no corpo e/ou mente de indivíduos com deficiência que os tornam 'inaptos'. Portanto, esse déficit é considerado uma questão do indivíduo — que os 'outros' precisam 'consertar' — para que o deficiente tenha uma 'vida normal'. De uma perspectiva social, a deficiência (e os indivíduos com deficiência) é considerada um fardo e uma inconveniência que precisa ser "irradicada" ou "escondida" para que "todos" possam viver em uma sociedade normal ou considerada uma "tragédia" para "outros" e a sociedade para ser caridosa. A categoria individualista mais comum é o modelo médico de deficiência. A deficiência é percebida como uma doença ou condição médica que deve ser curada. Uma pessoa com alguma deficiência é considerada uma “pessoa com deficiência”. Equipe médica, especialistas e pesquisadores (muitas vezes “não deficientes”) detêm o conhecimento sobre a “deficiência” e o poder de decisão sobre sua cura. O conhecimento e a experiência da pessoa com deficiência são muitas vezes desconsiderados neste modelo. Dois modelos muito semelhantes são o modelo de reabilitação e o modelo de caridade. O primeiro visa minimizar a presença da deficiência na sociedade. Este último rotula a deficiência como uma “tragédia” e algumas “pessoas com deficiência” como merecedoras de caridade.

Embora as abordagens do modelo de deficiência individualista pareçam benevolentes, elas podem ser muito capacitadoras e prejudiciais para as pessoas com deficiência. Eles reforçam a ideia de que a pessoa com deficiência é “um problema”. O modelo médico e o modelo de reabilitação são impositivos. Eles infantilizam as pessoas com deficiência, raramente “acreditam” em suas experiências ou que possam saber o que é melhor para si mesmos e, muitas vezes, desrespeitam seu direito de arbítrio e liberdade de escolha. Isso pode levar a práticas horríveis e antiéticas, como isolamento e internamento, esterilização forçada, etc. O modelo de caridade pode ainda criar segregação entre categorias de pessoas com deficiência e declarar algumas delas “reais” e “dignas de ajuda” e outras “não real” e “indigno”…

A categoria social:
Essa categoria percebe a deficiência como uma construção social. “Incapacidade e funcionalidade” nesta categoria são consequências contextuais de um determinado ambiente (por exemplo, atitudes sociais, características arquitetônicas, estruturas legais e sociais, bem como clima, terreno e assim por diante); deficiências (comumente usadas no sentido médico, podem ser causadas por doenças, distúrbios, lesões, etc.) e fatores pessoais internos (incluindo sexo, idade, origem social, educação, profissão, experiências passadas e atuais, etc.). Assim, nesta categoria, há uma distinção entre deficiência e incapacidade. A deficiência refere-se ao estado “individual”, que pode ou não impactar a capacidade de uma pessoa de participar da sociedade. A deficiência, no entanto, é um julgamento sociocultural imposto às habilidades de um indivíduo por sua sociedade. Uma pessoa que não enxerga no escuro não é considerada deficiente. Não enxergar no escuro é socialmente considerado “normal”. Uma pessoa com um membro ausente ou incompleto é frequentemente considerada “anormal”, portanto, mesmo que sejam perfeitamente capazes de andar, são rotulados como a percepção social do que é “andar normal” os consideraria “deficientes”. Portanto, mudar as percepções sociais é o que alivia a situação de deficiência neste caso. Os modelos sociais de deficiência consideram como uma responsabilidade social aliviar as situações de deficiência e diminuir as barreiras enfrentadas pelas pessoas com deficiência. ” portanto, mesmo que sejam perfeitamente capazes de andar, são rotulados como a percepção social do que é “caminhada normal” os consideraria “deficientes”. Portanto, mudar as percepções sociais é o que alivia a situação de deficiência neste caso. Os modelos sociais de deficiência consideram como uma responsabilidade social aliviar as situações de deficiência e diminuir as barreiras enfrentadas pelas pessoas com deficiência. ” portanto, mesmo que sejam perfeitamente capazes de andar, são rotulados como a percepção social do que é “caminhada normal” os consideraria “deficientes”. Portanto, mudar as percepções sociais é o que alivia a situação de deficiência neste caso. Os modelos sociais de deficiência consideram como uma responsabilidade social aliviar as situações de deficiência e diminuir as barreiras enfrentadas pelas pessoas com deficiência.

Bom saber! Mas o que tudo isso tem a ver com IA?

Tecnosolucionismo e Tecnocapacitação
Existem muitos riscos associados ao uso de IA. Os vieses da IA, incluindo racismo, misoginia, segurança e ameaças à segurança, não pararam de ser manchetes na última década. Em particular, as pessoas com deficiência são frequentemente alvo de discriminação quando a IA é usada em áreas como saúde (apólices de seguro, prioridade de tratamento, etc.), admissão em escolas e universidades, recrutamento de empregos, avaliação de desempenho no trabalho, mídia social, transporte e mobilidade, etc. . A discriminação contra pessoas com deficiência é algumas vezes referida como umableism. Como outras formas de discriminação, o capacitismo também pode ser indireto, não intencional ou coberto por um véu de imparcialidade ou benevolência. Isso pode ser tanto em nível individual (por exemplo, comportamento capacitista) quanto estrutural (por exemplo, políticas capacitistas, design capacitista). O capacitismo também pode ser conduzido por crenças problemáticas e compreensão da deficiência semelhantes àquelas explicadas nos modelos individualistas de deficiência.

A IA, como qualquer outra tecnologia, é produto e reflexo da sociedade em que vivemos (e vivemos). ) as deficiências e preconceitos de seu ambiente. O tecnocapacitação da IA ​​acontece quando permitimos que narrativas capacitistas (e práticas) sobre pessoas com deficiência moldem nossa imaginação digital e tecnológica. A IA pode ser tecnocapaz de várias maneiras. Mencionamos acima o exemplo de exclusão e discriminação contra pessoas com deficiência em vários campos. Essas injustiças se somam à já precariedade social e econômica historicamente imposta a esses indivíduos no chamado mundo off-line. Além disso, a eficiência, inclusão, segurança,

Outra forma é o tecnocapacitação através do tecnosolucionismo. Tecno-solucionismo é a ideia de que a tecnologia (IA neste contexto) pode e deve ser usada para resolver todos os problemas sociais. No contexto das pessoas com deficiência, o tecnosolucionismo da IA ​​muitas vezes vem disfarçado de “empoderar pessoas com deficiência por meio de tecnologias” enquanto, ao mesmo tempo, segue as mesmas ideias e práticas capacitistas, ou seja, a necessidade de “consertar” pessoas com deficiência para elas para “encaixar” no mundo normal. Além disso, o tecno-solucionismo costuma ser a árvore que esconde uma floresta de questões “voltadas para o lucro”. A indústria de IA tornou-se conhecida por priorizar o lucro, prometer demais, entregar de menos e ocultar ou desconsiderar questões de segurança e confiabilidade. No contexto da deficiência, isso produzirá, na melhor das hipóteses, produtos caros e decepcionantes e, na pior das hipóteses, produtos prejudiciais e que ameaçam a vida.

Não há dúvida de que a IA veio para ficar. Por um lado, a IA é uma tecnologia poderosa que pode fazer muito para nos ajudar a entender e melhorar a nós mesmos, nosso mundo e nossas sociedades. Por outro lado, os produtos de IA são disruptivos e versáteis; eles carregam riscos que são difíceis de prever, podem escalar rapidamente e ter impactos devastadores na exclusão, alienação e danos a grupos vulneráveis, incluindo pessoas com deficiência. A escolha que nos resta não é mais sobre usar IA ou não. É, em vez disso, que tipo de IA queremos. Aquele que infantiliza, exclui e prejudica grupos historicamente marginalizados. Ou aquela que inclui, capacita e protege todos os membros da sociedade, incluindo pessoas com deficiências, limitações de atividade e restrições de participação — pessoas com deficiência?

Autor

Nadia Metoui é professora assistente em IA responsável, dados e digitalização na Delft University of Technology, na Holanda. Sua pesquisa gira em torno dos tópicos de ética da IA, IA explicável e aprendizado de máquina (XAI) e privacidade na sociedade digital. Atualmente, ela está explorando o papel de diversas equipes e colaborações pluridisciplinares e pluridisciplinares na formação de tecnologias responsáveis ​​de IA centradas no ser humano. Suas atividades de ensino e supervisão também são uma parte importante e emocionante do trabalho. Ela ministra cursos sobre tecnologias digitais responsáveis, justas e inclusivas, ML e análise de dados, mas em nível de mestrado e bacharelado.
Ela possui um doutorado industrial financiado por Marie Curie em segurança e privacidade de dados. Ela é atualmente a presidente do grupo de trabalho Genders, Equity, Diversity & Inclusion (GEDI WG) da Marie Curie Alumni Association. No GEDI WG, ela lidera uma equipe de voluntários e organiza e facilita eventos e ações para promover a diversidade e a inclusão na pesquisa e na academia e capacitar os pesquisadores, independentemente das características individuais. Ela defende um ambiente de pesquisa responsável, mais inclusivo e justo para promover a excelência e a pesquisa responsável.

Sobre MCAA GEDI WG e ResearchAbility
Genders, Equity, Diversity and Inclusion Working Group (GEDI WG) da Marie Curie Alumni Association (MCAA) está ativo desde 2014 dentro da associação, e seu principal objetivo é promover a diversidade na pesquisa e capacitar a pesquisa , independentemente de quaisquer características individuais. Organizamos e participamos de ações e eventos para investigar e conscientizar sobre desigualdades e desafios de pesquisadores diversos e historicamente marginalizados. Também aconselhamos e desenvolvemos soluções para aumentar a equidade e a diversidade nos níveis Individual, Institucional e Político.

ResearchAbility (RA) é uma força-tarefa com MCAA GEDI WG. A principal missão da RA é dupla: em primeiro lugar, apoiar as carreiras de estudantes e investigadores com deficiência e, em segundo lugar, promover a investigação e sensibilização sobre deficiência e cultura inclusiva no meio académico