Международный день инвалидов: инвалидность, техноаблизм и три меча правосудия ИИ

Надя Метуи

Обратите внимание, это первая часть. Часть 2 будет опубликована 9 декабря и будет посвящена теме «Инвалидность и три меча правосудия ИИ».

Прогресс в области цифровых технологий за последние три десятилетия дал положительный толчок разнообразию и инклюзивности, позволив культурным изменениям создать чувство принадлежности для многих групп меньшинств. Информационно-коммуникационные технологии (ИКТ), например, позволяют сообществам формировать, связывать и расширять возможности своих членов, преодолевая множество границ (физических и поведенческих). Социальные медиа предоставляют меньшинствам возможность высказывать свое мнение, давая им возможность создавать и распространять новости и контент, которые основные СМИ не продвигали и часто до сих пор не продвигают. Конференц-связь и инструменты удаленной работы разрушают или снижают многие барьеры (уменьшая количество случаев инвалидности) для людей с ограниченными возможностями, ограничениями участия, хроническими заболеваниями и хроническими расстройствами, позволяя им присоединиться к рабочей силе.

Как одна из новейших технологических тенденций, искусственный интеллект (ИИ) и машинное обучение (МО) могут сделать больше и помочь нам создать действительно инклюзивные рабочие места и общества. Они даже могут раздвинуть границы возможного и расширить возможности всех, а не только людей с ограниченными возможностями.

Однако существует несколько ловушек, связанных с представлением технологий ИИ (или любой другой технологии) в качестве окончательного решения «каждого», «каждого» и «всего» вопросов и проблем, связанных с доступностью, включением и справедливостью для людей с ограниченными возможностями.

Что такое инвалидность?

Модели инвалидности и процесс создания инвалидности
Прежде чем погрузиться с головой и перечислить проблемы и недостатки технологий искусственного интеллекта, давайте рассмотрим некоторые основы — и, можно сказать, новаторское понимание инвалидности. Так что же такое инвалидность? Ответ не так прост, он зависит от модели, принятой для определения инвалидности. Как указывалось выше, существует несколько концепций или моделей инвалидности; эти разные модели можно разделить на две категории.

Индивидуальная категория:
Эта категория моделей инвалидности рассматривает инвалидность как «дефицит», «дефект» или «аномалию», обнаруживаемую в теле и/или разуме людей с ограниченными возможностями, которые делают их «непригодными». Следовательно, этот дефицит считается проблемой человека, которую «другие» должны «исправить», чтобы инвалид мог вести «нормальную жизнь». С социальной точки зрения инвалидность (и инвалиды) тогда либо считается бременем и неудобством, которое необходимо «искоренить» или «скрыть», чтобы «все» могли жить в нормальном обществе, либо считается «трагедией» для «других» и общество должно быть благотворительным. Наиболее распространенной индивидуалистической категорией является медицинская модель инвалидности. Инвалидность воспринимается как болезнь или состояние здоровья, которое необходимо лечить. Человек с некоторой инвалидностью считается «инвалидом». Медицинский персонал, эксперты и исследователи (часто «не инвалиды») обладают знаниями об «инвалидности» и имеют право принимать решения о ее лечении. Знания и опыт человека с инвалидностью часто не учитываются в этой модели. Две очень похожие модели — это реабилитационная модель и благотворительная модель. Первая направлена ​​на минимизацию присутствия инвалидов в обществе. Последний называет инвалидность «трагедией», а некоторых «инвалидов» - заслуживающими благотворительности.

Хотя индивидуалистические модели инвалидности кажутся доброжелательными, они могут быть очень эйблистскими и вредными для людей с инвалидностью. Они укрепляют представление о том, что инвалид — это «проблема». Медицинская модель и реабилитационная модель являются авторитетными. Они инфантилизируют людей с инвалидностью, редко «верят» своему опыту или тому, что они могут знать, что лучше для них самих, и очень часто игнорируют их право на свободу действий и свободу выбора. Это может привести к ужасным и неэтичным практикам, таким как изоляция и интернирование, принудительная стерилизация и т. д. Модель благотворительности может дополнительно создать сегрегацию между категориями инвалидов и объявить одних из них «настоящими» и «достойными помощи», а других — «не настоящий» и «недостойный»…

Социальная категория:
Эта категория воспринимает инвалидность как социальный конструкт. «Инвалидность и функционирование» в этой категории являются контекстуальными последствиями данной среды (например, социальные установки, архитектурные характеристики, правовые и социальные структуры, а также климат, местность и т. д.); нарушения (обычно используемые в медицинском смысле, могут быть вызваны заболеваниями, расстройствами, травмами и т. д.) и внутренние личностные факторы (включая пол, возраст, социальное происхождение, образование, профессию, прошлый и текущий опыт и т. д.). Таким образом, в этой категории существует различие между нарушением и инвалидностью. Нарушение относится к «индивидуальному» состоянию, которое может влиять или не влиять на способность человека участвовать в жизни общества. Инвалидность, однако, является социокультурным суждением, налагаемым обществом на способности человека. Человек, который не видит в темноте, не считается инвалидом. Не видеть в темноте социально считается «нормальным». Человека с отсутствующей или неполностью сформированной конечностью часто считают «ненормальным», поэтому даже если он вполне способен ходить, его помечают, поскольку социальное восприятие того, что является «нормальной ходьбой», будет считать его «инвалидом». Таким образом, изменение социальных представлений облегчает ситуацию с инвалидностью в данном случае. Социальные модели инвалидности рассматривают облегчение ситуаций инвалидности и снижение барьеров, с которыми сталкиваются люди с инвалидностью, как социальную ответственность. », так что даже если они вполне могут ходить, они помечаются как «нормальная ходьба» в социальном восприятии, они будут считаться «инвалидами». Таким образом, изменение социальных представлений облегчает ситуацию с инвалидностью в данном случае. Социальные модели инвалидности рассматривают облегчение ситуаций инвалидности и снижение барьеров, с которыми сталкиваются люди с инвалидностью, как социальную ответственность. », так что даже если они вполне могут ходить, они помечаются как «нормальная ходьба» в социальном восприятии, они будут считаться «инвалидами». Таким образом, изменение социальных представлений облегчает ситуацию с инвалидностью в данном случае. Социальные модели инвалидности рассматривают облегчение ситуаций инвалидности и снижение барьеров, с которыми сталкиваются люди с инвалидностью, как социальную ответственность.

Хорошо знать! Но какое отношение все это имеет к ИИ?

Технорешенство и техноэйблизм
Существует много рисков, связанных с использованием ИИ. Предубеждения ИИ, в том числе расизм, женоненавистничество, безопасность и угрозы безопасности, не переставали попадать в заголовки новостей в последнее десятилетие. В частности, люди с ограниченными возможностями часто подвергаются дискриминации, когда ИИ используется в таких областях, как здравоохранение (страховые полисы, приоритет лечения и т. д.), поступление в школу и университет, набор на работу, оценка эффективности работы, социальные сети, транспорт и мобильность и т. д. , Дискриминацию в отношении инвалидов иногда называютблеизм. Как и другие формы дискриминации, эйблизм также может быть косвенным, непреднамеренным или скрываться за завесой беспристрастности или доброжелательности. Это может быть как на индивидуальном уровне (например, эйблистское поведение), так и на структурном (например, эйблистская политика, эйблистский дизайн). Эйблизм также может быть вызван проблемными убеждениями и пониманием инвалидности, подобными тем, которые объясняются в индивидуалистических моделях инвалидности.

ИИ, как и любая другая технология, является продуктом и отражением общества, в котором мы живем (и жили). На него влияют политические, экономические и организационные решения, принятые в прошлом, и он наследует (а оказывается, усиливает ) недостатки и предубеждения своего окружения. Техно-эйблизм ИИ возникает, когда мы позволяем абейлистским нарративам (и практикам) о людях с инвалидностью формировать наше цифровое и технологическое воображение. ИИ может быть техноэйблистским в нескольких отношениях. Выше мы упомянули пример исключения и дискриминации в отношении людей с инвалидностью в нескольких областях. Эта несправедливость усугубляет и без того социальную и экономическую нестабильность, исторически навязанную этим людям в так называемом автономном мире. Кроме того, эффективность, инклюзивность, безопасность,

Другая форма - техно-эйблизм через техно-решение. Технорешенство — это идея о том, что технологии (ИИ в данном контексте) могут и должны использоваться для решения всех социальных проблем. В контексте людей с инвалидностью технорешенность ИИ часто маскируется под «расширение прав и возможностей людей с ограниченными возможностями с помощью технологий», но в то же время придерживается тех же эйблистских идей и практик, а именно необходимости «исправить» людей с инвалидностью для них. чтобы «вписаться» в обычный мир. Кроме того, техно-решение часто является деревом, скрывающим лес проблем, ориентированных на получение прибыли. Индустрия ИИ стала печально известна тем, что уделяет первостепенное внимание прибыли, чрезмерным обещаниям, недопоставкам и сокрытию или игнорированию вопросов безопасности и надежности. В условиях инвалидности это приведет в лучшем случае к дорогим разочаровывающим продуктам, а в худшем — к вредным и опасным для жизни.

Нет сомнений, что ИИ никуда не денется. С одной стороны, ИИ — это мощная технология, которая может многое сделать, чтобы помочь нам понять и улучшить себя, наш мир и наше общество. С другой стороны, продукты ИИ революционны и универсальны; они несут в себе риски, которые трудно предсказать, могут быстро увеличиваться и иметь разрушительные последствия в виде исключения, отчуждения и нанесения вреда уязвимым группам, включая людей с ограниченными возможностями. Выбор, с которым мы остаемся, больше не касается того, использовать ИИ или нет. Вместо этого, какой ИИ нам нужен. Тот, который инфантилизирует, исключает и пренебрегает исторически маргинализованными группами. Или тот, который включает, расширяет права и возможности и защищает всех членов общества, в том числе лиц с нарушениями, ограничениями активности и участия — людей с ограниченными возможностями?

Автор

Надя Метуи — доцент кафедры ответственного ИИ, данных и цифровизации Делфтского технологического университета в Нидерландах. Ее исследования посвящены таким темам, как этика ИИ, объяснимый ИИ и машинное обучение (XAI), а также конфиденциальность в цифровом обществе. В настоящее время она изучает роль различных команд и междисциплинарного многодисциплинарного сотрудничества в формировании ответственных технологий искусственного интеллекта, ориентированных на человека. Ее преподавательская и кураторская деятельность также является важной и увлекательной частью работы. Она преподает курсы по ответственным, справедливым и инклюзивным цифровым технологиям, машинному обучению и аналитике данных, но как на уровне магистра, так и на уровне бакалавра.
Она имеет докторскую степень в области безопасности и конфиденциальности данных, финансируемую Марией Кюри. В настоящее время она является председателем рабочей группы по гендерным вопросам, равенству, разнообразию и инклюзивности (GEDI WG) Ассоциации выпускников Марии Кюри. В рамках GEDI WG она возглавляет группу добровольцев, организует и координирует мероприятия и действия, направленные на поощрение разнообразия и вовлеченности в исследования и академические круги, а также расширение возможностей исследователей независимо от индивидуальных особенностей. Она выступает за ответственную, более инклюзивную и справедливую исследовательскую среду, способствующую совершенствованию и ответственным исследованиям.

О MCAA GEDI WG и Рабочая группа ResearchAbility по
гендерным вопросам, равенству, разнообразию и инклюзивности (GEDI WG) Ассоциации выпускников Марии Кюри (MCAA) активно работают в рамках ассоциации с 2014 года, и ее основная цель - способствовать разнообразию в исследованиях и расширять возможности исследований. , независимо от каких-либо индивидуальных особенностей. Мы организуем и принимаем участие в акциях и мероприятиях для расследования и повышения осведомленности о неравенстве и проблемах различных и исторически маргинализированных исследователей. Мы также консультируем и разрабатываем решения для повышения справедливости и разнообразия на индивидуальном, институциональном и политическом уровнях.

ResearchAbility (RA) — рабочая группа MCAA GEDI WG. Основная миссия RA двояка: во-первых, поддерживать карьеру студентов и исследователей с ограниченными возможностями, а во-вторых, продвигать исследования и осведомленность об инвалидности и инклюзивной культуре в академической среде.