밤에 신호음이 울릴 때

저는 생존에 필요한 인슐린을 전달하기 위해 AI 기반 펌프 시스템을 사용하는 제1형 당뇨병 환자입니다. 하지만 나를 살려주는 AI 시스템이 내 삶을 망치고 있다. 연례 의사 방문은 항상 "이렇게 살 수 없습니다. "라는 한 마디로 시작되었습니다. 약 2시간 가까이 내 펌프를 만드는 회사의 고객 서비스 부서에 전화를 걸면 일반적으로 공감을 얻지만 설명은 없습니다. 이 문제에 대해 실리콘 밸리 소프트웨어 엔지니어들과 나눈 대화는 그들이 불신을 표현하고 얼굴을 맞대고 SMH(고개를 흔드는 것)에 해당하는 것으로 끝났습니다. 수많은 인터넷 검색을 통해 과학적인 것부터 신비로운 것까지 다양한 팁과 요령을 얻을 수 있었습니다. 그러나 그 어느 것도 나를 숙면에 가깝게 만들지 못했습니다.

4년 동안 센서 시스템의 지속적인 정확성을 보장하기 위해 자주 보정이 필요한 "스마트" 인슐린 펌프를 사용했습니다. 시스템의 끊임없는 요구는 일주일에 몇 번 이상 밤을 새는 것이 불가능하다는 것을 의미했습니다. 남편도 수면 방해에 대해 불평했습니다. 나는 온라인 지원 그룹에서 시스템이 일상 생활의 시간성에 맞지 않아 별도의 침실에서 잠을 자도록 강요받은 한 커플에 대해 읽었습니다.

AI 시스템의 약속은 낮과 밤의 특정 시간에 사전 결정된 양의 인슐린을 사용했던 이전 선형 시스템과 비교할 때 혈당을 보다 동적으로 조정할 수 있다는 것입니다. 이 장치는 센서 데이터를 사용하고 이러한 양을 실시간으로 조정함으로써 당뇨병 환자가 혈당을 더 잘 제어할 수 있도록 돕고, 심각한 저혈당을 피하고 고혈당을 통계적으로 "더 건강한" 곡선으로 낮추는 것을 목표로 합니다.

그러나 이 시스템은 일부 사람들에게 궁극적인 목표를 달성했지만 거의 지속적인 인간 상호 작용의 요구 사항(제 경우에는 2019년 7월에 수집된 데이터를 기반으로 하루에 총 24개 이상의 경고 및 경보)이 유해하고 달갑지 않은 디자인의 증거입니다. . 다양한 컴퓨팅 기술의 전문가들이 증명하듯 자동화는 실제로 자동화되지 않는 경우가 많습니다.. 인간의 노동은 종종 시야에서 사라지거나 한밤중으로 밀려나는 필수 구성 요소입니다. 센서 시스템을 보정하는 노동은 1) 랜싯이라는 작은 바늘로 손가락을 찌르는 것을 의미합니다. 2) 소량의 혈액을 미터(시스템과 연동되는 별도의 장치)에 넣습니다. 3) 무선으로 혈당 데이터를 센서 시스템에 전송합니다. 시스템이 계속 작동하려면 약 6시간마다, 때로는 더 자주 이 작업 순서를 수행하라는 메시지가 표시되었습니다.

내가 의존하는 이 AI 시스템이 내 인생을 망치고 있다고 말할 때, 나는 그것을 (다소) 유머러스하고 도발적으로 의미합니다. 그러나 그러한 시스템은 심각한 해를 끼칠 가능성이 있으며 실제로 그렇게 합니다. 극심한 수면 방해와 박탈은 제1형 당뇨병 환자를 비인간화하는 다양한 사회적, 경제적 결과를 초래합니다. 이것은 우리를 살리기 위한 "기술 솔루션"이 실제로 우리의 일하고, 가족 및 친구와의 관계를 유지하고, 행복하게 살고, 심지어 인간적으로 느낄 수 있는 능력을 파괴하기 때문입니다.. 분명히, 의료 기기 사용으로 인해 파트너와의 일상적인 연결 및 친밀감 상실은 장애인에게 해로운 사회적, 정서적 비용을 초래할 수 있습니다. 이러한 시스템으로 만들어지고 없어지는 인간의 삶에 대한 윤리, 책임, 책임감을 가지고 기술을 설계하는 것이 무엇을 의미하는지 이야기할 때 이는 진지하게 고려할 가치가 있습니다.

최근 몇 년 동안 AI는 의료 진단, 로봇 수술 및 장기 기증을 포함하여 의료 분야의 다양한 혁신을 주도하는 것으로 알려졌습니다. 그러나 이러한 소위 진보는 치료에 책임이 있을 수 있지만 사회적 및 경제적 결과를 무시할 때 심각한 해를 끼칠 수 있습니다. 예를 들어, 작년에 생체 공학 눈을 제조하는 회사가 파산하여 이 망막 임플란트를 받는 사람들이 갑자기 앞을 볼 수 없게 되었습니다. 제 경우에는 기술 수정이 당뇨병 자체의 상태보다 어떤 면에서 더 나빴습니다. 그리고 개인의 경험은 다르지만 소셜 미디어와 페이스북 그룹에 자신의 이야기를 공유한 사람들의 수에 따라 수만 명의 사람들이 나와 같은 방식으로 고통을 겪었다는 결론을 내리기 쉽습니다 .

이 특정 시스템을 나쁜 엔지니어링, 불운한 소비자 선택 또는 비윤리적인 기술로 치부하기보다는 자율 시스템이 점점 더 일상 생활에 내장될 가능성이 있는 세상에 대한 신호로 생각하는 것이 더 유용합니다. 다양한 종류의 알고리즘 피해를 어떻게 특성화할 수 있습니까? 피해를 입은 것으로 간주되는 사람은 누구이며 그 이유는 무엇입니까? 이러한 경우에 대한 철학적 및 법적 판례는 무엇입니까?

이러한 실패를 일탈로 취급하는 대신 오류가 있는 인간이 만든 시스템에서 이러한 문제가 실제로 무엇인지 인식해야 합니다. 나 자신의 장애인 정체성을 반성하면서 기술 자체 가결함과 실패, 틈과 결함, 이음새와 증상, 오류와 누락, 버그와 편견으로 가득 차 있습니다. 이러한 자질을 무언가 부족함을 나타내는 것으로 보기보다는 우리의 삶을 인간이 된다는 의미의 확장으로 축하하고 이러한 예상되는 기술 붕괴에 대한 긍정적인 관계를 채택하는 장애인 정체성에서 배울 수 있습니다. 그리고 인간과 기술을 서로 별개의 것으로 보거나 심지어 대립하는 것으로 보기보다는 더 관계적인 측면에서 볼 수 있습니다. 장애인은 이것에 대해 낯선 사람이 아닙니다. 우리는 기술이 말 그대로 우리이기 때문에 기술과 상호적이고 상호 의존적인 관계를 발전시킵니다.

나는 "장애인 사이보그"의 관점에서 글을 써서 나의 장애, 나의 기술, 나의 정치가 나를 살아 있게 하는 기계와 함께 살아온 경험을 통해 함께 형성되는 방식을 인정합니다. 나는 내가 쓴 격차, 실패 및 고장에도 불구하고 계속해서 지속합니다. 내 존재는 말 그대로 내 기계의 운명에 위태롭게 묶여 있습니다. 따라서 소프트웨어 업데이트, 공급망 지연, 국제 공항 보안 절차, 정전 및 기타 비교적 일상적인 사건은 무섭고 생명을 위협할 수 있습니다. 인간과 기술은 함께 실패할 수 있으며, 현재 AI 시스템에 대한 논쟁에 만연해 있는 경향이 있는 객관성, 완벽성, 해결주의라는 신화를 거부한다면 함께 성공할 수 있습니다.

이 접근 방식은 비논리적이거나 반직관적으로 들릴 수 있지만 자율 시스템의 사회적 결과를 크게 개선할 것입니다. 즉각적인 1차 결과뿐만 아니라 2차 및 3차 영향을 통해 생각하면 문제 공간을 본질적으로 확장할 수 있고 보다 다양한 이해 관계자, 사람, 맥락 및 상황 집합을 열 수 있습니다. "무엇이 잘못될 수 있습니까?" 생성적인 질문 방식과 보다 비판적이고 사변적인 형태의 디자인 퓨처링을 수용할 수 있습니다. 인간과 기계의 관계에 대한 대안적 미래를 경험할 수 있는 곳이 바로 이러한 간극입니다. 따라서 우리의 기술 혁신이 해결하는 것보다 더 많은 문제를 일으키지 않도록 하기 위해 다음과 같이 질문해 보겠습니다. "이것이 실패하면 어떻게 됩니까?"

올해 저는 새로운 "스마트" 인슐린 펌프와 센서 시스템을 사용하기 시작했습니다. 센서가 작동하기 위해 더 이상 센서를 보정할 필요가 없으며 수면이 크게 개선되었습니다. 그렇다고 해서 이러한 시스템과 설계자의 윤리적 책임이 면제되는 것은 아닙니다. 그리고 그것은 확실히 인간의 삶과 양립할 수 없고 심지어 인간의 삶에 적대적인 시스템과 함께 살았던 내 인생의 4년을 돌려주지 않습니다. 모든 업데이트 및 업그레이드에는 필연적으로 고려해야 할 새로운 문제가 많이 있습니다. 새로운 기능을 사용할 수 있게 되면 다른 가능성은 사라집니다. 하지만 잠을 좀 더 자면 다른 날을 위해 저장하겠습니다.