민주주의를 구하거나 파괴하기 위한 쿠데타 예측 알고리즘

우리가 거의 공화국을 희생시킨 미국의 우익 분노 의 1주년을 기념하는 지금, 많은 미국인들은 아마도 미국 땅에서 그런 끔찍하고 폭력적인 사건이 다시는 일어나지 않도록 우리가 어떻게 막을 수 있는지 궁금해하고 있을 것입니다. 워싱턴 포스트( Washington Post ) 에 따르면 데이터 과학 커뮤니티의 사람들은 솔루션이 있을 수 있다고 믿습니다.

많은 데이터 연구원들은 현재 "불안 예측"이라는 작업에 열심히 노력하고 있습니다. 알고리즘을 사용하여 특정 국가 또는 커뮤니티에서 폭력이 언제 어디서 발생할 수 있는지 이해하려는 노력입니다. 이 노력의 핵심 은 중앙 플로리다 대학의 프로젝트인 CoupCast 와 같은 조직입니다 . 이 프로젝트는 역사적 데이터와 기계 학습의 조합을 사용하여 특정 국가 또는 다른 국가에서 폭력적인 권력 전환이 일어날 가능성을 분석합니다. 월. CoupCast를 운영하는 데 도움을 주는 Clayton Besaw에 따르면 이러한 예측 모델은 전통적으로 외국을 대상으로 했지만 불행히도 미국은 점점 더 그러한 이벤트를 위한 합리적인 후보처럼 보입니다.

Besaw는 Post와의 인터뷰에서 “지속적인 정치적 폭력의 위험이 더 높은 시기에 우리가 향하고 있는 모델에서 매우 분명합니다. 빌딩 블록이 거기에 있습니다.”라고 말했습니다.

이 모든 것이 매우 참신하게 들릴 수 있지만, 불안을 예측하기 위해 데이터를 사용하려는 노력은 특별히 새로운 것은 아닙니다. 일반적으로 특정 인구에 대한 엄청난 양의 데이터를 수집한 다음 해당 데이터를 예측 모델에 입력하는 작업이 포함됩니다. 진짜 질문은 이것이 어떻게 작동하는지가 아니라 " 실제로 작동합니까?" 입니다. 또한 "우리가 정말로 그것을 원합니까?"

2007년까지 DARPA(국방고등연구계획국)는 전 세계 국가의 사회적 불안을 예측하기 위한 데이터 기반 프로그램인 ICEWS( 통합 위기 조기 경보 시스템 )에 대해 작업하고 있었습니다. 하버드와 전문 폭탄 제조사 록히드 마틴의 연구원들의 도움으로 제작된 이 프로그램은 전 세계 대다수 국가에 대한 예측 모델을 만들었으며 한 국가가 예를 들어 치명적인 폭동 여부. 이 프로그램은 지역 뉴스 기사와 같은 엄청난 양의 오픈 소스 데이터를 시스템에 입력하는 방식으로 작동했으며, 이 데이터를 사용하여 일종의 지역 소요 사태 가능성을 계산했습니다.

Lockheed Martin Advanced Technology Laboratories의 수석 관리자인 Mark Hoffman 은 Signal Magazine과의 2015년 인터뷰에서 "이 모든 것의 비밀 소스는 혼합 모델 접근 방식을 사용한다는 사실입니다."라고 말했습니다 . "인도네시아의 반란과 같은 한 가지 사건에 대해 우리는 돌아 서서 그것이 일어날 것인지 예측하는 5 가지 모델을 가질 것입니다." Hoffman에 따르면 이 프로그램은 결국 "정부의 다양한 부분"(정보 커뮤니티)에서 채택했으며 "보험, 부동산 및 운송 산업"에서도 관심을 보였습니다.

ICEWS가 개발될 즈음에는 소셜 미디어의 방대한 오픈 소스 데이터 캐시를 사용하여 위협 예측을 가능하게 하는 대규모 데이터 프로그램인 EMBERS 프로젝트에 대한 작업도 2012 년 에 시작되었습니다. . 2015년 뉴스위크 기사 에 따르면 , EMBERS가 생성한 “예측의 평균 80~90퍼센트”가 “정확한 것으로 판명되었습니다.” 이 알고리즘은 2012년 파라과이 대통령 탄핵 , 2014년 베네수엘라 의 폭력적인 학생 시위 , 2013년 브라질 월드컵 개최를 둘러싼 시위와 같은 사건을 예측할 만큼 뛰어난 성능을 발휘했다고 합니다 .

이러한 주장을 믿는다면 그것은 정말 놀라운 일이지만 또한 아주 기본적인 질문을 불러일으키기도 합니다. 작년에 도대체 무슨 일이 있었던 겁니까? 이런 종류의 알고리즘 예측이 존재하고 쉽게 사용할 수 있다면(실제로 현재 전체 시장 이 이에 전념하고 있음) 왜 미국 정보 기관의 누구도 페이스북과 트위터 전체 에 노골적으로 광고 된 폭동을 예견 하지 못했을까요? 그게 그렇게 정확하다면, 1월의 그 운명적인 날에 왜 아무도 그것을 사용하지 않았을까? 우리는 그런 종류의 기술적 오류에 대한 단어가 있습니다. 그리고 그것은 어... "지능"이 아닙니다.

Post 기사 에 따르면 역사적인 실수를 설명할 수 있는 한 가지는 이러한 프로그램과 제품의 대부분이 해외에서 미국의 이익에 전략적 위협이 될 수 있는 다른 국가의 이벤트를 예측하는 것을 목표로 했다는 것입니다. 그들은 미국인에 대해 내부적으로 훈련을 많이 받지 않았습니다.

한편으로, 이러한 종류의 예측 능력이 어떻게 작동하는지 또는 작동하지 않는지에 대해 아직 모르는 것이 많기 때문에 이러한 종류의 예측 능력이 우리를 광범위하게 겨냥하지 않는 것은 좋은 일처럼 느껴집니다. 시민 자유 침해의 잠재적인 미끄러운 경사를 넘어서 이러한 종류의 알고리즘 감시가 촉발될 수 있지만 이러한 종류의 예측 기술에 대한 가장 분명한 우려는 알고리즘이 잘못 될 수 있고 그렇지 않은 것에 대응하기 위해 정부를 보낼 것이라는 점입니다. 처음부터 일어날 것입니다. Post가 지적했듯이 , 정부가 평화로운 시위대였을 사람들을 단속하는 것과 같은 일로 이어질 수 있습니다.

그러나 훨씬 더 우려되는 문제는 다음과 같습니다. 알고리즘이 옳다 면 ? 정부가 엄청난 양의 데이터를 사용하여 인구가 2주 전에 어떻게 행동할지 정확하게 계산하는 것을 상상하는 것만큼 소름 끼치지 않습니까? 이는 우리를 Minority Report 영역 에 확고히 둡니다 . 어느 쪽이든, 우리는 이런 종류의 기술을 헛간에서 꺼내기 전에 조금 더 생각해야 할 것입니다.