AI와 미래

마틴 리스 본

갑자기 모두가 인공 지능에 대해 걱정하고 있습니다. (Gulp) "SF"의 유치한 영역에서 나온 낡은 진부한 표현으로 수십 년 동안 무시된 후 갑자기 인간을 기계로 대체하는 것에 대한 오래된 두려움이 일반 의식으로 폭발했습니다.점점 더 많은 사람들이 ChatGPT와 Bard를 사용해 보고 무엇을 할 수 있는지 스스로 발견했습니다. 이 AI는 대학 논문을 작성하고, 발견하기 어려운 건강 상태를 진단하고, 90번째 백분위수로 미국 변호사 협회(American Bar Association) 입학 시험에 합격하고, 줄거리를 보여주는 일련의 이모티콘에서 단순히 영화의 정체성을 알아내고, 남성에게 조언할 수 있습니다. 아내를 떠나는 방법, 전적으로 자연어 입력을 기반으로 컴퓨터 프로그램을 작성하는 방법, 자신의 감정에 대해 토론하고 기계 지능의 미래에 대해 숙고하는 방법. 나는 그것들을 사용하여 셰익스피어 소네트와 오컬트와 SF에 관한 단편 소설을 썼습니다.

지금까지 인간만이 할 수 있었던 활동이 갑자기 폭발적으로 증가함에 따라 많은 사람들이 인간의 지능을 기계로 대체하는 시작을 보고 있다고 걱정하고 있습니다.

Elon Musk를 포함한 "Future of Life Institute"는 AI의 영향에 대한 연구가 수행될 때까지 AI의 향후 개발을 중단할 것을 촉구하는 공개 서한을 발표했습니다.

그들이 걱정할 권리가 있습니까?

물론 그렇습니다.

아마도 SF의 가장 중요한 특징은 미래가 과거와 닮을 필요가 없다는 것을 이해하는 것일 것입니다. 소위 "문학 소설"은 구석기 시대 이후 언제든지 설정될 수 있는 정적 배경에 대한 인간 감정의 상호 작용에 대한 이야기를 관련시키고 그러한 감정이 경험의 가장 중요한 특성이라고 가정하는 반면 SF는 이것이 사실이 아닙니다. 인간의 감정보다 훨씬 더 강력한 힘이 있습니다.

미래가 과거와 닮을 필요가 없다는 생각은 18세기 유럽 계몽주의와 자동적으로 뒤따른 "세계의 환멸"에서 탄생한 생각입니다. 이전에는 모든 종교가 인간과 인간의 행위를 우주의 중심으로 여겼고, 우주를 운영하는 초자연적 존재들은 인간사를 주된 관심사로 삼았습니다. 사실, 인간 없이 애초에 왜 신이 존재합니까?

과학적 방법의 발전과 산업 혁명에 뒤이은 계몽주의는 인간이 정적인 세계에 거주하지 않으며 상황이 급격하게 변할 수 있음을 보여 주었습니다. 실제로 기계론적 우주는 인간이 멸종하는 우주일 수 있습니다. 어떤 종교도 생각하지 못한 것입니다.

Mary Shelley와 Karel Capek은 모두 인간이 대체될 가능성을 보았지만 그들의 변화 주체는 생물학적이기 때문에 여기서는 논의하지 않을 것입니다.

기계적인(즉, 비생물학적) 진보가 꼬리에 가시가 있을 수 있다고 예견한 최초의 사상가는 빅토리아 시대의 소설가 Samuel Butler(1835–1902)의 풍자 작품 “Erewhon”(“Nowhere”를 거꾸로, t 주목.) Erewhon은 모든 복잡한 기계를 폐지했기 때문에 유토피아 국가입니다. 버틀러는 다윈주의에 매우 관심이 많았고 다음 구절에서 볼 수 있듯이 진화론이 기계 진화에 적용될 수 있다는 것을 깨달았습니다.

“현재 기계가 거의 의식을 가지고 있지 않다는 사실에서 기계 의식의 궁극적인 발전에 대한 보안은 없습니다. 연체동물은 의식이 별로 없습니다. 지난 몇 백 년 동안 기계가 이룩한 놀라운 발전과 동물과 식물의 왕국이 얼마나 느리게 발전하고 있는지 생각해 보십시오. … 그들(기계)은 결국 무엇이 되지 않을까요? 장난의 싹을 잘라서 더 이상 진행하지 못하게 하는 것이 더 안전하지 않습니까?

“지금은 복잡하지만 앞으로 십만 년 후에는 얼마나 더 단순하고 이해하기 쉽게 조직화되지 않을까요? 아니면 이만? 현재 인간은 자신의 관심이 그 방향에 있다고 믿고 있습니다. 그는 기계가 항상 더 잘 번식하도록 만들기 위해 헤아릴 수 없는 양의 노동과 시간과 생각을 씁니다. 그는 한 때 불가능해 보였던 많은 것을 이미 달성하는 데 성공했으며, 축적된 개선의 결과가 세대를 거쳐 수정되어 내려오도록 허용된다면 그 결과에는 한계가 없어 보입니다. 인간의 신체는 수백만 년의 기회와 변화에 의해 현재의 형태로 형성되었지만 인간의 조직은 기계가 발전하는 속도와 같은 속도로 발전한 적이 없다는 사실을 항상 기억해야 합니다. .

“여기에 우리의 위험이 있습니다. 많은 사람들이 그처럼 불명예스러운 미래를 묵인하는 경향이 있는 것 같습니다. 그들은 인간이 기계에게 말과 개가 우리에게 있는 것처럼 되어야 하지만 그는 계속 존재할 것이며 아마도 현재의 야생 상태보다 기계의 자비로운 지배 아래 길들여진 상태에서 더 잘 살 것이라고 말합니다. 상태.

우리는 가축을 매우 친절하게 대합니다. 우리는 그들에게 최선이라고 믿는 모든 것을 제공합니다. 그리고 우리의 고기 사용이 그들의 행복을 떨어뜨리기보다는 오히려 증가시켰다는 데는 의심의 여지가 없습니다.

마찬가지로 기계가 우리를 친절하게 사용하기를 바라는 이유가 있습니다. 기계의 존재가 상당 부분 우리에게 달려 있기 때문입니다. 그들은 우리를 철장으로 다스릴 것이지만 우리를 잡아먹지는 않을 것입니다. 그들은 새끼를 낳고 교육하는 일뿐만 아니라 하인으로서 그들을 시중드는 일에서도 우리의 봉사를 요구할 것입니다. 그들을 위해 음식을 모으고 먹일 때; 그들이 아플 때 건강을 회복시키는 것; 죽은 사람을 묻거나 죽은 구성원을 새로운 형태의 기계적인 존재로 만드는 것입니다.”

- 에레혼, 1872.

Butler는 생물학적 진화가 물과 유기 화학 물질을 인간으로 전환하는 데 30억 년이 넘는 매우 느린 과정이라는 것을 분명히 알고 있었습니다. 그러나 회의적인 사람은 기계 진화에 관한 것일 수 있으며 이것이 매우 인상적인 시간 척도가 아니라는 것을 부인할 수 없습니다.

이어지는 2부…

Martyn Rhys Vaughan의 기사(허가 받음). Martyn은 Cambria에서 출판한 6권의 SciFi 책의 저자입니다. 여기에서 보거나 Amazon에서 Kindle eBook으로 볼 수 있습니다 .