TikTokfication I: AI 기반 Idiocracy(AI가 산만함을 더 잘할 때)

Nov 27 2022

실존적 위험은 미래학자이자 철학자인 닉 보스트롬(Nick Bostrom)이 만든 용어로, 지구상의 생명체를 영구적으로 전멸시키거나 그 잠재력을 크게 감소시키는 불리한 결과로 정의됩니다. 실존적 위험은 소행성 충돌, 화산 폭발 또는 약 50억 년 후 적색 거성 단계에 진입할 때 태양이 지구를 삼키는 것과 같이 인간중심적이지 않거나 자연적일 수 있습니다.

실존적 위험은 미래학자이자 철학자인 닉 보스트롬(Nick Bostrom)이 만든 용어로, 지구상의 생명체를 영구적으로 전멸시키거나 그 잠재력을 크게 감소시키는 불리한 결과로 정의됩니다. 실존적 위험은 소행성 충돌, 화산 폭발 또는 약 50억 년 후 적색 거성 단계에 진입할 때 태양이 지구를 삼키는 것과 같이 인간중심적이지 않거나 자연적일 수 있습니다. 더 무서운 실존적 위협은 인간 중심적 이거나 인공적인 것입니다. 왜냐하면 그것들은 우리가 스스로를 파괴할 가능성이 있음을 암시하기 때문 입니다. (또는 장벽) 탐지 가능한 지적 생명체의 진화와 페르미 패러독스 —거기에 지적 생명체의 명백한 부족.

어떤 형태의 파괴적인 인공 지능(AI)의 개발은 인류를 말살하겠다고 위협하는 많은 인간 중심적 위험 또는 인간이 만든 위험 중 하나로 상정됩니다. 이것은 사실 유명한 영화 터미네이터 의 배경이 된 논문으로, 초지능 방어 시스템 인 스카이넷 이 의식을 얻어 기계를 이끌고 인류를 멸절시키려는 시도를 하다가 종료됩니다. 아마도 대중 문화의 이러한 표현 때문에 프로그래밍 오류 또는 의도하지 않은 기능의 관점에서 AI 주도 멸종을 생각하는 것이 더 쉬울 것입니다. 그러나 반드시 그럴 필요는 없습니다. 우리의 잠재력을 축소하겠다고 위협하는 TikTok이라는 훨씬 더 어둡고 멋진 그림이 지평선에 숨어 있습니다.

이 게시물에서 나는 TikTok(및 더 광범위하게는 소셜 미디어)이 두 가지 방식으로 종으로서 우리의 잠재력을 축소하고 있다고 주장합니다. 하나는 우리의 관심을 가로채고 지루함을 없애고, 다른 하나는 정보가 퍼지는 방식을 바꿈으로써 우리 사회를 완전히 변화시키는 것입니다. .

소셜 미디어가 우리를 생각 없는 원숭이로 만들고 있습니까? 달이와 함께 만들었습니다.

파트 1. 농도

우리는 집중력을 얼마나 소유하고 있습니까? 아이작 뉴턴이 운동법칙과 중력법칙 을 썼을 까? 아이작 아시모프가 25년 동안 2주마다 소설 한 편을 완성 할 수 있었다고 생각 하세요? 찰스 다윈이 자신의 진화론을 내놓은 것은 마음이 방황하고 위대한 아이디어를 내는 데 필요한 공간과 시간을 허용했기 때문이 아닐까요?

모든 시대의 가장 위대한 정신에 대한 전기적 설명은 스스로를 말해줍니다. 아이작 뉴턴은 운동과 중력의 법칙을 작성하고 미적분학에 중요한 공헌을 하며 빛을 흑사병을 피하기 위해 Woolsthorpe의 농장에 고립된 고독한 자신을 발견했을 때의 "색상"(파장). 어떻게 모든 아이디어를 낼 수 있었는지에 대한 질문에 그는 " 계속해서 생각함으로써 "라고 대답했습니다 . 아이작 아시모프(Isaac Asimov)는 “내 느낌은 창의성에 관한 한 고립이 필요하다는 것입니다. 창의적인 사람은 어쨌든 계속해서 노력하고 있습니다.. 그의 마음은 의식하지 못할 때에도 항상 정보를 뒤섞고 있습니다.” Charles Darwin은 그가 "생각의 길"이라고 부르는 것을 가지고 있었는데, 그는 켄트에 있는 그의 집 주변을 매일 산책하며 무릎을 꿇을 때마다 조약돌을 차서 더미로 만들었습니다.

사상의 생성을 촉진하는 데 필요한 고립과 집중에 맞춰진 루틴 을 모든 시대의 모든 위대한 사람들이 어떻게 가지고 있는지 쉽게 찾을 수 있습니다 . 그들 중 일부는 "진정으로 위대한 생각은 모두 걸을 때 잉태된다"고 말한 프리드리히 니체(Friedrich Nietzsche)와 같이 오랜 시간 동안 걷기를 선택했으며 일상적으로 인근 숲을 통해 2시간 동안 산책을 하곤 했습니다. 대신 다른 사람들 은 명료하게 생각하는 데 필요한 산만하지 않은 환경을 바다에서 발견한 알버트 아인슈타인과 같은 보다 색다른 활동을 선택했습니다.. 그는 일상적으로 그냥 표류하며 "바다에서의 크루즈"를 "다른 관점에서 최대의 평온과 생각에 대한 성찰을 위한 훌륭한 기회"라고 생각했습니다. 그의 아내는 이렇게 썼습니다. , 달콤하고 고요하며 일상적인 산만 함 에서 분리 된 배는 그를 멀리 데려갑니다.” 그는 "일하고 생각하는 것, 서신, 방문, 만남, 그리고 악마의 다른 발명품이 없는 낙원의 상태"를 위해 전도성이 있는 긴 바다 여행을 쓰기까지 했습니다. 노벨 물리학상을 수상하고 일본, 중국, 팔레스타인, 스페인을 순방했던 매우 바쁜 한 해 동안.

시간의 시험을 견디고 전 세대에 영향을 미치고 현실에 대한 우리의 이해를 발전시키는 종류의 심오한 아이디어를 생산하려면 침묵, 고립 및 집중이 필요하다는 것은 분명합니다. 그러나 그것만으로는 충분하지 않습니다. Mihaly Csíkszentmihályi에 따르면, 과학자에서 음악가에 이르는 유쾌한 몰입 상태 제작자가 직장에서 경험하는 "몰입 상태"의 배후에 있는 심리학자는 최소 10년이 걸린다는 것이 잘 알려져 있습니다.이미 존재하는 것보다 더 나은 새로운 방식으로 무언가를 만들거나 수정할 수 있는 특정 분야의 몰입형 기술 지식. 따라서 모든 시대의 가장 위대한 화가, 과학자, 건축가, 의사, 경제학자, 철학자 등이 한 가지 공통점을 가지고 있다면 오랜 시간 동안 집중하고 즉각적인 만족을 미루는 엄청난 능력이었습니다. 그들은 효과적으로 집중의 달인이 되었습니다. .

당신은 이들이 "이상치"라고 주장할 수 있습니다. 그들은 이미 타고난 천재였으며 집중의 중요성을 잘 나타내지 않을 수 있습니다. 그러나 이 능력을 활용하는 것은 역사상 가장 위대한 지성일 뿐만 아니라 사회가 그것에 의존합니다. 사회에서 대부분의 계약은 전문성과 집중을 위해 돈을 주고받는다는 데 동의하지 않습니까? 아니면 외과의가 수술 중에 방해받지 않고 집중하는 것을 원하지 않습니까? 당신이 탈 비행기의 조종사? 당신의 택시 기사? 이러한 경우 보안 이 위태로워지므로 주의가 산만해짐으로 인한 피해는 명백합니다. 그러나 예술가, 과학자 또는 엔지니어와 같이 덜 분명한 경우는 어떻습니까? 깊이 집중하는 능력이 손상되면 무엇이 위태로워집니까? 다음은 질과 양 이다.산만함의 증가된 수준으로 인해 어려움을 겪을 출력의. 그 과정에 깊이 몰입하지 않으면 크리에이터는 빠르고 얕은 작업을 생성할 것입니다. 따라서 산만함은 인적 오류(어떤 경우에는 치명적이고 쉽게 관찰되는 오류(예: 자동차 사고))의 증가로 이어질 것입니다. 기업가, 예술가, 과학자 등

이제 스스로에게 물어보십시오. 소셜 미디어는 어떤 행동을 조장합니까? 방금 설명한 것과는 완전히 반대되는 행동이 아닙니까? 깊이 집중하는 능력이 전 세계적으로 손상되면 어떻게 될까요? 그리고 이 산만함이 AI에 의해 구동된다면?

소셜 미디어: 주의를 산만하게 하는 것이 매일 더 좋아집니다.

간단히 말해서, AI를 훈련시키는 데 필요한 것은 "성공"의 정량화 가능한 지표와 많은 양의 데이터입니다. AI에 데이터(예: 말이 있는 이미지 또는 없는 이미지)가 제공되고 특정 작업의 출력(예: 이미지에서 말 식별)이 이 성공 메트릭과 일치합니다(AI가 이미지에 말이 있는지 여부를 올바르게 식별했습니까?) 입력 이미지?). 반복 프로세스를 통해 AI는 일부 내부 매개변수를 최적화하여 이 성공 메트릭을 최대화합니다. 간단한 이미지 인식에서 Alpha GO 에 이르기까지 AI는 이 반복 프로세스를 통해 더 많은 데이터가 공급됨에 따라 작업을 점점 더 잘 수행할 것입니다. YouTube, TikTok, Instagram, Facebook… 최대화하는 성공 지표는 무엇입니까? 그들의 AI가 점점 더 좋아지고 있다는 것은 무엇입니까? 간단히 말해서, 당신의 관심입니다.

이러한 플랫폼은 사고 과정을 방해하도록 설계되지 않았습니까? 가능한 한 자주, 그리고 오랫동안 주의를 끌기 위해? 주의를 산만하게 하고 주의를 분산시키기 위해? 그리고 이러한 플랫폼이 권장하는 행동 유형은 깊은 아이디어를 생성하는 데 필요한 자기 몰입적 사고 프로세스 유형과 완전히 반대되지 않습니까? 주의력이 하루에 58번 중단될 때 사람은 어떤 깊은 일을 할 수 있습니까? 그리고 그 중 30번이 직장에서 발생하는 경우는 언제 입니까? 사람들이 하루에 30번 휴대폰을 확인함으로써 우리 사회가 잃고 있는 것은 무엇일까요? 그리고 우리가 이미 강박적으로 휴대폰을 확인하고 이러한 AI 알고리즘이 날 이 갈수록 좋아지고 있다면 장기적인 추세는 어떻게 보 일까요?소셜 미디어가 우리의 잠재력을 축소 한다고 생각할 때까지 Descartes, Marie Curies 또는 Einsteins는 얼마나 더 TikTok에 잃을 까요?

또한 인류의 미래는 “ 누군가가 실수로 또는 고의로 궁극적으로 인류를 멸망시키는 AI 시스템을 촉발할 수 있다”고 경고하는 것도 당혹스럽고 역설적이다.”, 자체 개선 기능을 갖춘 고급 알고리즘을 사용하여 전 세계적으로 인간의 두뇌를 해킹하는 Mark Zuckerberg 등이 있습니다. 무의미한 스크롤 원숭이 무리로 사회를 변화시키는 것은 실존 적 위협이 아닙니까? 쉬운 도파민 보상을 추구하도록 인간의 두뇌를 재배선하는 것이 실존적 위협이 아닌 인지 요구 작업을 수행하는 데 방해가 되지 않습니까? AI 알고리즘이 우리의 두뇌를 조작하고 문자 그대로 우리의 결정에 영향을 미치게 하는 것은 실존적 위협이 아닙니까? 그리고 지루함은 소셜 미디어가 제공하는 무한한 오락이 종식시킨 이 "두려운" 감각입니다. 노력을 기울이는 동기를 모으는 데 필요한 촉매제, 자기 성찰과 세대를 위한 필요한 공간과 시간입니다. 새로운 창의적인 아이디어?

장기적인 추세는 Wall-E와 Ready Player One이 혼합된 것처럼 보입니다. 우리가 점진적으로 휴대폰에 더 많이 연결 될수록 물리적 세계와의 연결이 서서히 끊어 지고 물리적 세계는 자체 장치에 맡겨집니다. 우리는 무의식의 AI, 즉 선도 악도 아닌, 단지 우리가 프로그래밍한 것이기 때문에 가능한 한 오랫동안 우리를 화면에 가두는 것에만 신경을 쓰는 자동인형의 손아귀에 있게 될 것입니다.

그리고 우리의 집중력이 강탈당하는 동시에 소셜 미디어는 우리 사회를 무서운 방식으로 변화시키고 있습니다.

2부. TikTok에 약간의 YouTube가 있습니다: 관심 전쟁

언뜻 보기에 주의 집중 문제는 소셜 미디어 사용자에게만 영향을 미치는 것처럼 보일 수 있습니다. 그러나 문제는 어떤 기술이나 커뮤니케이션의 영향권이 그 사용자 안에 포함되어 있지 않다는 것입니다. 예를 들어, 자동차의 출현은 모든 사람에게 제한, 거리 표시 및 법률을 가져왔고 자동차 운전자 와 보행자 모두를 위해 도시를 변화시켰 습니다. 마찬가지로 소셜 미디어는 우리 사회를 천천히 변화시키고 있으며 TikTok이 이미 다른 모든 소셜 미디어 플랫폼을 잠식했기 때문에 TikTok을 비난해야 하는지 Instagram을 비난해야 하는지는 중요하지 않습니다. 이 첫 번째 요점을 설명하기 위해 YouTube와 TikTok을 비교할 수 있습니다.

표면적으로 Youtube와 TikTok은 분명히 별개의 플랫폼으로 보일 수 있지만 전자 는 장편 콘텐츠에 초점을 맞춘 비디오 공유 플랫폼 이었고 후자는 실제 콘텐츠가 없는 짧은 형식의 뮤직 비디오에 초점을 맞춘 소셜 미디어 플랫폼이었습니다. 같은: 당신의 관심. 당신의 관심은 하루 24시간으로 제한되어 있기 때문에 이 두 거인은 같은 파이 한 조각을 놓고 경쟁합니다. 이것은 Youtube가 Youtube가 되는 것에 관심이 없다는 것을 의미합니다. 즉, 긴 형식의 콘텐츠에 중점을 둡니다. 상황에 따라 변경될 준비가 되어 있습니다(예: 앱 사용 시간 감소). 이러한 이유로, 그것은 선도적 입니다청중을 끌어들이기 위해 사용하는 방법이 무엇이든 이미 실행 중인 방법보다 더 효과적이기 때문에 다른 사람들이 적응하도록 하는 플랫폼입니다. 이것이 Instagram이 기본적으로 Snapchat(이야기), TikTok(릴) 및 Youtube(Instagram TV)의 프랑케슈타인 버전인 이유이며, 처음에는 항상 긴 형식 콘텐츠에 초점을 맞춘 비디오 공유 플랫폼인 Youtube가 — 이제 소셜 미디어 플랫폼으로 간주되며 자체 TikTok 버전(Youtube shorts)을 소개하기까지 했습니다.

그러나 이번에는 특히 지배적인 플레이어인 TikTok에 대해 걱정스러운 것이 있습니다. 2022년 말까지 최고의 소셜 미디어 플랫폼이 될 것으로 예상됩니다. YouTube(특히 TikTok 이전 버전)가 확장된다면 끔찍하지 않을 것입니다. 종종 잘 연구되고 흥미로운 정보로 가득 차 있거나 말 그대로 무엇이든 배울 수 있는 수많은 자습서와 같이 단순히 매우 유용한 콘텐츠가 많기 때문에 영향력의 영역입니다. 형식 콘텐츠는 집중을 장려합니다. 대신 TikTok 콘텐츠는 터무니없는 것으로 최대한 축소됩니다. 짧고 독립적이며 항상 음악이 수반되는 것은 아니지만 종종 있습니다. 이러한 형태의 콘텐츠는 일부가 그 반대인 척하더라도 어떤 식으로든 교육적이지 않습니다. 사실로,

매체는 메시지다

캐나다의 커뮤니케이션 이론가 마샬 맥루한이 정보는 커뮤니케이션 수단에 의해 형성된다는 것을 표현하기 위해 만든 문장이었습니다. 즉, 평균과 메시지는 독립적이지 않습니다. 예를 들어, Neil Portman이 말했듯이 "독자는 진지한 지적 준비 상태에서 무장해야 합니다." 읽기는 "분류, 추론 및 추론에 상당한 힘이 필요한 사고 방식을 따르는 것을 의미합니다." 이것이 과학이 주로 글의 형태로 보급되는 이유입니다. 독서는 방법론과 새로운 결과의 타당성을 신중하게 검사하는 데 필요한 정보의 느리고 합리적이며 집중적인 처리를 강요하기 때문입니다. 또한 인터넷의 콘텐츠가 일반적으로 짧고 얕으며, 책은 특정 주제에 대해 훨씬 더 깊고 복잡한 정보를 제공합니다. 전자는 중단 및 산만함(광고, 팝업, 알림, 자동 재생) 및 능동적인 정보 소비(클릭, 스크롤 등)를 장려하는 수단으로 제공되는 반면, 후자는 집중적이고 산만하지 않은 정보 소비를 요구합니다. Netflix를 시청하는 동안 Instagram 피드를 스크롤할 수 있는 이유이기도 합니다. 반면 TV를 시청하는 동안에는 읽을 수 없습니다.

이제 스스로에게 물어보십시오. 배경 음악이 포함된 독립적이고 비맥락화된 춤 비디오만 허용하고 사실상 두 번째 지속 시간의 주의 지속 시간을 장려하는 수단으로 어떤 정보를 전송할 수 있습니까? 없거나 매우 얕은 것입니다.

TikTok을 통해 복잡한 정보를 전송할 여지가 없습니다. 매체가 적합하지 않기 때문입니다. TikTok이 영향력을 확장함에 따라 심각한 콘텐츠는 무시되고 모든 복잡한 정보는 멍청하고 단순화되며 최소한으로 줄어들어 게으른 마음이 배경 음악과 함께 소비될 수 있습니다. 이 TikTok은 제가 말하는 내용을 완벽하게 보여줍니다 (재미있게도 LinkedIn에서 찾을 수 있습니다).

이전에 TikTok을 본 적이 없다면 이 동영상이 도대체 무엇에 관한 것인지 이해하기 어려울 수도 있습니다. 나에게 이러한 유형의 콘텐츠는 우리가 너무 멍청해져 원격으로 삼키기 어려운 정보(예: 엑셀 팁)가 댄스 공연을 동반해야 하는 이동 Idiocracy 에서 바로 벗어난 것처럼 보입니다. 재미있는. 우리는 더 이상 "튜토리얼"을 읽거나 볼 수 없습니다. 이제 금융에서 과학에 이르는 주제는 재미 있을 필요가 있으며 이러한 유형의 콘텐츠 는 끊임없이 증가하는 정보 흐름의 결과로 콘텐츠를 더욱 매력적 으로 만들어야 할 필요성으로 인해 다른 정보 전송 수단을 잠식 하므로 콘텐츠는 그 과정에서 우리 자신과 함께 극도로 터무니없는 멍청이가되었습니다.

그리고 변화는 이미 느낄 수 있습니다. 음악은 이제 TikTok 기간에 맞게 제작되고 있으며 이제 Twitter에서 정치를 할 수 있습니다. 트윗은 종종 "뉴스"의 일부이며 "뉴스"는 날이 갈수록 짧아지고 과학 금융은 이제 TikTok 스타일의 형식으로 보급되고 있으며 "밈"은 이제 통화 또는 주식입니다. 우리는 더 이상 "콘텐츠"가 없는 "콘텐츠"를 생산하는 것이 실제로 가능한 지점에 도달했습니다. 유익하지도 재미도 없고 순전히 "재미있는" 콘텐츠(제가 콘텐츠 없는 콘텐츠라고 부르는 것)는 TikTok 을 통해서만 실현 가능한 가능성입니다. 배경 소음을 대체하는 침묵을 합법적인 의사 소통 형식으로 허용하는 유일한 의사 소통 수단입니다.

Aldous Huxley 가 그의 Brave New World 에서 두려워한 것은 아무도 원하지 않을 것이기 때문에 책을 금지할 이유가 없다는 것입니다 . 하나를 읽으려면. 헉슬리는 진실이 무의미한 바다에 가라앉을까 봐 두려워했습니다 .” 이것들은 Huxley가 1932년에 Brave New World와 함께 이미 다가오고 있는 위험을 보았지만 Huxley가 깨닫지 못한 것은 우리가 달래고 행복을 주는 약을 복용하는 것이 아니라 주머니에 손을 뻗으면 충분하다는 것입니다. 휴대전화를 꺼내 좋아하는 소셜 미디어 앱을 열고 스크롤을 시작하세요.

참고: 현재 사회에서는 10분 이상의 게시물을 감당할 수 없기 때문에 소셜 미디어가 우리를 어리석게 만드는 증거를 검토하는 파트 2는 다음 게시물에 게시될 예정입니다.