TikTokfication I: идиократия, основанная на искусственном интеллекте (когда искусственный интеллект лучше справляется с отвлечением внимания)

Экзистенциальный риск — это термин, придуманный футурологом и философом Ником Бостромом, определяемый как неблагоприятный исход, который навсегда уничтожит жизнь на Земле или резко сократит ее потенциал. Экзистенциальные риски могут быть неантропоцентрическими или естественными, такими как столкновения с астероидами, извержения вулканов или проглатывание Земли Солнцем при переходе в фазу красных гигантов примерно через пять миллиардов лет. Более страшные экзистенциальные угрозы — антропоцентрические или рукотворные, потому что они подразумевают, что у нас есть потенциал для саморазрушения, предполагая, что, по иронии судьбы, наше собственное самоуничтожение может быть ответом как на гипотезу Великого фильтра , так и на то, что существует очень низкая вероятность (или барьер) для эволюции обнаруживаемой разумной жизни — и парадокс Ферми —очевидное отсутствие разумной жизни там.

Развитие той или иной формы деструктивного искусственного интеллекта (ИИ) позиционируется как один из многих антропоцентрических или созданных человеком рисков, угрожающих уничтожить человечество. На самом деле это тезис знаменитого фильма « Терминатор», в котором сверхразумная система защиты Скайнет обретает сознание, ведя машины в попытке уничтожить человечество, прежде чем ее отключат. Возможно, из-за такого представления в поп-культуре легче думать о вымирании, вызванном ИИ, с точки зрения ошибки программирования или непреднамеренной функции, настраивающей ИИ против его создателей. Но так быть не должно; На горизонте маячит гораздо более мрачная и ужасающая картина, которая угрожает сократить наш потенциал: TikTok.

В этом посте я утверждаю, что TikTok (и, в более широком смысле, социальные сети) сокращают наш потенциал как вида двумя способами: захватывая наше внимание и уничтожая скуку, и полностью изменяя наше общество благодаря изменению способа распространения информации. .

Часть 1. Концентрация

Насколько мы владеем концентрацией? Написал бы Исаак Ньютон законы движения и тяготения, если бы не его настойчивость в размышлениях над проблемой снова и снова ? Как вы думаете, был ли Айзек Азимов в состоянии создавать эквивалент полного романа каждые 2 недели в течение 25 лет , если бы не его способность уединяться и генерировать идеи в свободной от отвлекающих факторов среде ? Выдвинул бы Чарльз Дарвин свою теорию эволюции, если бы не потому, что он позволил своему уму отвлечься и выдвинуть свои великие идеи в пространстве и времени, необходимых его разуму?

Биографические описания величайших умов всех времен говорят сами за себя: говорят, что Исаак Ньютон породил все свои идеи и разработал все эксперименты, которые привели его к написанию законов движения и гравитации, внесению важного вклада в исчисление и превращению света в его «цвета» (длины волн), когда он оказался в одиночестве, уединившись на ферме Вулсторп, чтобы избежать стремительной Черной чумы. Когда его спросили, как ему удалось генерировать все свои идеи, он ответил: « Постоянно думая об этом ». Айзек Азимов сказал, что «мне кажется, что в том, что касается творчества, необходима изоляция. Творческий человек в любом случае постоянно работает над этим .. Его разум все время перетасовывает информацию, даже когда он этого не осознает». У Чарльза Дарвина был то, что он называл своим «мыслительным путем», пешеходный маршрут вокруг своего дома в Кенте, по которому он прогуливался ежедневно, заходя так далеко, что на каждом круге отбрасывал камешек в кучу.

Легко обнаружить, что все величайшие умы всех времен имели бы некоторый распорядок , направленный на изоляцию и концентрацию, необходимые для стимулирования генерации идей. Некоторые из них предпочитали длительные прогулки, как, например, Фридрих Ницше, который однажды сказал, что «все действительно великие мысли зарождаются во время ходьбы», и обычно совершал двухчасовые прогулки по ближайшему лесу. Другие вместо этого выбрали более нетрадиционные виды деятельности, такие как Альберт Эйнштейн, который нашел в море среду, свободную от отвлекающих факторов, необходимую для ясного мышления.. Обычно он просто плыл по течению и считал «морской круиз» «прекрасной возможностью для максимального успокоения и размышления над идеями с другой точки зрения». Его жена писала: «Нет другого места, где мой муж был бы так расслаблен». милый, безмятежный и отстраненный от рутинных отвлекающих факторов , корабль уносит его далеко». Он доходил до того, что писал, что дальние морские путешествия, где проводилось «для работы и размышлений — райское состояние без переписки, свиданий, свиданий и прочих выдумок дьявола!» в течение очень напряженного года, когда он был удостоен Нобелевской премии по физике и совершил поездку по Японии, Китаю, Палестине и Испании.

Ясно, что тишина, изоляция и концентрация необходимы для того, чтобы породить такие глубокие идеи, которые выдержат испытание временем и продолжат влиять на целые поколения и улучшать наше понимание реальности. Но этого недостаточно. По словам Михая Чиксентмихайи — психолога, стоящего за «состоянием потока», создатели приятного иммерсивного состояния, от ученых до музыкантов, испытывают на работе — хорошо известно, что на это уходит не менее 10 лет .иммерсивных технических знаний в определенной области, чтобы иметь возможность создавать или модифицировать что-то по-новому, лучше, чем то, что уже существует. Следовательно, если у величайших художников, ученых, архитекторов, врачей, экономистов, философов и т. д. всех времен была одна общая черта — огромная способность глубоко сосредотачиваться и откладывать сиюминутное удовлетворение на долгие отрезки времени, — они эффективно становились мастерами концентрации. .

Вы можете возразить, что это «выбросы», они уже родились гениями и не могут быть хорошим представлением о важности концентрации. Но не только величайшие умы всех времен используют эту способность, на нее опирается и общество. Разве вы не согласны с тем, что большинство договорных соглашений в обществе — это обмен денег на опыт и концентрацию? Или вы не хотите, чтобы ваш хирург оставался сосредоточенным и невозмутимым во время операции? Пилот самолета, который вы собираетесь взять? Твой таксист? В этих случаях на карту поставлена ​​безопасность , и поэтому вред от отвлечения внимания очевиден. Но как насчет менее очевидных случаев, таких как художники, ученые или инженеры? Что поставлено на карту, когда их способность к глубокому сосредоточению нарушена? Вот это качество и количествоих результатов, которые будут страдать от повышенного уровня отвлечения внимания. Без глубокого погружения в процесс создатели будут создавать быстрые и неглубокие работы. Следовательно, отвлечение приведет к увеличению человеческих ошибок — в некоторых случаях фатальных и легко наблюдаемых (например, автомобильные аварии), — но также к потере количества и качества продукции общества, наряду с сокращением числа музыкантов. предприниматели, художники, ученые и т.

Теперь спросите себя: какое поведение поощряют социальные сети? Разве это не полная противоположность тому поведению, которое я только что описал? Что произойдет, когда наша способность к глубокой концентрации будет нарушена в глобальном масштабе? А если это отвлечение питается от ИИ?

Социальные сети: с каждым днем ​​все лучше и лучше отвлекают вас

Проще говоря, все, что вам нужно для обучения ИИ, — это количественная метрика «успеха» и большие объемы данных. ИИ получает данные (например, изображения с лошадьми или без них), и результаты определенной задачи (например, идентификация лошади на изображении) сопоставляются с этой метрикой успеха (правильно ли ИИ определил, была ли лошадь в кадре). входное изображение?). Через итеративный процесс ИИ оптимизирует некоторые внутренние параметры, чтобы максимизировать этот показатель успеха. От простого распознавания изображений до Alpha GO — ИИ будет все лучше и лучше справляться со своей задачей по мере того, как в этот итеративный процесс ему будет поступать все больше данных. Таким образом, возникает вопрос, для каких показателей успеха Youtube, TikTok, Instagram, Facebook… максимизируют? В чем их ИИ становятся все лучше и лучше? Проще говоря, ваше внимание.

Разве эти платформы не созданы для того, чтобы прерывать ваш мыслительный процесс? Привлекать ваше внимание как можно чаще и как можно дольше? Чтобы поощрить отвлечение и отвлечь ваше внимание? И разве поведение, поощряемое этими платформами, не является полной противоположностью типу самопогруженного мыслительного процесса, необходимого для генерации глубоких идей? Какую глубокую работу может выполнять человек, если его внимание отвлекают 58 раз в день ? А когда тридцать из этих случаев случаются на работе ? Что теряет наше общество из-за того, что люди проверяют свои телефоны по 30 раз в день? И если мы уже навязчиво проверяем наши телефоны, и эти алгоритмы искусственного интеллекта становятся лучше с каждым днем, как выглядит долгосрочная тенденция ?Сколько еще Декартов, Марий Кюри или Эйнштейнов мы потеряем из-за TikTok, пока не посчитаем, что социальные сети сокращают наш потенциал ?

Также сбивает с толку и парадоксально то, что в то же время «Будущее человечества» предупреждает, что « кто-то может случайно или намеренно запустить систему ИИ, которая в конечном итоге приведет к уничтожению человечества».», у нас есть Марк Цукерберг и ему подобные, использующие продвинутые алгоритмы с самосовершенствующимися способностями для взлома человеческого мозга в глобальном масштабе. Разве превращение общества в кучку безмозглых обезьян-скроллеров не является экзистенциальной угрозой? Разве перепрограммирование человеческого мозга на поиск дофаминового вознаграждения без усилий, мешающее ему выполнять сложные когнитивные задачи, не является экзистенциальной угрозой? Разве предоставление алгоритмам искусственного интеллекта манипулировать нашим мозгом и буквально влиять на наши решения не является экзистенциальной угрозой? И разве скука — это «ужасное» ощущение, которому положили конец безграничные развлечения, предлагаемые социальными сетями, — не является ли она необходимым катализатором для получения мотивации для выполнения усилий, необходимого пространства и времени для самоанализа и генерации новые творческие идеи?

Долгосрочная тенденция выглядит как смесь Wall-E и Ready Player One, когда мы постепенно становимся все более подключенными к нашим телефонам, мы постепенно отключаемся от физического мира, оставляя его на произвол судьбы. Мы окажемся во власти бессознательного ИИ, который не является ни добрым, ни злым, просто автоматом, который заботится только о том, чтобы зацепить нас за экран как можно дольше, просто потому, что на это мы его запрограммировали.

И в то же самое время, когда наша способность концентрироваться похищается, социальные сети трансформируют наше общество действительно страшными способами.

Часть 2. В вашем TikTok есть немного Youtube: войны за внимание

На первый взгляд может показаться, что проблемы с прерыванием внимания должны затрагивать только пользователей социальных сетей. Однако проблема заключается в том, что сфера влияния любой технологии или формы коммуникации не ограничивается ее пользователями. Например, появление автомобиля принесло с собой ограничения, уличную разметку и законы для всех, преобразив города как для водителей автомобилей, так и для пешеходов. Точно так же социальные сети медленно трансформируют наше общество, и не имеет значения, должны ли мы обвинять TikTok или Instagram, поскольку TikTok уже поглотил все другие платформы социальных сетей. Мы можем сравнить Youtube и TikTok, чтобы проиллюстрировать этот первый пункт.

Хотя на первый взгляд Youtube и TikTok могут показаться совершенно разными платформами — первая была платформой для обмена видео, ориентированной на длинноформатный контент, а вторая — платформой для социальных сетей, ориентированной на короткоформатные музыкальные видео, лишенные реального контента — их конечная цель — то же: ваше внимание. Поскольку ваше внимание ограничено 24 часами в сутки, эти два гиганта соревнуются за кусок одного пирога. Это означает, что Youtube не заботится о том, чтобы быть Youtube, т. е. сосредоточиться на длинноформатном контенте, и он будет готов измениться, если того потребуют обстоятельства, например, из-за сокращения времени, затрачиваемого на приложение. По этой причине он является ведущимплатформа, которая заставляет других приспосабливаться, так как любой рецепт, используемый для привлечения аудитории, оказывается более эффективным, чем любой из уже существующих на практике. Вот почему Instagram, по сути, является версией Франкештейна Snapchat (истории), TikTok (ролики) и Youtube (Instagram TV), и по той же причине Youtube — изначально платформа для обмена видео, которая всегда фокусировалась на длинноформатном контенте — теперь считается платформой для социальных сетей и даже зашла так далеко, что представила собственную версию TikTok (шорты на YouTube).

Но на этот раз есть кое-что, что особенно беспокоит доминирующего игрока — TikTok, который, по прогнозам, станет ведущей платформой социальных сетей к концу 2022 года. Видите ли, было бы не так уж ужасно, если бы Youtube (особенно версия до TikTok) расширился. его сфера влияния, так как есть много хорошо продуманного контента, часто наполненного хорошо проработанной и интересной информацией, или просто чрезвычайно полезного — например, бесчисленное количество доступных руководств, из которых вы можете узнать буквально все, — в то время как можно утверждать, что это давно Содержание формата побуждает к концентрации. Вместо этого контент TikTok представляет собой полнейшее сведение к абсурду — короткий, самодостаточный и часто, если не всегда, сопровождается музыкой. Эта форма контента никоим образом не может быть образовательной, даже если некоторые делают вид, что это не так. Фактически,

Среда — это сообщение

Это предложение придумал канадский теоретик коммуникации Маршалл Маклюэн, чтобы показать, что информация формируется средствами коммуникации. Другими словами, среднее значение и сообщение не являются независимыми. Например, как выразился Нил Портман, чтобы заняться написанным словом, «читатель должен прийти вооруженным, в состоянии серьезной интеллектуальной готовности». Чтение «означает следовать ходу мысли, что требует значительной способности классифицировать, делать выводы и рассуждать». Вот почему наука в основном распространяется в виде письменных статей, потому что чтение требует медленной, рациональной и целенаправленной обработки информации, необходимой для тщательной проверки методологии и достоверности новых результатов. Именно поэтому контент в Интернете, как правило, короткий и неглубокий, в то время как книги обеспечивают гораздо более глубокое и сложное погружение в конкретную тему. Первый предоставляется в виде средств, которые поощряют прерывания и отвлечение (реклама, всплывающие окна, уведомления, автовоспроизведение) и активное потребление информации (клики, прокрутки и т. д.), в то время как второе требует иммерсивного и не отвлекающего потребления информации. По этой же причине вы можете прокручивать ленту Instagram во время просмотра Netflix, тогда как читать во время просмотра телевизора будет невозможно.

А теперь спросите себя: какую информацию можно передавать таким способом, который позволяет создавать только автономные и неконтекстуализированные танцевальные видео с фоновой музыкой, не требующие внимания и фактически поощряющие удержание внимания на секундной длительности? Ни одного, а если и есть, то крайне мелкого.

Через TikTok нет места для передачи сложной информации, потому что среда просто не подходит для этого. По мере того, как TikTok расширяет сферу своего влияния, серьезный контент будет игнорироваться, а вся сложная информация будет упрощена, сведена к минимуму, чтобы наши вялые умы могли потреблять ее с фоновой музыкой. Этот TikTok — идеальная иллюстрация того, о чем я говорю (как ни странно, его можно найти в LinkedIn).

Если вы никогда раньше не смотрели TikTok, вам может быть даже трудно понять, о чем, черт возьми, это видео. Для меня этот тип контента выглядит прямо из движения « Идиократия» , в котором мы стали настолько тупыми, что информацию, которую трудно проглотить на расстоянии — такой совет Excel — нужно сопровождать танцевальным представлением, так что это развлекательный. Мы больше не можем читать или смотреть «учебник»; теперь темы, начиная от финансов и заканчивая наукой, должны быть интересными , и поскольку этот тип контента каннибализирует другие средства передачи информации из-за необходимости сделать контент более привлекательным вследствие постоянно растущего потока информации, контент будет оболванены до полнейшего абсурда, причем мы сами в этом процессе.

И трансформацию уже можно почувствовать: музыка теперь создается в соответствии с продолжительностью TikTok, теперь можно заниматься политикой в ​​Твиттере, твиты часто являются частью «новостей», «новости» становятся короче с каждым днем, наука и финансы теперь распространяются в формате в стиле TikTok, а «мемы» теперь являются валютами или акциями. Мы достигли точки, когда на самом деле возможно производить «контент», у которого больше нет «контента», контент, который не является ни информативным, ни забавным, чисто «развлекательным» — то, что я называю бесконтентным контентом — возможность, реализуемая только через TikTok, единственное средство общения, которое позволяет заменить фоновый шум тишиной в качестве законной формы общения.

Социальные сети с искусственным интеллектом точно создали море неуместности. Нил Постман в книге « Развлекаемся до смерти » предупреждал нас: «Чего Олдос Хаксли опасался в своем « О дивный новый мир » , так это того, что не будет причин запрещать книги, потому что никто не захочет читать один. Хаксли боялся, что правда утонет в море неуместности ». Это опасности, которые Хаксли видел уже в 1932 году со своим «Дивным новым миром», но Хаксли не смог понять, что мы не будем принимать успокаивающий, приносящий счастье наркотик, вместо этого достаточно дотянуться до своего кармана, принять достаньте телефон, откройте свое любимое приложение для социальных сетей и начните прокручивать.

Примечание. Поскольку я не могу позволить себе 10-минутный пост в нашем нынешнем обществе, часть 2, в которой рассматриваются доказательства того, что социальные сети оболванивают нас, будет опубликована в следующем посте.

Если это было вам интересно, то могу порекомендовать прочитать:

Отмели: как Интернет меняет то, как мы думаем, читаем и запоминаем, Николас Карр

Глубокая работа: правила сфокусированного успеха в рассеянном мире , Кэл Ньюпорт

Развлекаемся до смерти: публичный дискурс в эпоху шоу-бизнеса , Нил Постман

О дивный новый мир , Олдос Хаксли