TikTokfication I: uma Idiocracia orientada por IA (quando a IA fica melhor na distração)

Nov 27 2022

Um risco existencial é um termo cunhado pelo futurólogo e filósofo Nick Bostrom, definido como um resultado adverso que aniquilaria permanentemente a vida na Terra ou reduziria drasticamente seu potencial. Os riscos existenciais podem ser não antropocêntricos ou naturais, como impactos de asteróides, erupções vulcânicas ou o Sol engolindo a Terra ao entrar na fase de gigante vermelha em cerca de cinco bilhões de anos. Ameaças existenciais mais assustadoras são antropocêntricas ou feitas pelo homem, porque implicam que temos o potencial de nos destruir, sugerindo que, ironicamente, nossa própria autodestruição pode ser a resposta para a hipótese do Grande Filtro - que há uma probabilidade muito baixa (ou uma barreira) para a evolução da vida inteligente detectável - e o paradoxo de Fermi -a aparente falta de vida inteligente lá fora.

O desenvolvimento de alguma forma de inteligência artificial (IA) destrutiva é colocado como um dos muitos riscos antropocêntricos ou criados pelo homem que ameaçam acabar com a humanidade. Essa é de fato a tese por trás do famoso filme Exterminador do Futuro, no qual o sistema de defesa superinteligente Skynet ganha consciência, conduzindo as máquinas na tentativa de aniquilar a humanidade antes de ser desligada. Talvez por causa dessa representação na cultura pop, seja mais fácil pensar em uma extinção impulsionada pela IA em termos de um erro de programação ou um recurso não intencional, colocando a IA contra seus criadores. Mas não precisa ser assim; há uma imagem muito mais sombria e fantástica à espreita no horizonte, ameaçando reduzir nosso potencial: o TikTok.

Neste post, argumento que o TikTok (e mais amplamente a mídia social) está reduzindo nosso potencial como espécie de duas maneiras: sequestrando nossa atenção e erradicando o tédio e transformando totalmente nossa sociedade em virtude de mudar a maneira como a informação se espalha. .

A mídia social está nos transformando em macacos irracionais? Criado com Dall-E.

Parte 1. Concentração

Quanto nós possuímos para concentração? Teria Isaac Newton escrito as leis do movimento e da gravitação não foi graças à sua perseverança em refletir sobre um problema repetidamente ? Você acha que Isaac Asimov foi capaz de produzir o equivalente a um romance completo a cada 2 semanas durante 25 anos , não foi por sua capacidade de se isolar e criar ideias em um ambiente livre de distrações ? Será que Charles Darwin teria inventado sua teoria da evolução não foi porque ele permitiu o espaço e o tempo necessários para sua mente vagar e ter suas grandes ideias?

Os relatos biográficos das maiores mentes de todos os tempos falam por si: dizem que Isaac Newton gerou todas as suas ideias e planejou todos os experimentos que o levaram a escrever as leis do movimento e da gravidade, fazer importantes contribuições para o cálculo e resolver a luz em suas “cores” (comprimentos de onda) quando se viu na solidão isolada na fazenda de Woolsthorpe, a fim de escapar da devastadora Peste Negra. Questionado sobre como conseguia gerar todas as suas ideias, ele respondeu: “ pensando nisso continuamente ”. Isaac Asimov disse que “meu sentimento é que, no que diz respeito à criatividade, o isolamento é necessário. A pessoa criativa está, em qualquer caso, trabalhando continuamente nisso. Sua mente está embaralhando suas informações o tempo todo, mesmo quando ele não está consciente disso.” Charles Darwin tinha o que chamava de “caminho do pensamento”, uma rota de caminhada ao redor de sua casa em Kent, pela qual ele caminhava diariamente, chegando a chutar uma pedra a cada volta em uma pilha.

É fácil descobrir como todas as maiores mentes de todos os tempos teriam alguma rotina voltada para o isolamento e a concentração, necessários para fomentar a geração de ideias. Alguns deles optaram por caminhar por longos períodos de tempo, como Friedrich Nietzsche, que disse uma vez que “todos os pensamentos verdadeiramente grandes são concebidos durante a caminhada” e costumava fazer caminhadas de duas horas pela floresta próxima. Outros optaram por atividades menos convencionais, como Albert Einstein, que encontrou no mar o ambiente livre de distrações necessário para pensar com clareza. Ele costumava navegar à deriva e considerava “um cruzeiro no mar” como “uma excelente oportunidade para o máximo de calma e reflexão sobre ideias de uma perspectiva diferente” Sua esposa escreveria que: “não há outro lugar onde meu marido esteja tão relaxado , doce, sereno e desprendido das distrações da rotina , o navio o leva para longe.” Ele chegaria a escrever que longas viagens marítimas eram propícias para "trabalhar e pensar - um estado paradisíaco sem correspondência, visitas, reuniões e outras invenções do diabo!" durante um ano muito agitado em que recebeu o Prêmio Nobel de física e viajou pelo Japão, China, Palestina e Espanha.

É claro que silêncio, isolamento e concentração são necessários para produzir o tipo de ideias profundas que resistem ao teste do tempo e influenciam gerações inteiras e avançam nossa compreensão da realidade. Mas isso não é suficiente. De acordo com Mihaly Csíkszentmihályi — o psicólogo por trás do “estado de fluxo”, os agradáveis criadores de estado imersivo que vão desde a experiência de cientistas a músicos no trabalho — está bem estabelecido que leva pelo menos 10 anosde conhecimento técnico imersivo em um determinado campo para poder criar ou modificar algo de uma forma nova, melhor do que já existia. Portanto, se os maiores pintores, cientistas, arquitetos, médicos, economistas, filósofos etc. de todos os tempos tinham uma coisa em comum era uma imensa capacidade de focar profundamente e adiar a gratificação instantânea por longos períodos de tempo - eles efetivamente se tornaram mestres da concentração. .

Você pode argumentar que esses são os “outliers”, eles já nasceram gênios e podem não ser uma boa representação da importância da concentração. Mas não são apenas as maiores mentes de todos os tempos que aproveitam essa habilidade, a sociedade depende disso. Você não concorda que a maioria dos acordos contratuais na sociedade são uma troca de dinheiro por expertise e concentração? Ou você não quer que seu cirurgião permaneça concentrado e imperturbável durante a operação? O piloto do avião que você está prestes a pegar? Seu taxista? Nesses casos, a segurança está em jogo e, portanto, os prejuízos da distração são óbvios. Mas e os casos menos óbvios, como artistas, cientistas ou engenheiros? O que está em jogo quando sua capacidade de foco profundo é prejudicada? Aqui é a qualidade e a quantidadede suas saídas que sofrerão com níveis aumentados de distração. Sem imersão profunda no processo, os criadores produzirão peças de trabalho rápidas e superficiais. Assim, a distração levará a um aumento de erros humanos - em alguns casos fatais e prontamente observados (por exemplo, acidentes de carro) - mas também a uma perda de quantidade e qualidade dos resultados de uma sociedade, juntamente com uma redução no número de músicos, empresários, artistas, cientistas, etc.

Agora pergunte-se: que tipo de comportamento as redes sociais promovem? Não é o completo oposto do tipo de comportamento que acabei de descrever? O que acontecerá quando nossa capacidade de concentração profunda for prejudicada em escala global? E se essa distração for alimentada por IA?

Mídia social: melhorando a cada dia para distraí-lo

Em termos simples, tudo o que você precisa para treinar uma IA é uma métrica quantificável de “sucesso” e grandes quantidades de dados. A IA é alimentada com dados (por exemplo, imagens com ou sem cavalos) e as saídas de uma determinada tarefa (por exemplo, identificar um cavalo em uma imagem) são comparadas com essa métrica de sucesso (a IA identificou corretamente se havia um cavalo em a imagem de entrada?). Por meio de um processo iterativo, a IA otimizará alguns parâmetros internos para maximizar essa métrica de sucesso. Do simples reconhecimento de imagem ao Alpha GO , uma IA ficará cada vez melhor em sua tarefa à medida que mais dados forem alimentados por meio desse processo iterativo. Portanto, isso levanta a questão: para qual métrica de sucesso o Youtube, TikTok, Instagram, Facebook… está maximizando? O que é que suas IAs estão ficando cada vez melhores? Simplificando, sua atenção.

Essas plataformas não são projetadas para interromper seu processo de pensamento? Para chamar sua atenção com a maior frequência e pelo maior tempo possível? Para encorajar a distração e desviar sua atenção? E o tipo de comportamento que essas plataformas encorajam não é o completo oposto do tipo de processo de pensamento auto-imersivo necessário para gerar ideias profundas? Que tipo de trabalho profundo uma pessoa pode fazer quando sua atenção é interrompida 58 vezes por dia ? E quando trinta dessas vezes acontecem durante o trabalho ? O que nossa sociedade está perdendo como resultado de pessoas verificando seus telefones 30 vezes por dia? E se já verificamos nossos telefones compulsivamente e esses algoritmos de IA estão melhorando a cada dia, como será a tendência de longo prazo ?Quantos Descartes, Marie Curies ou Einsteins mais perderemos para o TikTok até considerarmos que as mídias sociais estão reduzindo nosso potencial ?

Também é desconcertante e paradoxal que, ao mesmo tempo em que o Futuro da Humanidade adverte que “ alguém poderia acidentalmente ou intencionalmente liberar um sistema de IA que, em última análise, causa a eliminação da humanidade”, temos Mark Zuckerberg e outros usando algoritmos avançados com recursos de autoaperfeiçoamento para hackear o cérebro humano em escala global. Transformar uma sociedade em um bando de macacos rolantes irracionais não é uma ameaça existencial? Religar o cérebro humano para buscar recompensas de dopamina sem esforço, impedindo-o de realizar tarefas cognitivas exigentes, não é uma ameaça existencial? Deixar os algoritmos de IA manipularem nossos cérebros e literalmente influenciarem nossas decisões não é uma ameaça existencial? E não é o tédio — essa sensação “terrível” que o entretenimento sem limites oferecido pelas mídias sociais acabou — o catalisador necessário para reunir motivação para fazer o esforço, o espaço e o tempo necessários para a auto-introspecção e para a geração de novas ideias criativas?

A tendência de longo prazo parece uma mistura de Wall-E e Ready Player One, na qual, à medida que nos tornamos progressivamente mais conectados aos nossos telefones, lentamente nos desconectamos do mundo físico, deixando-o por conta própria. Estaremos à mercê de uma IA inconsciente, que não é nem boa nem má, apenas um autômato que só se preocupa em nos fisgar na tela o máximo de tempo possível, simplesmente porque foi para isso que a programamos.

E ao mesmo tempo que nossa capacidade de concentração está sendo sequestrada, a mídia social está transformando nossa sociedade de maneiras realmente assustadoras.

Parte 2. Tem um pouco de Youtube no seu TikTok: a guerra da atenção

À primeira vista, pode parecer que os problemas de atenção interrompida devem afetar apenas os usuários de mídia social. O problema, porém, é que a esfera de influência de qualquer tecnologia ou forma de comunicação não está contida em seus usuários. Por exemplo, o advento do carro trouxe consigo restrições, demarcações e leis para todos, transformando as cidades tanto para os motoristas quanto para os pedestres. Da mesma forma, a mídia social está transformando lentamente nossa sociedade, e se devemos culpar o TikTok ou o Instagram não importa, pois o TikTok já canibalizou todas as outras plataformas de mídia social. Podemos comparar o Youtube e o TikTok para ilustrar esse primeiro ponto.

Embora na superfície o Youtube e o TikTok possam parecer plataformas claramente distintas - o primeiro era uma plataforma de compartilhamento de vídeo focada em conteúdo de formato longo, o último uma plataforma de mídia social focada em vídeos musicais de formato curto desprovidos de conteúdo real - seu objetivo final é o mesmo: sua atenção. Porque a sua atenção está limitada a 24h por dia, estes dois gigantes competem por uma fatia do mesmo bolo. Isso implica que o Youtube não se importa em ser Youtube — ou seja, focando em conteúdo de formato longo — e estará pronto para mudar se as circunstâncias exigirem — por exemplo, devido ao declínio do tempo gasto no aplicativo. Por esta razão, é o líderplataforma que faz com que as outras se adaptem, pois qualquer receita que esteja usando para atrair audiência está sendo mais eficaz do que qualquer uma das já praticadas. É por isso que o Instagram é essencialmente uma versão Frankestein do Snapchat (stories), TikTok (reels) e Youtube (Instagram TV) e é a mesma razão pela qual o Youtube — inicialmente uma plataforma de compartilhamento de vídeos que sempre focou em conteúdo de formato longo — agora é considerada uma plataforma de mídia social e chegou ao ponto de apresentar sua própria versão do TikTok (curtas do YouTube).

Mas há algo particularmente preocupante sobre o player dominante desta vez - TikTok, previsto para se tornar a principal plataforma de mídia social até o final de 2022. Veja, não seria terrível se o Youtube (principalmente a versão pré-TikTok) se expandisse sua esfera de influência, pois há muito conteúdo bem pensado, muitas vezes repleto de informações bem pesquisadas e interessantes, ou simplesmente extremamente útil - como os inúmeros tutoriais disponíveis nos quais você pode aprender literalmente qualquer coisa - enquanto alguém poderia argumentar que é de longa duração o conteúdo do formato incentiva a concentração. Em vez disso, o conteúdo do TikTok é a redução máxima ao absurdo - curto, independente e muitas vezes, senão sempre acompanhado de música. Esta forma de conteúdo não se presta a ser educacional de forma alguma, mesmo que alguns finjam o contrário. Na verdade,

O meio é a mensagem

Essa foi a frase cunhada pelo teórico da comunicação canadense Marshall McLuhan para expressar que a informação é moldada pelo meio de comunicação. Em outras palavras, a média e a mensagem não são independentes. Por exemplo, como Neil Portman coloca, para se envolver na palavra escrita “o leitor deve vir armado, em um estado sério de prontidão intelectual”. Ler “significa seguir uma linha de pensamento, o que requer considerável poder de classificação, inferência e raciocínio”. É por isso que a ciência é divulgada principalmente na forma de artigos escritos, porque a leitura obriga a um processamento lento, racional e focado da informação, necessário para inspecionar cuidadosamente a metodologia e a validade de novos resultados. É também por isso que o conteúdo da Internet é geralmente curto e raso, enquanto os livros fornecem um mergulho muito mais profundo e complexo em um determinado tópico. O primeiro é fornecido de forma a encorajar interrupções e distrações (anúncios, pop-ups, notificações, reprodução automática) e o consumo ativo de informação (cliques, scrolls, etc.) É também por isso que você pode rolar seu feed do Instagram enquanto assiste à Netflix, enquanto será impossível ler enquanto assiste à TV.

Agora pergunte a si mesmo: Que informação pode ser transmitida de uma forma que só permite vídeos de dança independentes e descontextualizados com música de fundo que requerem atenção zero e que, de fato, encorajam períodos de atenção de segunda duração? Nenhum ou, se houver, extremamente raso.

Não há espaço para que informações complexas sejam transmitidas pelo TikTok, porque o meio simplesmente não é apto para isso. À medida que o TikTok expande sua esfera de influência, o conteúdo sério será descartado e todas as informações complexas serão simplificadas, reduzidas ao mínimo, para que possam ser consumidas com música de fundo por nossas mentes preguiçosas. Este TikTok é a ilustração perfeita do que estou falando (curiosamente encontrado no LinkedIn).

Se você nunca assistiu a um TikTok antes, pode até ser difícil reconhecer o que diabos é esse vídeo. Para mim, esse tipo de conteúdo parece saído do movimento Idiocracia , em que nos tornamos tão burros que informações remotamente difíceis de engolir - uma dica de excel - precisam ser acompanhadas por uma apresentação de dança, por isso é divertido. Não podemos mais ler ou assistir a um “tutorial”; agora temas que vão de finanças a ciências precisam ser divertidos e como esse tipo de conteúdo canibaliza outros meios de transmissão de informações pela necessidade de tornar o conteúdo mais atraente em consequência do fluxo cada vez maior de informações, o conteúdo será emburrecidos ao mais extremo absurdo, com nós mesmos no processo.

E a transformação já se sente: a música agora está sendo produzida para atender os períodos de duração do TikTok, agora é aceitável fazer política no Twitter, os Tweets muitas vezes fazem parte das “notícias”, as “notícias” são mais curtas a cada dia, a ciência e as finanças agora estão sendo disseminadas no formato TikTok e os “memes” agora são moedas ou ações. Chegamos ao ponto em que é realmente possível produzir “conteúdo” que não tem mais “conteúdo”, conteúdo que não é nem informativo nem engraçado, puramente “entretenimento” – algo que chamo de conteúdo sem conteúdo – uma possibilidade realizável apenas por meio do TikTok, o único meio de comunicação que permite o silêncio substituindo o ruído de fundo como uma forma legítima de comunicação.

A mídia social alimentada por IA criou precisamente o mar de irrelevância que Neil Postman em Amusing Ourselves to Death estava nos alertando: “O que Aldous Huxley temia com seu Admirável Mundo Novo é que não haveria razão para proibir livros, porque ninguém iria querer para ler um. Huxley temia que a verdade fosse afogada em um mar de irrelevância .” Esses são os perigos que Huxley já viu chegando em 1932 com seu Admirável Mundo Novo, mas o que Huxley não percebeu é que não estaríamos tomando uma droga calmante e produtora de felicidade; em vez disso, basta colocar a mão no bolso, pegar Pegue seu telefone, abra seu aplicativo de mídia social favorito e comece a rolar.

Nota: Como não posso pagar uma postagem de mais de 10 minutos em nossa sociedade atual, a parte 2, revisando as evidências de que a mídia social nos emburrece, será publicada em uma postagem a seguir.