Uma armadilha tecnológica feita pelo homem que enfatiza os limites de nossas realidades.

A 5ª Revolução Industrial chegou.

O volante da IA ​​está mudando a forma como trabalhamos, aprendemos e interagimos. Nesta profecia autorrealizável, parece que começamos a perder o controle: quanto mais continuamos a usar o software de IA, melhor ele se torna. Quanto melhor ela se tornar, mais a usaremos.

Essa Tecnologia veio para ficar e nos obriga a repensar a criatividade, o conhecimento e outros atributos humanos.

Neste artigo, quero explorar as questões atuais do AI Zeitgeist. Como o mundo criativo de amanhã é diferente do de hoje? Existe valor para objetos gerados por IA? O que podemos aprender com o passado para que possamos entender melhor o futuro? E como será o nosso futuro industrial?

Da internet “falsa a priori” e suas consequências aos “Ciclos Infinitos de Informação”: o que se segue é um exame de por que as perguntas que estamos fazendo sobre máquinas criativas hoje não são novas, mas as respostas mudaram.

O “falso a priori”

A World Wide Web nos trouxe uma explosão de conhecimento, mas com ela veio uma responsabilidade extrema. E assim tivemos que aprender e entender novas ameaças e perigos.

O mesmo pode ser dito para informações geradas por IA. Com a ajuda de novas ferramentas baseadas em IA, mídias significativas podem agora ser produzidas em massa em um piscar de olhos. Precisamos aprender novos princípios para dar sentido a tudo isso.

Antes de 2022, precisávamos aprender a não “confiar em tudo que vemos na Internet”. No futuro, devemos aprender a “não confiar em nada, a menos que se prove real”.

Chamo esse novo paradigma de “falso a priori”.

A “falsa a priori” é uma condição na qual se deve assumir que toda mídia é potencialmente falsa, a menos que se prove o contrário, devido à crescente capacidade das máquinas de produzir conteúdo semelhante ao humano no mundo real.

Há muito tempo existe conteúdo “falso”, traiçoeiro e falso em qualquer mídia. Na verdade, estima-se que a palavra remonte ao século 18, quando era usada para descrever coisas que eram artificialmente embelezadas. Hoje, usamos para descrever qualquer tipo de conteúdo estranho ou falso (por exemplo, Deepfakes, renderizações 3D, desenhos fotorrealistas, geração de voz etc.), mas, no fundo, o significado da palavra permanece o mesmo. A falsidade é meio agnóstica: todas as formas de mídia (texto, vídeo, foto, som, …) podem conter conteúdo falso ou artificial.

Antes dos algoritmos de IA modernos, criar imagens, vídeos ou sons falsos era muito difícil para o Joe comum. Isso mudou em 2022. A frequência com que tais mídias podem ser produzidas e também combinadas (Vídeo+Som, por exemplo) deixou muitos de nós incrédulos. As máquinas agora são capazes de copiar e produzir quase qualquer tipo de conteúdo digital e carregá-lo na Internet automaticamente por meio de pipelines de software especialmente projetados.

Nesta chuva de novas informações, precisamos não apenas de um novo mapa para identificar as fontes de informações “reais”, mas também de uma nova bússola para nos guiar às fontes que realmente importam.

Em outras palavras: precisamos de novos modelos mentais.

Atualizar-se para formar novas crenças pode ser difícil e desafiador. Qualquer pessoa que tenha acompanhado ou participado dos recentes debates públicos sobre fontes de dados, o treinamento desses modelos, direitos autorais e assim por diante, terá percebido que muitas das regras, leis e ideias da era pré-IA agora parecem desatualizadas e irrelevante.

Nestes debates atuais, existem basicamente dois campos: aqueles que defendem as máquinas e afirmam que o progresso tecnológico não pode ser interrompido (vamos chamá-los de “Discípulos Tecnológicos”), e aqueles que argumentam que a IA criativa quebra as leis existentes e que a soberania humana devem ser protegidos a todo custo (vamos chamá-los de “Luditas Modernas” ).

O que as pessoas que se posicionam em apenas um desses campos muitas vezes não conseguem entender é que ambos os campos estão certos: o progresso tecnológico é realmente muito difícil de parar, mas com o tempo ele dará origem a novas leis e assim satisfará as demandas dos luditas.

Estamos no meio de um intenso período de mudança. Grandes pedaços da indústria de alta tecnologia estão sendo substituídos por “Higher Tech”. Empregos em indústrias que eram consideradas seguras estão sendo interrompidos. Não é apenas o Artista ou o Ludita Moderno que experimentará uma mudança. É (quase) todos os setores.

Em nosso caminho para a mediação completa, estamos engolindo partes de nossas culturas atuais e, passo a passo, perdemos muito do que as gerações passadas pensaram que nos tornaria humanos. Ao mesmo tempo, nascem novas culturas.

Neste mundo “a priori falso”, onde a maioria do que consumimos é realmente irreal ou falso e onde o mundo analógico se torna extraordinário, precisamos de novos olhos para olhar o que nos rodeia. Precisamos redefinir o que significa “falso”.

Nós moldamos nossas ferramentas e, posteriormente, nossas ferramentas nos moldam...

O admirável mundo novo é um falso mundo novo

Então, em resumo, o admirável mundo novo de amanhã parece ser um mundo cheio de mais informações falsas, falsas e irreais, onde não se pode mais confiar em muita coisa. Mas a situação não é tão terrível quanto parece. Não há razão para ter medo. Essa psicose pode ser facilmente resolvida, como veremos agora.

Como os filósofos cibernéticos notaram no passado, as Histórias em que acreditamos, quer as chamemos de verdadeiras, falsas ou falsas, têm uma influência significativa em nossa percepção do mundo. Eles são centrais para nossa compreensão da realidade. Eles podem nos ajudar a manter a sanidade em tempos sombrios e fornecer orientação, apoio e significado em situações desafiadoras.

Sempre que tentamos explicar o inexplicável, criamos Histórias. Nós nos referimos a eles para explicar as coisas que nossos biocomputadores não entendem intrinsecamente. Criamos histórias para ensinar moral e ciência ou executar política e guerras.

Usamos o Stories sempre que nos falta informação. Porém, em um futuro onde as máquinas podem gerar histórias infinitas, estaremos diante do problema oposto: o excesso de informação. Neste mundo, precisamos de novas maneiras de identificar e avaliar as histórias mais valiosas em meio ao ruído de um fluxo interminável de dados. Precisamos de novos critérios para determinar o que é falso para nós e o que não é, ou melhor, o que não é “suficientemente falso”.

Esse transbordamento de informações pode parecer tão ensurdecedor quanto um vazio informacional, mas em ambos os cenários é importante lembrar: as melhores histórias sempre persistem e vencem. Em última análise, as melhores histórias definem a realidade da nossa sociedade. Isso vale para qualquer tópico: política, religião, racismo ou qualquer outro problema perverso em geral.

Algumas histórias são transmitidas e geralmente aceitas, enquanto outras (mesmo que sejam muito semelhantes ou até mais próximas de uma verdade objetiva) são rejeitadas. Assim, nossa realidade atual é o resultado de uma guerra de informação sem fim, na qual os jogadores mais poderosos conseguem impor suas histórias aos menos poderosos. A verdade nem sempre é objetiva e há questões para as quais simplesmente não temos evidências empíricas suficientes para determinar a única verdade. Na verdade, sob o princípio da “verdade para com a natureza”, os cientistas do século XVIII acreditavam que o mundo natural era governado por leis fixas e que era possível entender e explicar essas leis por meio de observação e experimentação cuidadosas. Eles acreditavam que o mundo natural era um lugar racional e ordenado, e que era possível descobrir as causas subjacentes dos fenômenos naturais por meio da investigação científica. Hoje pensamos saber que essa ideia é excessivamente simplista.

A Terra foi criada em 7 dias ou com um big bang? Nunca saberemos, mas com o tempo o consenso sobre qual história acreditamos muda. Mas o consenso não torna uma História verdadeira. (Heinz von Foerster: “Das muss es gewesen sein!” [PT: Deve ter acontecido isso!])

Ainda assim, as Histórias desempenham um papel crucial na sociedade humana, servindo como uma forma de dar sentido ao mundo, do passado ao futuro, e permitem-nos transmitir conhecimento, valores e memes. Como observou o filósofo cibernético Stafford Beer: “A maneira como construímos a realidade depende das histórias que contamos”. Ou em palavras mais simples de Elon Musk: “Quem controla os memes, controla o universo”.

Intrinsecamente, queremos acreditar que as melhores histórias são aquelas que resistem ao teste do tempo e ao escrutínio da avaliação crítica quando, na realidade, nossas histórias são muitas vezes o resultado de uma tomada de poder muito longa que exigiu muito capital e ecologia. sacrifício (humanos, animais, plantas, …). Essas histórias que foram capazes de perdurar podem não ser necessariamente as mais merecedoras ou as mais significativas, mas sim aquelas que foram capazes de durar mais que outras devido aos recursos e poder por trás delas.

Agora o leitor curioso pode pensar: Mas como as Stories se relacionam com o “A priori fake” ou com a IA em geral?

A resposta é simples: sempre vivemos em um mundo falso. As histórias em que acreditamos são a prova. Na verdade, nunca importou para a sociedade se uma história foi escrita por uma máquina, por um humano ou se uma história era uma mentira completa. Na verdade, acredito que muitas histórias foram escritas de forma muito aleatória no passado. Um ótimo exemplo é o episódio de South Park “Cartoon Wars”, onde os meninos descobrem que Family Guy é na verdade escrito por peixes-boi que selecionam aleatoriamente bolas com palavras e as concatenam para formar uma piada. Ainda assim, ninguém poderia argumentar contra o fato de que, desde que essas piadas ou histórias tivessem valor para a pessoa que as ouviu ou acreditou, elas eram “reais”.

Resumindo, a sociedade humana é claramente o resultado de milhares de anos de crenças sem sentido.

Quando examinamos algumas histórias que alcançaram grande popularidade no passado, a situação é claramente absurda. Tomemos por exemplo “Sonic the Hedgehog” ou “Super Mario”, dois dos personagens fictícios e marcas mais conhecidas do mundo. Estou escolhendo o exemplo deles por causa de uma experiência pessoal recente: um restaurante italiano que visitei com minha esposa tinha grandes telas de televisão nas paredes que exibiam um filme animado em 3D do Sonic. Enquanto estávamos sentados comendo nossas pizzas, não pude deixar de notar o grau em que as crianças estavam sendo hipnotizadas por meio dessas telas e da história do Sonic, para que seus pais e avós pudessem conversar em paz. O vídeo estava rodando sem som, mas mesmo assim cumpriu seu propósito.

Ambos os personagens, Sonic e Mario, surgiram de jogos 2D de baixa resolução nos anos 80. Sonic perseguia anéis de ouro, enquanto Mario perseguia moedas de ouro. Duas Histórias nasceram da necessidade de adicionar algum tipo de objetivo (e História) a um jogo primitivo: o Homo Sapiens “Caçador e Coletor” (ou ouriço azul no caso de Sonic) persegue objetos brilhantes e precisa parar algum pixel inimigo malvado.

Parece que não importa o quão absurda seja a história inicial, sempre podemos adicionar novas partes a elas e expandir o universo em que estão inseridas. Portanto, não é surpresa que, se examinarmos o que evoluiu desses dois primeiros jogos, seja um abominação relevante. Um monstro Frankenstein construído a partir de origens humildes com restrições tecnológicas, gráficos ruins e enredos extremamente primitivos. Ainda assim, as crianças no restaurante 30 anos depois assistem às versões animadas em 3D mais sofisticadas e ficam hipnotizadas por elas.

Meu ponto é: as histórias de Sonic e Mario poderiam ter sido escritas por uma máquina, por um humano, por peixes-boi ou por um macaco apontando para palavras aleatórias em um outdoor, e ainda assim pode-se argumentar que ambos os personagens e seus mundos forneceram resultados mais positivos. energia para a sociedade do que sua última história de crime de assassinato de seu jornal local ou a notícia sobre o acidente que aconteceu na estrada ontem à noite.

A lição aqui é esta:

A sinceridade de uma História independe de sua capacidade de fazer sentido no mundo real.

O valor do objeto sintográfico

A palavra “Fotografia” significa “desenhar com luz”. A palavra “Sintografia” significa “Desenhar sinteticamente”. Embora esse neologismo ainda não seja muito difundido, acredito que seja a palavra perfeita para descrever o imaginário criado pelas ferramentas de IA. Semelhante à Fotografia, a Sintografia pode criar algo significativo do nada em um instante.

Olhando para a tecnologia criativa de IA, fica claro que nos próximos anos seremos confrontados com MUITAS imagens, vídeos, textos estranhos e, portanto, novas histórias que exigem nossa avaliação. Algumas pessoas acreditam que as máquinas em breve criarão histórias personalizadas para todos . Outros estão tentando criar conceitos como “O Netflix da IA”. Embora eu entenda as motivações por trás de tais experimentos, não acho que essa abordagem funcionará e o argumento acima envolvendo Mario e Sonic é um exemplo de prova.

Os humanos precisam de Histórias coletivas para construir uma realidade comum. Nossas histórias só revelam todo o seu potencial se forem vividas juntas. Pense em qualquer livro, filme ou videogame que você já jogou: a conexão comum que você tem com outros consumidores é a base para qualquer fandom, religião ou companheirismo. Essas conexões serão ainda mais relevantes em um cenário onde somos inundados com novas informações a cada milissegundo. Acredito que a divulgação de uma grande quantidade de novas informações não nos levará a acreditar em histórias menos relevantes, mas, na minha opinião, acontecerá o contrário: nossas histórias se tornarão mais relevantes. Os bons prevalecerão. Levando em consideração o Efeito Lindy, pode-se até argumentar que as Histórias que persistiram por muito tempo continuarão sendo as mais valiosas.

Já temos um grande corpus de arte antiga à nossa disposição. Este corpus agora pode ser reciclado repetidamente por meio de nossas máquinas. Será interessante ver se os princípios estabelecidos de narrativa, como a Jornada do Herói, permanecerão relevantes, ou se a Jornada do Herói de amanhã será marcada pela aleatoriedade e total imprevisibilidade.

Os filtros de avaliação para qualquer história serão aplicados com mais frequência e violência à medida que a competição cresce. Enquanto mais informações são produzidas a cada dia e mais Stories são criados, nosso filtro coletivo absorve cada vez mais.

Nesta nova Era da Reprodução Artificial, a era generativa, estamos passando de: “Agora podemos fazer infinitas cópias da Mona Lisa” para “Podemos fazer infinitas Mona Lisas”. Mas o fato de que a Mona Lisa é o original com valor cultural, histórico e estético permanece verdadeiro, não importa o que alguém acredite subjetivamente no futuro. Você usará o termo “Mona Lisa” se quiser uma imagem que se pareça com a Mona Lisa, em todas as suas propriedades, como por exemplo “Mulher italiana do século XVI, pintura a óleo”, etc…

É disso que se trata a verdadeira arte e artesanato: Leonardo Da Vinci cunhou as propriedades da Mona Lisa. Seu trabalho servirá como entrada de máquina e âncora de referência nos próximos anos. O valor de um contexto histórico e cultural na compreensão e apreciação das obras artísticas permanecerá. As histórias que envolvem essas peças tornam-se mais relevantes, não menos. A Mona Lisa há muito passou pelo nosso filtro de história e ganhou a propriedade de “Resistência ao Tempo”.

Assim como as fotografias da Mona Lisa não têm o mesmo valor cultural, as cópias sintográficas também não terão esse valor. Embora agora tenhamos os meios para criar uma quantidade infinita de cópias com o clique de um botão, muitas novas criações serão apenas isso: cópias. O valor de um objeto não pode ser derivado apenas de sua aparência visual.

Sem uma História, um Objeto Sintográfico tem apenas uma propriedade: é o Byte Code e a aparência resultante. É, portanto, por padrão, tão sem valor quanto um monte de pinceladas aleatórias em uma tela.

Antes de podermos discutir o valor de tais pinceladas ou Objetos Sintográficos, não devemos esquecer de olhar para o que outras pessoas disseram sobre arte no passado. Por exemplo, o filósofo francês Paul Valéry escreveu extensivamente sobre a importância do próprio processo criativo e o papel que a incerteza e o risco desempenham na criação de grandes obras de arte. Ele argumentou que o verdadeiro gênio artístico reside na capacidade de assumir riscos e abraçar a incerteza. A melhor arte surge de um processo de exploração e experimentação.

Quanto maior o risco, melhor a história.

Em escritos anteriores , fiz a analogia de que a evolução da arte na era generativa seria semelhante ao que Walter Benjamin descreveu em “A obra de arte na era da reprodução mecânica” (Benjamin escreveu este livro para explicar os efeitos culturais da fotografia em uma pintura).

Na nova era, o seguinte parece ser verdade para Objetos Sintográficos para os quais um criador humano adicionou manualmente um prompt de texto ou fez algum esforço manual (é claro que existem maneiras diferentes de como esses objetos podem ser gerados sem manipulação humana ativa ou através de fatores mais aleatórios, mas não são o foco deste exemplo):

• O objeto gerado tem valor emocional para seu criador humano. O criador sente um forte preconceito em relação à beleza de sua própria criação (“Meu pensamento se transformou nisso!”).
• Para o observador neutro, a peça gerada tem pouca aura ou valor artístico porque a sua natureza sintográfica implica a impossibilidade de avaliar o esforço despendido na sua criação.

No entanto, para a nova era, há um diferencial que precisamos considerar. Embora não haja dados exatos disponíveis, tenho certeza de que a pintura levou milhares de anos e a fotografia mais de 100 anos para obter mais de um milhão de usuários. O ChatGPT demorou 5 dias.

Devido a essa incrível velocidade exponencial, surge um novo problema.

Loops Infinitos de Informação

A quantidade de novas inovações relacionadas à IA que tivemos que dissecar, classificar e entender apenas no ano passado pode facilmente parecer esmagadora.

Claramente, o fator “Tempo” importa nesta corrida “O vencedor leva tudo” para a Inteligência Artificial Geral, por isso não devemos ignorá-lo. Embora ainda estejamos longe da AGI por uma grande margem, é importante colocar as coisas em perspectiva.

Alguns números recentes: Stable Diffusion v1.4. leva cerca de 18 segundos para gerar uma imagem de 512x512 em uma placa gráfica padrão. Acredita-se que o novo modelo do Google Muse faça a mesma qualidade em 1,3 segundos.

Quanto melhores os modelos generativos se tornarem, mais rápido eles produzirão novas criações e menos recursos eles usarão.

Eu falei sobre o passado e o presente neste artigo. Para a parte final, precisamos olhar um pouco para o futuro.

Um futuro industrial distópico que se poderia prever é um futuro em que as máquinas criariam constantemente novas histórias e, em seguida, aplicariam o “filtro humano” a essas histórias. Os humanos não seriam mais a força criativa, mas apenas a entidade consumidora que está presa em um loop infinito de novas informações. Em algum momento, não nos lembraremos mais do que pedimos às máquinas. Eles simplesmente continuariam correndo, nos forneceriam novas informações e nos tornaríamos os curadores que escolheriam as melhores histórias. (Para aqueles que querem fazer mais pesquisas: eu gosto de comparar esta situação com a Feitiçaria Lemuriana do Tempo do CCRU e de William Burroughs).

Como analogia, podemos pensar nesse cenário futuro fictício como uma nova forma de teste A/B Split-Test (um método comum de comparar duas versões de um produto ou site para determinar qual tem melhor desempenho). Esses futuros testes de divisão nos alimentariam com milhares de versões diferentes de conteúdo de mídia ao mesmo tempo e depois avaliariam nossa reação. Isso significa automação personalizada completa em todas as formas de mídia. Seríamos os curadores e a agência de classificação no mundo “AI Netflix”. Seríamos como ratos de laboratório sendo alimentados com vídeos sintográficos enquanto nossa reação ao estímulo externo é monitorada de perto. Pode-se também pensar neste futuro como uma variação do Teorema do Macaco Infinito, onde seríamos nós que teríamos de ler tudo o que os macacos digitavam e depois dizer a eles o que é bom e o que não é, até o ponto em que os macacos realmente aprendessem a escrever.

Por mais inteligentes que sejamos, tentaremos nos salvar da situação de sermos abusados ​​como ratos de laboratório. Para contornar esse cenário, teremos que encontrar novas soluções tecnológicas para resolver esses problemas tecnológicos. Construiremos novas IAs que filtram e dissecam as Histórias para nós. Eles devem simular nosso comportamento para que possam ser ratos de laboratório, não nós!

Ao fazer isso, criaremos uma situação que intensifica o ciclo de informações: usaremos ferramentas baseadas em IA para interpretar as novas informações que outras ferramentas baseadas em IA despejaram no mercado para nós. Curiosamente, isso também é verdade mesmo em um cenário em que algumas máquinas funcionariam de maneira desonesta e tentariam criar sua própria linguagem secreta ou fazer alguns outros movimentos demagogos difíceis de explicar. Em todo caso, usaremos boas máquinas para nos ajudar contra maus atores (humanos ou máquinas).

Já estamos vendo isso acontecer com o ChatGPT e outros assistentes de IA hoje. Nós os usamos para interpretar qualquer tipo de informação, tornar legíveis grandes conjuntos de dados, desminificar código e assim por diante.

Em termos simples, essa ajuda de ferramentas semelhantes ao GPT pode parecer fortalecedora: é como obter um aumento instantâneo de QI (sim, encontramos uma nova maneira de nos fornecer esses hits de dopamina).

Em uma escala maior, este cenário futuro pode ser resumido assim: uma situação de Força Incontrolável (Informação Infinita) contra um Objeto Imóvel (Intérprete de Informação Todo-Poderoso). É uma dança de criptografia versus descriptografia.

Neste futuro, o Custo do Conhecimento tende a 0, mas também o Custo da Nova Informação.

O custo do Conhecimento tende a 0 porque todas as novas informações são facilmente compreendidas, explicadas e dissecadas. Como cortar carne para uma criança (ou alimentar ratos de laboratório com uma colher).

Por outro lado, o custo da informação cai para 0 porque as máquinas vão gerar novas informações o dia todo.

Força Imparável vs. Objeto Imóvel, em loop.

Esse cenário é o que chamo de Loop Infinito de Informação.

As consequências

Primeiro, a própria indústria criativa ficará presa em Infinite Information Loops. Depois serão Médicos, Advogados, Jornalistas, Lobistas , e outras (mais ou menos) profissões intelectuais. Não se engane: nenhum trabalho será salvo de ser sugado.

Para a indústria criativa em si, espero que cerca de 60% dos trabalhadores criativos percam seus empregos atuais nos próximos 2 anos. Eles serão principalmente no meio da carreira e juniores. Essas pessoas precisarão encontrar novas ocupações.

Os direitos de mídia mudarão. Os advogados vão se divertir nos próximos meses. Muitas tarefas mundanas para eles também serão substituídas por máquinas.

Os profissionais estabelecidos precisarão se reeducar antes de poderem ser economicamente lucrativos novamente. Em grande parte, eles não irão para as universidades, mas usarão as ferramentas de amanhã do Google e da IA. A frase “não sei” se transformará em “preciso perguntar à minha IA”.

Nossa interpretação do que é verdadeiro e do que não é importará menos. A quantidade de informação que estará disponível será ensurdecedora. Nossas máquinas tentarão interpretar o ruído para nós. A curadoria e a análise de conteúdo gerado por máquinas se tornarão uma indústria em que cada pensamento, cada sonho e cada rabisco de máquina precisarão ser constantemente avaliados. Novos empregos serão trabalhos de dissecação de informações. Nossos próprios cérebros e, acima de tudo, nossos corpos de carne serão necessários para resolver os desafios sociais que surgirem.

Em movimentos contrários no futuro, muitas pessoas podem redescobrir a beleza do artesanato tradicional. Uma sinergia entre IA imaginativa e mãos humanas acontecerá.

A política mundial precisará reagir e assumir posições claras para desalavancar os impactos na economia. A China, por exemplo, já fez movimentos para regular e rotular o conteúdo sintográfico. A regulamentação e o consenso mundial acabarão chegando.

Algumas pessoas serão ignorantes, cairão na grade e se afogarão na mídia gerada por IA.

A arte não vai morrer. Essa deve ser a última de suas preocupações.

Descobrir como escrever nossas próprias Histórias no falso mundo novo será uma das grandes tarefas de nossa geração.

Os Infinite Information Loops exigem que repensemos nossa relação com a tecnologia, reaprendemos como aplicamos nossa própria inteligência e, assim, nos reposicionamos neste universo.

Novamente.

Se você gostou deste artigo, você pode

compre-me um café

ou siga-me no Twitter

Este artigo também está disponível no meu site www.mitchoz.com

© Misch Strotz 2023 See More