“Você pode viver para ver horrores feitos pelo homem além de sua compreensão”

Parte 3 de Artes e IA

Este será o terceiro de uma série de posts que venho escrevendo sobre IA e as Artes. Estes foram apenas levemente editados e digitados como um fluxo de pensamento, embora eu espere que não sejam negligentes.

Na Parte 1 , eu lidei com quantas das perguntas instintivas que os aplicativos de visualização levantaram no chamado discurso público - “o que é arte?”, “o que significa autenticidade ou originalidade neste contexto?”, “é uma identidade cópia de uma obra de arte diferente daquela obra de arte e, em caso afirmativo, como?” — são, na verdade, uma aceleração de questões e divisões já antigas entre artes e artistas ao longo do século anterior ou mais.

Na Parte 2 , compartilhei um vislumbre do meu fluxo de trabalho atual, para dar um exemplo de como realmente pretendo iniciar a IA com meu processo e acrescentei mais pensamentos e questões levantadas no primeiro.

Apesar do meu entusiasmo, não vejo a IA como uma panacéia que transformará o mundo apenas para “o bem”. O estado atual das coisas pode ser mais parecido com a seção “Aprendiz de Feiticeiro” de Fantasia.

Por mais revolucionárias que sejam essas ferramentas de visualização para qualquer número de usos finais, elas são pequenas em comparação com as maneiras pelas quais a IA mudará nosso mundo de maneira mais ampla - em armas, em metacognição (assistentes de IA), em medicina e biotecnologia, em deepfake / desinformação vs corridas armamentistas de detecção e assim por diante. Coisas grandes e terríveis provavelmente resultarão, como Tesla disse: “Você pode viver para ver horrores feitos pelo homem além de sua compreensão”.

Mesmo na arena relativamente menor de imagens generativas, vejo nuvens de tempestade em potencial se formando no horizonte. Eu acho que é importante pensar sobre as desvantagens realistas e continuar a olhar para equívocos generalizados que provavelmente interferem com essa clareza, no que eu espero que seja meu último capítulo escrito sobre esse assunto por enquanto. Quaisquer que sejam esses horrores, eles estão chegando. Poderíamos fazer melhor nos preparando para eles, em vez de tentar sensacionalizar um crime até agora sem vítimas.

O que quero dizer com isso? No momento, a maioria dos aplicativos de visualização disponíveis publicamente são projetos de código aberto, startups privadas relativamente pequenas ou projetos de desenvolvimento executados com uma equipe reduzida. Todos eles ainda estão em “teste de pré-lançamento”, também conhecido como Beta-. Embora seja verdade que o Stability.ai recebeu um VC de $ 101 milhões para desenvolver seus aplicativos voltados para o público, o maior projeto Stable Diffusion permanece de código aberto.

A Midjourney está indo bem o suficiente para crescer, mas no momento eles têm 11 funcionários, e os desenvolvedores estão planejando estabelecer um salário para si mesmos e apenas deixá-lo funcionar de outra forma, sem oferta pública ou venda. Eles se definiram como um laboratório de pesquisa independente e pretendem mantê-lo assim. Agora, se eles vão se ater a isso se alguém acenar com US $ 1 bilhão sob o nariz é outra história, mas, neste ponto, esperar um grande movimento de vendas abaixo da linha é apenas pular nas sombras.

Tudo isso ainda é provavelmente uma mudança de bolso em comparação com quando empresas como Nvidia , Google e Adobe lançam seus projetos de desenvolvimento beta na arena pública. (Embora, claro, muitos deles já tenham ofertas públicas que usam o que pode ser chamado de “IA”).

A propósito, Stability.ai e Adobe perceberam claramente o burburinho sobre “roubar estilos de artistas” e estão focando seus lançamentos futuros em estilos não vinculados aos nomes dos artistas, embora os usuários ainda possam afetar os mesmos estilos - você só precisa usar outros termos do que seus nomes. Vai ser muito engraçado para mim se é isso que faz as pessoas relaxarem.

Na Parte 1, apontei alguns resultados óbvios à medida que a IA amadurece e é adotada por corporações e governos com orçamentos correspondentes — o “problema do viés”. De certa forma, o problema do viés é mais sobre nós do que sobre a tecnologia, e falarei sobre outras formas que são verdadeiras em um minuto.

“O viés da IA ​​ocorre porque os seres humanos escolhem os dados que os algoritmos usam e também decidem como os resultados desses algoritmos serão aplicados. Sem testes extensivos e equipes diversificadas, é fácil que vieses inconscientes entrem nos modelos de aprendizado de máquina. Então, os sistemas de IA automatizam e perpetuam esses modelos tendenciosos”, Forbes .

No entanto, a maioria das críticas que vi até agora parecem estar muito mais interessadas em uma espécie de roubo maciço de arte que afirmam estar em andamento. Para colocar um ponto delicado nisso, não está exatamente claro para mim quem está atualmente fazendo a exploração de que ouço falar. Quem está sendo prejudicado materialmente?

Há uma certa ironia aqui, já que o problema da autoria, falsificações, falsificações, autenticidade versus reprodutibilidade são exemplos desses debates perenes entre artistas e aqueles de má reputação o suficiente para se associarem a nós, mas de alguma forma “desta vez é diferente”. Claro, Jan. Se alguém está de fato realizando “roubo” ou “explorando o trabalho criativo de todos os artistas”, deve ficar bastante claro quem são essas pessoas e igualmente claro em termos do valor financeiro extraído de um grupo e levado por o outro.

Esses posts sobre Artes e IA foram uma exposição dos meus pensamentos na época e não pretendem ser imutáveis, então é sempre possível que eu tenha perdido os efeitos materiais desse “assalto à arte”, mas eu Não consegui encontrar nada tangível pertencente a nenhum dos três. Certamente não se trata de conjuntos de treinamento, se você reservar um tempo para realmente ler sobre isso. Se aprender e emular estilos existentes é um crime, então tenho más notícias para todos sobre o que os artistas em atividade faziam antes que a IA aparecesse. Se a alegação é que todos devem criar os materiais com os quais trabalham, quanto mais do zero, tenho más notícias sobre como a linguagem funciona. Em certo sentido, todo o reino da imaginação humana é uma procissão de ready-mades.

Tudo o que atualmente parece estar acontecendo a esse respeito são muitos sentimentos feridos e julgamentos precipitados. A mídia social evoluiu para uma máquina que tenta transformar indignação em lucro, então isso não é surpreendente, mas também pode servir para nos distrair dos perigos reais.

Pense no que acontece quando empresas como a Disney concentram suas propriedades de IP em um cache virtual de “personas de atores” com suporte de IA, ou quando sua identidade pode ser possuída perpetuamente. (Ou por 70 anos após a morte, pelo menos). Podemos fazer bem em afrouxar em vez de apertar o rigor das leis de propriedade intelectual, se toda a estrutura não for reconsiderada desde o início.

Perdoe-nos, pois não sabemos o que fazemos.

Como artista, a primeira maneira de prever que essa tecnologia pode tornar minha vida mais difícil é provavelmente começar bastante mundano. Isso vai exacerbar os mal-entendidos existentes sobre os debates bem trilhados no mundo da arte, com efeitos a jusante no mundo real. Você pode até considerar isso um subconjunto do “problema do viés”: os aplicativos de visualização podem exagerar as visões públicas já míopes do que um artista é e faz (“alguém que desenha bem”), e uma parte dessa miopia pode vazar para o que usamos essas ferramentas bastante abertas para, bem como o senso público do que um artista faz .

As pessoas verão rápido e fácil, e imaginarão que a arte é fácil, sem serem capazes de reconhecer o que acontece na produção de um trabalho final de qualquer interesse real, ou que o design ou a ilustração tratam de resolver um problema em vez de “fazer belas imagens”.

Dois desses equívocos parecem prontamente aparentes para mim, certamente mais se apresentarão:

• Uma imagem por si só é apenas uma imagem. Deve ser aproveitado para fazer algo, mesmo algo tão simples que evoque um sentimento ou pergunta particular. Isso requer intenção e uma compreensão do contexto de seu “uso” pretendido. (Ao mesmo tempo, a arte também pode girar em torno de dissociar essa relação ou colocar algo que já existe em um contexto diferente.)
• Um artista visual não é simplesmente “alguém capaz de desenhar bem” e, na medida em que essa crença persiste na presença da IA, isso apenas acelera o mal-entendido. “Desenhar bem”, isto é, a capacidade técnica de representar usando um meio, é em si um meio para um fim. Essa intenção também requer arbítrio e discernimento.

“O que você quer dizer com essa ilustração levará 30 horas? O amigo maconheiro do meu primo/tio/irmão pode simplesmente digitá-lo no Midjourney e o fará em 5 minutos para 2 fatias de pizza!”

Seja como for, minha reação neste caso só pode ser a que sempre foi: então contrate seu primo. Deixe-me saber como isso vai. (Ou melhor ainda… não.) Como Bowie disse no vídeo na abertura deste artigo, “ não toque para a galeria ”.

A solução, se houver, é uma melhor educação sobre o papel da agência, intenção e talvez acima de tudo... processo. Isso é particularmente irônico, considerando quantos artistas no século 20 tentaram remover a intenção e a agência do processo precisamente para confundir nossas ideias sobre o papel do autor/artista como criador.

Conforme explorei na Parte 2, parece que todo mundo quer conhecer seu processo, exceto que ninguém realmente quer ouvir seu processo. Embora eu compartilhe com prazer como qualquer imagem em particular foi desenvolvida, nunca me perguntaram qual é o meu processo com tanta frequência desde que a IA se tornou parte dele. Isso me faz desconfiar que as pessoas de fato não querem saber do meu fluxo de trabalho, mas buscam oportunidades para desacreditar os resultados por conta do método.

Nisso, encontramos outro desses equívocos generalizados: quanto mais difícil o processo, mais artística a arte.

Pegue um artista como Andy Goldsworthy . Seu trabalho é principalmente o resultado de processos naturais - folhas jogadas em um riacho, derretimento do gelo e etc. A justificativa frequentemente apontada para o que faz essa arte é que ela exige muito trabalho. Ele tem que ficar no frio às vezes por muitas horas, ou em outros momentos inoportunos para obter a qualidade de luz certa para capturar uma fotografia e assim por diante.

Agora veja o uso de John Cage de “criações aleatórias controladas” como o I Ching na composição , ou um exemplo que usei antes, 4'33”. Ficar sentado em silêncio em uma sala de concerto dificilmente dá muito trabalho, em relação ao que Andy Goldsworthy faz.

Isso significa que Goldsworthy é um artista “melhor” porque é mais difícil e, se for assim, se eu fizesse uma pintura enquanto estava deitado em uma cama de pregos, isso o tornaria um trabalho superior se eu o fizesse enquanto recebia massagens nos pés? Tornar as coisas mais difíceis para nós mesmos, restringir nossas opções etc. pode desempenhar um papel no ato criativo, quando aplicado a uma intenção específica. Simplesmente fazer isso por si só é evidentemente idiota.

Há também um componente de classe para aumentar intencionalmente a raridade e a dificuldade de criar arte – é “para todos” ou é para um pequeno número de pessoas especiais que provavelmente são dedicadas ao seu ofício, mas também fundamentalmente controladas por porteiros, escolas , pedigrees, etc., principalmente se você quiser ir mais longe com isso do que como um hobby. Afinal, qualquer plebe pode fazer um quadro bonito, mas eu sou um “verdadeiro artista”, certo?

Imagino que você possa ver o problema, embora não pretenda sugerir que haja necessariamente uma única resposta correta.

O risco que estou explorando aqui pode ser semelhante à ameaça de qualquer nova tecnologia com a qual possamos nos envolver como parte da sociedade. Pode haver disrupção no mercado, é claro – embora eu ache que ainda é muito cedo para saber se os aplicativos de visualização acabarão criando ou destruindo mais empregos no processo – mas o que costuma ser mais virulento são os efeitos sociais. Não espero que a difusão estável produza uma onda de derramamento de sangue como a imprensa, mas pode armar ainda mais nossos equívocos de maneiras inesperadas.

Outra analogia pode ser um pouco mais adequada: o mecanismo de busca.

Por mais que as buscas na Internet não tenham de fato revolucionado a inteligência humana - porque ter (ostensivamente) tudo ao seu alcance não garante nenhuma capacidade adicional de fazer perguntas melhores ou saber o que pedir - podemos nos ver pagando um preço semelhante nos efeitos acelerados de aprendizado de máquina nas artes.

Embora os aplicativos de visualização em si não sejam um análogo perfeito para um mecanismo de pesquisa, como os resultados são criações generativas baseadas em conjuntos de treinamento massivos, em vez de uma variedade de IPs já existentes, analogias piores poderiam (e foram) feitas. Pelo menos do lado do usuário, parece ser um portal onde você pede algo (“me dê uma foto de um peixe art déco”), e ele entrega para você.

Eu enquadrei essa tecnologia em meus artigos anteriores como uma ferramenta exatamente por esse motivo. Intencionalidade e agência implicam uma hierarquia que distingue entre a ferramenta e a pessoa que usa a ferramenta. Talvez um dia trabalhar com algoritmos de aprendizado de máquina seja mais como uma verdadeira colaboração, onde realmente temos que repensar o relacionamento, mas não é hoje.

Ninguém pergunta se a Pesquisa Google é um artista, embora possa ser útil para um. Do jeito que as coisas estão atualmente, é igualmente incoerente perguntar se Midjourney é um artista, embora eu tenha visto isso em quase todos os lugares ultimamente. Mesmo que às vezes exiba algo que possa se assemelhar à brincadeira, não tem intencionalidade, não tem agência. No máximo, é mais como um processo natural, como a cristalização.

Por um lado, o Google como corporação não é uma entidade neutra, nem benevolente. Seu objetivo principal é o lucro e, como tal, não é um bom administrador de informações públicas. E, no entanto, aqui estamos nós.

Por outro lado, os efeitos sociais da busca do Google têm muito mais a ver com seu potencial de amplificar nossos preconceitos e preconceitos, nos consagrando em uma “bolha de filtro” um pouco mais sutil do que a mídia social faz com sua própria aplicação do “algoritmo”. Grande parte desse efeito não é resultado de algoritmos, mas sim das perguntas que nós mesmos trazemos a ele e das maneiras como as fazemos.

Você teve acesso a todas as informações do mundo.* Você se sente mais bem informado? Esse acesso mudou as perguntas que você fez? (Se não tiver, é tão notável quanto se tivesse, talvez por razões diferentes.)

Portanto, se essa analogia tem alguma relevância, é lógico que as ameaças reais representadas por esses aplicativos também virão das maneiras pelas quais grandes corporações podem aproveitá-los para o objetivo singular de obter lucro e das maneiras pelas quais o público não está preparado para o nível de envolvimento com a estética que parece necessário para entender que um artista não é, de fato, um dispositivo que entrega a imagem de um peixe quando você nos pede uma.

Então, aqui estamos, terminando com o mesmo enigma que iniciou meu primeiro artigo sobre Artes e IA.

“O que é arte?” é um refrão sem fim. É como um Koan Zen irritante e aparentemente independente. Assim que você lhe der alguma consideração real, descobrirá que não pode caber em nenhuma caixa, sem ser imediatamente capaz de encontrar um contra-exemplo que divida a caixa em duas.

Tornou-se mais um clichê de encerramento de pensamento do que uma pergunta. Você pode dizer que um determinado estilo ou abordagem não tem sentido e encontrar inúmeros exemplos concretos de pessoas que encontraram o significado mais profundo nele. Você pode dizer que é o belo e o sublime, como Kant disse, embora sem o respaldo universalizante de sua razão transcendental que é simplesmente reorganizar as cadeiras do convés do Titanic.

A arte é um mictório pendurado em uma galeria. É uma pintura que você absolutamente não suporta ver, silêncio em um music hall, um show de punk rock em um beco. É maior do que qualquer um de nós e também só acontece dentro de uma única mente. É um ouroboros. Não é apenas um meio, ou restrito a um sentido. É o conto que você pegou no momento certo para mudar sua vida. É o romance que você começou que nunca conseguiu terminar.

Podemos avaliá-lo pela fama, capacidade técnica ou valor financeiro estimado? Alguns dos artistas mais renomados que já viveram venderam pinturas por milhões que não parecem mais complicadas do que um desenho infantil, e há artistas desconhecidos que passaram décadas desenvolvendo habilidades de desenho que podem dar uma chance ao dinheiro de uma câmera de alta qualidade. E vice versa. Em ambos os casos, pode ser sábio lembrar que as aparências podem enganar, e a arte é de fato frequentemente enganosa.

Por tudo isso, “O que é arte?” parece uma pergunta banal. Como se devesse ter uma resposta simples e única, e se pudéssemos apenas descobrir isso, todos poderíamos parar de pintar, ir para casa e dormir bem.

Não há fim, não há resposta. Existem muitas razões pelas quais um artista visual pode querer desenvolver suas habilidades de desenho ou seu trabalho de linha, porque um baixista pode querer praticar escalas e fraseado. Espero que continuemos respeitando o valor desse tipo de trabalho artesanal, sem supervalorizá-lo ou, pior ainda, perder de vista o motivo pelo qual podemos querer fazer esse esforço em primeiro lugar. Nunca foi um fim em si mesmo. Não me coloquei calos porque gosto de calos, ou porque queria provar que era “um verdadeiro artista”. Fiz porque queria tocar baixo.

Devemos resistir ativamente a uma visão tão dolorosamente redutora da arte e da vida.

Quando o Second Life ofereceu pela primeira vez a possibilidade de criar um mundo virtual aberto que poderia ser bem diferente do nosso, algumas pessoas aproveitaram a oportunidade para encenar performances virtuais e shows em galerias que faziam uso do que um “espaço” virtual pode ser usado. A tecnologia era rudimentar, mas elogiei essas tentativas de ultrapassar os limites criativos, fossem elas bem-sucedidas ou não. Ainda muito mais, à medida que se desenvolveu, o SL passou a se assemelhar a um cassino, um shopping center, um clube de strip-tease. Claro, este foi apenas um projeto relativamente pequeno, um aquário, mas demonstra um certo problema com o que as pessoas tendem a escolher quando recebem licença livre para “imaginar literalmente qualquer coisa”.

Quando olhamos para a transformação da internet “social” de ponto de encontro para programadores, artistas marginais e malucos para o mercado global, podemos ver um vislumbre dos verdadeiros riscos dos aplicativos de visualização.

Não me interpretem mal. Não estou criticando as pessoas que querem usar IA para visualizar um gato comendo um pouco de salame como uma guloseima, nem dizendo que toda visualização precisa ultrapassar os limites criativos. Podemos ter nosso Batman comendo sua tigela de espaguete e Harley Quinn vestida de Alice no País das Maravilhas no estilo Leonardo Davinci sem vergonha. Há uma alegria simples na imaginação visual e, se essas ferramentas reduzem as barreiras básicas à entrada, isso certamente não é de todo ruim.

Mas também me pergunto o que imaginaremos quando as limitações desaparecerem. A IA tornará a visualização muito mais fácil, ao mesmo tempo em que torna a “boa arte” não menos mistificadora de uma perspectiva. Não nos dirá quais perguntas devemos buscar. Não nos dirá o que tem significado ou por que estamos perguntando em primeiro lugar.

O que é arte? O que você tem imaginação e visão para fazer a seguir? E depois disso, e depois disso... Melhor não fazer essa pergunta, porque você está muito ocupado pintando, sugerindo ou corrigindo cores.

Começa com o simples impulso de criar e a necessidade de iterar e melhorar esses resultados. Depois, o processo de adquirir calos e perguntar “melhorar para quê?” começa. Seja qual for o meio, seja qual for o método. Nossas respostas criarão o futuro, trabalhando com esta tecnologia, ou sem ela.

Pode ser que meu maior medo da arte da IA ​​seja que ela nos mostre como essas respostas podem ser superficiais e fechadas. Se assim for, a culpa permanecerá humana, demasiado humana. O mesmo pode ser dito sobre os riscos que ela representa.

Só espero estar errado.

*Na verdade, não temos acesso total às informações do mundo por meio de uma pesquisa no Google, e esse mito é parte do problema. Mas isso é uma lata de minhocas para outro dia.