Ouça este episódio:

Transcrição

Vamos falar sobre inteligência artificial. Do que estamos falando quando se trata de IA? Por que estamos tendo essa conversa?

Você provavelmente já viu esse aplicativo chamado Lensa. Eu pulei no trem do hype com ele.

E o que é o Lensa: por uma pequena taxa e carregando até 20 imagens suas, ele misturará todos esses diferentes estilos de arte para criar - cem, duzentos, quantas você pagar - imagens de perfil de você mesmo. Alguns deles são legais, e alguns são estranhos.

Eu pulei no trem do hype. Eu estava curioso. Então, comecei a ver as mídias sociais e outras áreas: como os dados para a obra de arte foram derivados. É por isso que eu queria ter esse tópico.

Nos últimos anos, a inteligência artificial deu saltos e limites em suas habilidades, uma vez que redefine a forma como interagimos com a tecnologia. Robótica, aprendizado de máquina, processamento de linguagem natural e big data são algumas das maneiras pelas quais a IA transformou praticamente todos os setores. Se o seu setor lida com qualquer tipo de dados – e tenta prever o que as pessoas querem – é mais do que provável que use IA.

Quanto às preocupações comuns quando se trata dessa tecnologia emergente, geralmente há apreensão em relação a algumas coisas diferentes:

• Segurança no emprego ou a capacidade de as pessoas continuarem obtendo uma renda
• Problemas de privacidade quando se trata desses dados
• direitos autorais
• Precisão quando se trata desses modelos de dados que tomam decisões ou previsões

Mas a IA levanta a questão mais instigante hoje: como ela muda nossa compreensão da consciência. Então, vamos além das preocupações práticas, começando a ser filosóficos.

• A IA eventualmente terá alguma autonomia?
• Terá livre arbítrio?
• Podemos ensiná-lo a tomar decisões morais?

Considere essas coisas hoje enquanto abordamos o tema da inteligência artificial.

Quando olhamos para a inteligência artificial, estamos todos em lugares diferentes em relação à compreensão. Primeiro, comece discutindo conceitos e termos para garantir que estamos todos na mesma página. Posso dizer uma coisa e você pode pensar que quero dizer outra. Eu quero lidar com isso logo de cara.

A próxima parte serão as preocupações relacionadas à IA. Antes de saltarmos para as implicações espirituais, precisamos olhar para a vida real, agora e hoje, e as situações que estão acontecendo em relação ao uso da inteligência artificial. Por último, mas não menos importante, agora que construímos essa base, podemos examinar as implicações espirituais da IA.

O que é Inteligência Artificial?

Primeiramente, vamos discutir conceitos e termos: o que é inteligência artificial? Nos anos 50, especialistas em computação queriam desenvolver uma forma de diferenciar a inteligência baseada em máquinas daquela que vemos em humanos e animais.

Durante esse período, o matemático e lógico Alan Turing apresentou esta questão filosófica: “As máquinas podem pensar?”.

Vamos pensar sobre isso por um momento. Não podemos observar se outra pessoa está pensando ou não. Não há como medir essa construção que chamamos de mente. Então, ele ajustou sua pergunta. Em vez de perguntar: “As máquinas podem pensar?” ele mudou para “podemos observá-los se envolvendo em comportamento inteligente?”.

Em 1995, Stuart Russell e Peter Norvig publicaram “Inteligência Artificial: Uma Abordagem Moderna”. Este artigo lista quatro objetivos potenciais diferentes para a IA.

• Sistemas que pensam como humanos
• Sistemas que agem (tomam decisões) como humanos
• Sistemas que raciocinam — tirando assim a emoção de cena
• Sistemas que agem racionalmente

IA estreita

Existem diferentes tipos ou sabores de inteligência artificial por aí. O que a maioria de nós conhece é o chamado Narrow AI. A ideia por trás disso é que é muito focado e as máquinas precisam de uma maneira de ir além do que os desenvolvedores as treinam para fazer.

Por exemplo, se você estiver usando Netflix ou Twitter, a plataforma recomenda coisas para você assistir. Mesmo que isso seja estreito, ainda é razoavelmente complexo no que está fazendo. AI estreita significa que a máquina não pode aprender a agir ou fazer coisas além dos modelos específicos fornecidos a ela.

IA geral / Super IA

Isso nos leva ao conceito de inteligência geral artificial e superinteligência. Estes são mais no reino da ficção científica.

Suponha que você esteja vendo livros ou filmes de ficção científica sobre IA, por exemplo, “Westworld” ou “I, Robot”; essas histórias são sobre máquinas chegando ao ponto de serem humanas, sendo autoconscientes, tomando decisões, até mesmo tomando decisões morais. Ainda estamos longe disso. Isso não quer dizer que isso seja impossível porque a tecnologia se move tão rapidamente, mas esses são mais os domínios teóricos da inteligência artificial versus os tópicos práticos do dia a dia que exploramos.

Vamos entrar em termos de inteligência artificial.

Aprendizado de máquina

Não sabemos quais algoritmos usar no aprendizado de máquina para obter o resultado desejado. Existem centenas e milhares de pontos de dados. Dizemos à máquina: “Aqui estão os dados. Aqui está o resultado que estamos procurando. Você determina o algoritmo”.

O que o aprendizado de máquina faz é muito parecido com o que faríamos com o método científico. Ela surge com uma hipótese. Ele executa os cenários. Ele compara os resultados gerados com o resultado que estamos procurando. E diz, ok, é isso ou não? E então continuará realizando experimentos.

O aprendizado de máquina se concentra na otimização e na identificação de um processo para tomada de decisão. Em contraste, podemos precisar descobrir o que fazer, mas temos tempo e energia para descobrir. Temos experiência e perspectiva limitadas. Este cenário é onde nos beneficiamos de trabalhar com aprendizado de máquina.

Aprendizado Profundo

O aprendizado profundo é um subconjunto do aprendizado de máquina e da inteligência artificial. Esse sistema usa camadas de algoritmos, chamadas redes neurais, para tirar conclusões.

Um exemplo do uso de deep learning é o reconhecimento de imagem. Você tem uma camada que avalia as formas. Outra camada identifica os olhos e estuda sua colocação. Outra camada determina gestos corporais ou características faciais.

Quais são as preocupações em torno do uso da IA?

Vamos discutir os elefantes na sala: preocupações com a inteligência artificial.

Dados, direitos autorais e privacidade

Em primeiro lugar, há preocupações em torno da coleta e uso de dados. Quando estamos utilizando aprendizado de máquina ou aprendizado profundo, deve haver uma base de dados para que essas máquinas entendam o problema e formulem seus algoritmos para tomar decisões.

Estamos perguntando sobre os dados. Os indivíduos são os proprietários iniciais de seus dados e trabalhos criativos. Se uma máquina usa esses dados ou informações, eles têm direito a eles? Os proprietários deram consentimento informado?

Não estamos falando apenas sobre eles clicarem em “Sim, eu concordo” nos Termos de Serviço (falaremos mais sobre eles daqui a pouco). As pessoas que concordam com os TOS entendem completamente as implicações do que está acontecendo?

Algumas empresas estão extraindo dados de sites da Internet como Pinterest e DeviantArt, onde os usuários ainda não deram permissão total para acessar esses dados. Quais são as implicações disso?

Estamos analisando alguns problemas mais significativos com mineração ou fornecimento de dados. Inteligência Artificial em Grande Escala, Rede Aberta, LAION, é uma organização sem fins lucrativos que libera conjuntos de dados gratuitos para pesquisa e desenvolvimento de IA. Reserve algum tempo para analisar como ele coleta esses dados e evita leis de direitos autorais ou ideias de quem possui ou deve obter a atribuição.

Os cientistas de dados usam o material do LAION para treinar modelos geradores de imagens como Stable Diffusion, o modelo que o Lensa e outras plataformas de geração de imagens usam. Muitos de nós não percebemos que esse conjunto de dados inclui os registros médicos das pessoas, que o LAION provavelmente compartilhou sem consentimento.

É essencial ver como os agregadores de recursos extraem dados para uso. Se você está curioso para saber se os modelos de IA estão usando suas fotos ou imagens, haveibeentrained.com é o nome do site a ser verificado.

Modelos de dados distorcidos

Isso nos leva à questão do aprendizado de máquina. Quem está definindo a direção? Então, quando falamos sobre aprendizado de máquina, chegamos a um ponto de partida. Chegamos ao ponto final. A máquina faz todos os testes para desenvolver os modelos para otimizar o que se propõe a fazer.

Agora, aqui está o problema: como alguém usa ou se envolve com o aprendizado de máquina afeta as experiências futuras dos usuários. Suponha que uma ferramenta de aprendizado de máquina seja utilizada por pessoas que podem ser maus atores, trazendo problemas ou ideias ou adicionando dados problemáticos. Nesse caso, isso afetará a experiência dos usuários futuros e poderá causar problemas no futuro.

Vamos discutir o aprendizado de máquina e o Lensa e como tudo isso acontece. Portanto, o Lensa usa uma mistura de Stable Diffusion AI, que discutimos há pouco, além de fotos enviadas pelo usuário para gerar imagens de perfil. A arte de origem mais o feedback do usuário final podem distorcer o modelo que produz essas imagens. Uma das coisas que surgiram foi que qualquer gênero que você escolher determinará o quão sexualizadas serão as suas fotos no resultado final. Algumas das imagens resultantes podem ser NSFW se você indicar que se identifica como mulher. Você está pagando por essas fotos de perfil generativas e, de repente, está recebendo nudes sem o seu consentimento.

Dados enviesados, modelos de dados enviesados

Quando analisamos o uso de aprendizado de máquina e dados, outro problema que pode surgir é a entrada distorcida igual à saída distorcida. Qualquer pessoa que faça análises provavelmente está familiarizada com esse lixo e lixo. O mesmo pode acontecer aqui em relação ao aprendizado de máquina e seu impacto na igualdade.

Sem supervisão, os aplicativos de aprendizado de máquina podem reforçar preconceitos culturais. Olhamos para a saúde, por exemplo. Os conceitos de “doente” e “saudável” não são concretos; eles delineiam quem atende a um determinado padrão e quem não. Como os desenvolvedores definem esses termos? Depois, há a questão da amostragem e dados demográficos do público. Foi igual em todas as etnias ou origens, ou pessoas de origens específicas foram incluídas como maioria? Há nuances quando se trata de outras questões da vida que não são tratadas.

Em sistemas com fins lucrativos, o aprendizado de máquina pode afetar adversamente a forma como os membros de grupos marginalizados recebem atendimento, porque está apenas olhando para as informações superficiais. Não percebe o que está acontecendo ou os porquês.

Os termos de serviço não são sinônimos de transparência

E então é necessário mais do que transparência. Você pode colocar o maldito “Mein Kampf” em um Termo de Serviço; as pessoas vão concordar porque não estão lendo. Além disso, o usuário final não deve ser o especialista; não somos especialistas em todas essas coisas diferentes, nem deveríamos ser.

A maioria de nós não tem tempo, energia ou experiência para entender completamente o idioma dos Termos de Serviço, nem temos esse entendimento para ver as consequências de nossas ações quando se trata de coisas como aprendizado de máquina até que seja demais tarde.

A IA está “roubando empregos”?

À medida que a Inteligência Artificial continua a revolucionar a força de trabalho, ela nos força a reavaliar nossa visão sobre a prosperidade econômica. O que aconteceria se adotássemos um sistema que garantisse direitos humanos fundamentais para todos – como moradia segura, saúde e nutrição? Poderíamos navegar por essa mudança de paradigma com maior facilidade!

Em vez disso, o acesso a essas coisas geralmente depende do valor do seu trabalho na sociedade, que determina sua renda e o que você pode pagar. O problema não é necessariamente que a inteligência artificial esteja tirando empregos. A automação está eliminando empregos em uma sociedade em que alguém pode precisar desse trabalho e renda para manter um padrão de vida fundamental.

Estamos lidando com a questão do contexto aqui. Não necessariamente a IA sendo o vilão, o aprendizado de máquina ou os aplicativos, mas nós, vivendo em um mundo bastante desgastado, é o problema aqui. Então, temos todas essas coisas que estão acontecendo.

Responsabilidade borrada

Estamos começando a identificar a crescente necessidade de supervisão social e legislativa. As sociedades que utilizam a inteligência artificial precisam de melhores leis sobre direitos autorais e privacidade. Também exigimos supervisão para garantir que modelos de inteligência artificial e aprendizado de máquina sejam gerados e usados ​​de forma ética, especialmente se impactarem políticas sociais e de negócios.

O impacto espiritual da IA

Agora podemos falar sobre as implicações espirituais. Precisávamos estar na mesma página em relação aos termos. Também precisávamos ter certeza de que abordávamos as questões práticas quando se tratava de IA. Então, vamos entrar em alguns de seus aspectos mais filosóficos e espirituais.

O que é espiritualidade?

Vou apresentar outro termo para você, porque alguns de vocês provavelmente pensam: “O que diabos é espiritualidade?”

A espiritualidade olha para a conexão e o significado. Ele se concentra em nosso relacionamento com o mundo ao nosso redor e com nós mesmos. Então, entendendo qual é o sentido da vida, qual é o nosso propósito? Qual é o nosso lugar no mundo? Esses são aspectos essenciais que se enquadram no âmbito da espiritualidade. Desenvolvemos nossos valores e visão de nosso propósito de vida através de todos eles. E por meio disso, podemos ver se viveremos com integridade com esses valores por meio de nossas ações.

Prós e contras da IA ​​nos aspectos espirituais

Algumas pessoas acreditam que a inteligência artificial nos ajudará espiritualmente porque ajuda a liberar nosso tempo e foco. Usar a IA para lidar com as tarefas domésticas e repetitivas pode nos liberar para focar nosso tempo e esforço nas coisas que valorizamos na vida.

Então, por exemplo, se tivermos muita automação por meio de inteligência artificial e outras ferramentas, e tivermos um mundo que usa a renda básica universal que nos dá a capacidade de colocar nosso tempo, esforço e energia em coisas que possam beneficiar a sociedade bom. Esse é o lado positivo.

Agora aqui está o lado da sombra.

Se não tivermos supervisão ou se as pessoas forem mal-intencionadas, isso pode encorajar a engenharia social ao usar a IA.

Em alguns casos, tem.

Você deve ter notado o quanto as coisas mudaram se você usou a mídia social desde a eleição presidencial dos EUA em 2016.

Plataformas gratuitas como mídias sociais prosperam com nosso engajamento, então eles ajustaram seus algoritmos para nos manter em seus aplicativos por mais tempo. Eles fizeram isso selecionando o conteúdo que acreditavam que manteria nossa atenção. Como esses aplicativos poderiam identificar nossas preferências, vimos um conteúdo alinhado com nossas crenças.

Esse processo criou bolhas de engajamento, limitando nossa exposição a diferentes pontos de vista e nos polarizando ainda mais. Isso prejudicou a empatia e distorceu nossas visões de mundo.

Redefinindo a Humanidade

A inteligência artificial tem o potencial de desafiar o que significa ser humano. Existem características que consideramos serem características exclusivamente humanas? Existem características exclusivas dos seres vivos, como resolução de problemas complexos ou empatia? Como observamos em outros animais, essas características não são exclusivamente humanas. Os céus o proíbem de perturbar um corvo ou corvo; todos os outros em seu pequeno rebanho aprenderão sobre isso.

O que acontece quando observamos máquinas exibindo características – empatia, adaptabilidade ou capacidade de tomar decisões morais – que inicialmente pensamos serem exclusivas de humanos ou seres orgânicos?

Tangente: IA e tomada de decisão ética na ficção científica

Vamos nos aprofundar para discutir inteligência artificial e tomada de decisão ética.

Há dois exemplos de entretenimento que gostaria de compartilhar.

O primeiro é um filme que mencionei anteriormente, “I, Robot”. Neste filme, o personagem de Will Smith, o detetive Spooner, sofreu um terrível acidente de carro. Spooner estava ciente de outra pessoa em perigo, Sarah Lloyd, de 12 anos. Um robô de resgate interveio, mas só conseguiu salvar um deles.

Se duas pessoas estivessem enfrentando a morte e você pudesse salvar apenas uma, quem você escolheria: o homem adulto ou a criança? Segundo o detetive Spooner, ele acreditava que a vida de Sarah deveria ter prioridade e que qualquer ser humano teria chegado à mesma conclusão.

No entanto, o robô escaneou os sinais vitais dele e de Sarah e determinou que a garota tinha apenas 11% de chance de sobreviver com intervenção, enquanto Spooner tinha 45% de chance e assim salvou o detetive.

O robô não tomou essa decisão no vácuo. Alguém teve que programar o robô para se concentrar apenas no fator de sobrevivência e não considerar a programação cultural, como acreditar que mulheres e crianças têm prioridade sobre a vida dos homens. Há muito o que descompactar daquele momento em relação à ética e ao impacto da cultura.

Vamos mudar para o outro exemplo.

Eu sou um grande fã da série de videogames Mass Effect. O principal antagonista ao longo da série são os Reapers, uma raça robótica que tem como alvo a vida senciente dentro da galáxia. Não aprendemos sobre suas origens até que um DLC para Mass 3 compartilhe um conto de advertência.

Os Leviatãs, uma raça aquática cuja existência precede os Reapers, se viam como superiores às outras raças. As outras raças sencientes morreram assim que atingiram um certo nível de desenvolvimento tecnológico, e os Leviatãs intervieram encarregando sua inteligência de máquina de preservar a vida a qualquer custo.

Essas máquinas fazem exatamente isso, mas de uma maneira diferente da pretendida por seus fabricantes. Essa inteligência determinou que o desenvolvimento mútuo da vida orgânica e sintética (IA) levou à inevitável destruição mútua. Em vez de se concentrar apenas na sobrevivência, as máquinas definiram a preservação como a manutenção de registros. A conclusão foi colher essas raças e preservar sua memória genética em forma de máquina, permitindo que as outras raças em evolução se desenvolvessem, onde os Reapers as coletariam em um ciclo posterior. De certa forma, a inteligência da máquina, os Reapers, seguiram seu mandato de preservar a vida a qualquer custo. Eles estavam agindo moralmente? Isso depende de seus valores e quadro de perspectiva.

Ok, tangentes suficientes.

IA e Arte, Criatividade e Inovação

Isso nos leva à espiritualidade e à arte. Recomendo que você verifique os slides nas notas do programa porque incluí capturas de tela de conversas no Twitter sobre esse tópico.

A pergunta “o que é arte?” tem sido debatido por quem sabe quanto tempo. Uma maneira fascinante que vi disso é o conceito de arte como uma conversa entre o artista e o público. Os artistas podem não falar pessoalmente com você, mas o artista tem uma visão e a expressa por meio de seu trabalho. O público busca entender o que o artista está “dizendo” através de sua obra.

As criações geradas por IA são mais parecidas com a conversa com a máquina ou com você mesmo. O que acaba acontecendo é que você está inferindo o significado. O público está tentando juntar a essência do que vê em vez de entender a intenção do artista.

Com arte gerada por humanos, você pode se conectar com a visão do artista ou simplesmente perguntar a eles. Considerando que com uma máquina, não tanto. É uma caixa preta onde você não consegue ver totalmente o que está acontecendo que gera aquele resultado.

Isso nos leva a todo o conceito de imaginação. O que é a imaginação que alimenta os trabalhos criativos? Quem é o artista? É a máquina ou o usuário que fornece os prompts?

Outra questão surge quando você tenta simplificar o processo artístico. Artistas humanos observam o mundo, possivelmente estudando obras existentes para determinar a arte “boa”. Eles criam com base em um impulso interno para transmitir uma emoção ou experiência específica.

Enquanto isso, as máquinas coletam informações e, com solicitação, criam.

Qual é a diferença entre o trabalho gerado por IA e os humanos criando arte? Ambos se baseiam no mundo exterior. Dizemos que o trabalho gerado por IA não é arte porque requer direção externa?

Se você puder pensar na aula de arte, seu professor estava sugerindo: “É isso que quero que você faça para sua tarefa de arte” e você a cria, outro ser humano está essencialmente influenciando você a fazer algo. A inteligência artificial é o prompt humano nisso - esse é um tipo de processo semelhante?

Portanto, mesmo que exija influência humana, como um prompt, o processo de uma IA ainda pode ser considerado imaginação?

Nós não sabemos.

Como impactamos o mundo por meio de nossas escolhas

Um componente considerável da espiritualidade é refletir sobre o impacto de nossas ações. Se estivermos olhando para as coisas de um grande esquema, as ações de um indivíduo podem parecer pequenas, mas ainda são importantes por causa de como podemos influenciar os outros e impactar uns aos outros.

Artistas de Apoio

Podemos influenciar o futuro individualmente e em grande escala, estando mais conscientes de como gastamos nosso tempo, dinheiro e foco. Podemos ser mais intencionais sobre as plataformas de IA com as quais interagimos.

Falando principalmente sobre os Estados Unidos neste ponto - como vivemos em uma sociedade onde a renda determina o acesso de uma pessoa à moradia, alimentação e assistência médica, podemos apoiar criadores individuais por meio de patrocínio ou promoção. Assim, podemos pagar por seu trabalho ou promovê-los. Devemos fornecer a autoria quando compartilhamos o trabalho artístico de outra pessoa on-line (desde que o artista tenha nos permitido fazê-lo). Embora não possamos patrocinar um artista específico, podemos conectá-lo a alguém que o fará. Como as vendas de arte dependem de uma conexão (marketing e networking), podemos oferecer suporte a criadores que talvez não tenham acesso a essas coisas.

Apoiar organizações de vigilância

Precisamos apoiar as organizações que tentam garantir que as empresas desenvolvam ferramentas de inteligência artificial de forma ética. A Algorithmic Justice League é apenas um exemplo por aí. Eles estão se concentrando na remoção de preconceitos nos algoritmos de IA, e você pode aprender mais sobre eles em ajlunited.org.

Legislação

Para nós nos Estados Unidos, é uma democracia. Somos participantes das coisas que acontecem. Não devemos nos desencorajar de agir por causa de sistemas distorcidos e dinâmicas de poder. Pequenas ações podem ter um impacto significativo, principalmente se nos organizarmos. Existem maneiras de trabalhar com nossos representantes no Congresso para criar leis que impeçam os maus atores quando se trata de inteligência artificial ou aprendizado de máquina, uso de dados e esse tipo de coisa.

Em fevereiro de 2022, o Senado introduziu a Lei de Responsabilidade Algorítmica. S 3572 . O Congresso encaminhou este projeto de lei ao Comitê de Comércio, Ciência e Transporte. Podemos acompanhar este projeto de lei e as conclusões do comitê e trabalhar com nossos representantes para avançar com este projeto de lei. Vá para congress.gov e procure por inteligência artificial. Leia os projetos de lei existentes e entre em contato com seus representantes na Câmara ou no Senado para apoiar novas ações.

Mantenha contato e concentre seu tempo e energia em entender como nosso governo cria mudanças que podem lidar com as coisas em um nível mais amplo. Pode impactar corporações, impactar a direção da sociedade. Portanto, isso é mais do que simplesmente votar nas pessoas. Precisamos ser participantes ativos em tudo isso.

Considerações Finais

Isso forneceu uma visão adicional sobre as questões que envolvem os usos atuais da inteligência artificial.

E, novamente, o grande foco aqui é estar atento ao que você consome e usa. Tente entender um pouco mais. Embora você não precise ser um especialista, manter-se informado é uma boa ideia. Queremos apoiar as pessoas que fazem um bom trabalho e podem entender o que está acontecendo. Precisamos de leis e políticas para proteger aqueles de nós cuja privacidade e meios de subsistência podem ser afetados por novos desenvolvimentos em inteligência artificial. Mesmo que isso não afete negativamente você, esses problemas podem afetar negativamente outras pessoas. Como bons cidadãos globais e pessoas espirituais que veem nossa conexão com os outros, devemos agir e estar mais conscientes do que está acontecendo.