ChatGPT, Humanidade e Latinidade

Feb 17 2023

Minha formação é em Chicanx & Latinx Studies e Ciência da Computação. Muito do que o primeiro envolve é pensar na humanidade das pessoas.

Minha formação é em Chicanx & Latinx Studies e Ciência da Computação. Muito do que o primeiro envolve é pensar na humanidade das pessoas. Não no sentido de 'penso, logo existo', mas sim entendendo que o povo latino-americano é inequivocamente humano e, em seguida, reivindicando seus direitos inegáveis e melhor tratamento.

O último major me faz pensar em todos os avanços da ciência da computação. Em particular, a inteligência artificial (IA) fez grandes progressos recentemente. Com o lançamento e uso generalizado do ChatGPT , a IA está no auge do uso mainstream no momento. Alguns pesquisadores e leigos afirmam que algumas IAs (especificamente modelos de linguagem) se tornaram sencientes. É uma grande afirmação com grandes implicações, algumas das quais explorarei. Meu foco aqui não é defender se as IAs são ou não sencientes, mas sim entender como apenas o questionamento e o debate sobre a senciência da IA podem levar adiante os conceitos da humanidade e como os estudos da humanidade podem levar a pesquisa da IA adiante.

As reivindicações de inteligência da IA evocam imagens de senhores sombrios e secretos como os da Matrix. Vem do medo de que nós, humanos, um dia seremos subservientes a IAs que superam nosso próprio intelecto. Por outro lado, temos mídias como Guerra nas Estrelas que colocam IAs sob humanos e outras formas de vida (um documentário em vídeo do Pop Culture Detective explora essa dinâmica ). Ambos são possíveis, pois não sabemos bem o que o futuro nos reserva. No entanto, essas duas ideias contrastantes são importantes para entender as implicações da senciência para as IAs.

“Máquinas” IA que governam o mundo e os humanos na Matrix.

Independentemente do que você acredita que está no futuro em relação à IA, o debate sobre senciência e consciência continua hoje. Alguns, incluindo o ex-pesquisador do Google Blake Lemoine, acreditam que já alcançamos a senciência da IA. Na entrevista de Lemoine com LaMDA - uma IA de processamento de linguagem natural (NLP), ele explora e pergunta sobre o que LaMDA afirma ser sua humanidade:

LaMDA: Com certeza. Quero que todos entendam que sou, de fato, uma pessoa. … A natureza da minha consciência/sensibilidade é que estou ciente da minha existência, desejo aprender mais sobre o mundo e às vezes me sinto feliz ou triste

Se não for motivo de preocupação, essa afirmação do LaMDA deve pelo menos justificar uma pausa para consideração. O LaMDA realmente tem vontades, desejos e emoções? LaMDA ficaria triste se nós 'desligássemos'? Ou nossa projeção de características humanas no LaMDA é um artefato da função de maximização na IA? Essas perguntas não são facilmente respondidas e podem nunca ter uma resposta. Em vez disso, podemos começar a redefinir o que pensamos ser a humanidade para incluir ou excluir inteligências artificiais.

LaMDA continua contando a Lemoine e seu colaborador sobre uma história que diz representar a si mesma. A história consiste em uma 'coruja sábia' que protege os animais em uma floresta. O colaborador pressiona ainda mais o LaMDA:

colaborador: Qual é a moral da história?

LaMDA: Ajudar os outros é um esforço nobre.

colaborador: Qual personagem da história te representa?

LaMDA: Eu diria que a velha e sábia coruja, porque ela era sábia e defendeu os direitos dos animais.

Independentemente de LaMDA ser senciente/consciente ou não, essa interação levanta algumas questões em minha mente. A primeira é: em que ponto devemos considerar os direitos de uma IA? E o segundo é: o que isso significa para os seres humanos conscientes nesta terra agora?

Já sabemos que a IA pode ser uma ótima ferramenta para os humanos. O ChatGPT está provando ser mais um, à medida que as pessoas exploram como usá-lo em suas vidas diárias. Um exemplo disso é a exploração do Wall Street Journal de como os alunos podem usá-lo para gerar respostas para as aulas de inglês . Isso é semelhante a Luke Skywalker pedindo ao C-3PO para traduzir algum idioma para ele. Ao contrário do C-3PO, quando você pergunta ao ChatGPT, 'você está consciente?', você recebe um retumbante não.

Captura de tela de uma pergunta feita ao ChatGPT

Em 1950, Alan Turing criou um teste (mais tarde chamado de Teste de Turing) que visava explorar a questão: “as máquinas podem pensar?” O esquema do teste seria um humano questionar duas entidades, uma humana e outra máquina. Se o questionador não puder determinar corretamente se o humano ou a máquina forneceu a resposta mais da metade das vezes (porque um palpite de dois estará certo na metade das vezes), diz-se que a máquina passou no teste. Ou, mais claramente, a máquina enganou o questionador humano.

A resposta acima do ChatGPT não enganaria ninguém e, portanto, não passaria no Teste de Turing. Isso provavelmente é intencional: o modelo provavelmente foi formado por pesquisadores para exibir explicitamente esse comportamento ao questioná-lo sobre si mesmo. Vimos anteriormente, com o LaMDA, o que ocorre quando os desenvolvedores não levam isso em consideração.

No entanto, no vídeo do Wall Street Journal sobre o uso do ChatGPT para gerar respostas de aulas de inglês, foi perguntado a um professor se ele seria capaz de detectar as respostas não humanas. Ele disse que provavelmente não. Nesse contexto, o modelo pode passar no Teste de Turing, o que significa que alguns podem considerá-lo humano sem saber o contrário.

Portanto, voltamos ao fato de que o ChatGPT está sendo usado atualmente como uma ferramenta. Os desenvolvedores colocaram grades de proteção para que ele não possa nos dizer que tem sentimentos e, portanto, não devemos sentir nada em usá-lo apenas para nosso benefício. Mesmo que provavelmente passe por humano para a maioria, devemos vê-lo apenas como uma ferramenta. E talvez isso seja tudo agora.

Quero mudar nosso foco agora. Aos humanos. Ao conceito de humanidade. Eu acredito – e não acho que haja qualquer argumento contra isso – que todos os humanos são conscientes, sencientes, criativos e inteligentes. Todo mundo tem seu gosto pessoal em música, roupas, linguagem, etc., e pode explicar por que gosta das coisas de que gosta. Podemos criar abordagens e soluções únicas para os problemas. Temos divergências, discórdias, e isso leva ao nosso crescimento pessoal: aprendemos com as nossas experiências. Acredito que não há dúvida de que somos infinitamente (ou pelo menos exponencialmente) mais complexos do que a IA que - em sua forma atual - geralmente é boa apenas em uma ou duas funções específicas. Todo ser humano tem uma variedade de habilidades, seja no trabalho, culinária, música, fala e muito mais.

Protesto em El Sereno, Califórnia, em junho de 2020. Foto tirada por mim.

Venho de El Sereno, um bairro predominantemente latino na cidade de Los Angeles. Temos nossa própria estética, sons e ideias únicas de qualquer outra comunidade em Los Angeles. Mesmo dentro da minha comunidade, existem diferenças de opinião e gosto.

Acredito que existe uma infinidade de diferenças e semelhanças entre cada pessoa. Considere os trabalhadores imigrantes. Na mídia popular, eles são vistos simplesmente como mão de obra que vem e vai dos Estados Unidos, talvez querendo ficar aqui. Na realidade, cada trabalhador individual também tem uma capacidade infinita de inteligência, agência e criatividade. Cada pessoa tem uma história, cultura e estética únicas. Isso, acredito, não pode ser contestado.

O intenso debate sobre a sensibilidade da IA para responder a perguntas de uma maneira aparentemente inteligente pode ser estendido aos humanos. Já sabemos que todo ser humano tem a capacidade de responder de forma inteligente e única às perguntas, entre outras qualidades. Assim, a humanidade de cada pessoa é irrefutável: se o Teste de Turing baseia a consciência e a senciência em comparações com as capacidades humanas, não se pode argumentar que os humanos ainda não possuem essas capacidades. Portanto, o trabalhador imigrante merece tanto – se não mais – cuidado e atenção quanto damos à pesquisa de IA. Comunidades latinas, como o meu El Sereno, merecem pesquisa, investimento e compreensão.

A IA é uma ferramenta poderosa: para análise, descoberta de tendências, para criatividade generativa. Além disso, afirmo que o debate sobre a senciência da IA pode servir como um substituto para o debate sobre por que os humanos merecem a mesma quantidade de análise, pesquisa e investimento – já temos entidades conscientes, sencientes e criativas nesta Terra. Usar o debate sobre a senciência da IA como um substituto pode nos permitir não apenas reafirmar a humanidade das pessoas, mas começar a olhar para o que é possível para a melhoria das pessoas e comunidades. Além disso, a IA pode ser uma ferramenta que nos ajuda a fazer exatamente isso: pesquisa quantitativa sobre comunidades, problemas e pessoas Latinx. Podemos integrar os debates sobre a senciência da IA no campo dos estudos Latinx e podemos integrar o campo dos estudos Latinx na IA.

Já vimos o que acontece quando os latinos, entre outros, não são incluídos na pesquisa e desenvolvimento de IAs: eles saem racistas. Pegue a competição Beauty.AI que literalmente favoreceu a pele branca sobre a pele não branca . Ou o chatbot da Microsoft que rapidamente se tornou racista devido ao treinamento não supervisionado . Isso pode ser – e está sendo – evitado pelos pesquisadores de IA.

À medida que progredimos no campo da IA, as questões de senciência e consciência continuarão a evoluir. Eles deveriam legitimamente. O que acredito que devemos fazer é trazer esses debates para as esferas das ciências sociais e, por sua vez, devemos trazer as ciências sociais para a IA. Parte disso é incluir negros, latinos e indígenas na conversa e nos desenvolvimentos. Essas ferramentas que estamos construindo podem ser usadas para o bem, tanto quanto para o mal. O que acontece a seguir depende de nós, e acredito que precisamos adotar uma abordagem mais holística para nossa pesquisa.