“Não é realmente pensar, cara. Acalmar."

Vejo continuamente pessoas extremamente técnicas (e bastante inteligentes) ignorando quase qualquer progresso atual e potencial em torno dos LLMs. Achei que deveria escrever algumas respostas para as demissões comuns que vejo:

1. “Não é realmente pensar. É apenas um preenchimento automático sofisticado.”

Não estou convencido de que haja alguma evidência clara de que os humanos sejam tão diferentes do que vemos esses LLMs fazendo: não somos “treinados” em uma tonelada de dados e não “prevemos” o que deve vir a seguir com base nisso treinamento? As próprias redes neurais não foram modeladas a partir do material mole dentro de nossos próprios crânios?

Nota importante: não estou afirmando que um ser humano é o mesmo que um LLM. O que estou defendendo é a confiança com que as pessoas oferecem a resposta “nem pense”.

Além disso, não consigo ver como importa o que um LLM está fazendo sob o capô (com relação a este ponto específico). Se ele pode fornecer uma saída precisa para a maioria dos prompts fornecidos, isso não é suficiente? Qual é a diferença entre realmente pensar e dar uma ilusão quase perfeita de fazê-lo?

2. “Não cria novas ideias. Ele apenas extrai o que é visto em seus dados de treinamento!”

RESPOSTA : Para citar Mark Twain:

“Não existe ideia nova. É impossível. Simplesmente pegamos muitas ideias antigas e as colocamos em uma espécie de caleidoscópio mental. Damos uma volta e eles fazem novas e curiosas combinações. Continuamos girando e fazendo novas combinações indefinidamente; mas são os mesmos velhos pedaços de vidro colorido que têm sido usados ​​em todas as eras.”

Música, arte, histórias, ideias, etc; Alguém pode explicar de onde exatamente essas coisas vêm? Parece haver fortes evidências de que nossa própria criatividade não é algo inato, mas sim o resultado de combinações únicas decorrentes de nossa experiência e conhecimento prévios.

Se não for isso, então de que outra forma explicaremos nossas próprias mentes? As ideias simplesmente “surgem” do nada? (Há uma toca de coelho que eu poderia entrar sobre o livre arbítrio aqui, mas estou divagando ..)

Se você acha que um LLM não pode fazer algo semelhante ao acima, imploro que carregue o ChatGPT e peça para escrever uma letra de rap sobre a matéria escura. Peça-lhe para incluir analogias comparando a matéria escura com as forças desconhecidas dentro de nossas próprias vidas; faça rimas sobre paralelos entre essa matéria escura e quaisquer forças desconhecidas que nos levam a fazer coisas que não entendemos completamente.

Ou talvez peça para escrever um conto sobre seu cachorro de estimação, que de repente é colocado no universo de Breaking Bad e é adotado por Walter White.

Eu poderia ter tido essas ideias se não tivesse ouvido falar sobre a matéria escura antes ou não tivesse visto Breaking Bad?

3. “Esses LLMs são apenas geradores de merda.”

RESPOSTA: fale literalmente com qualquer pessoa que já viveu na história do universo. Volte para mim quando encontrar alguém que não faça o mesmo.

4. “Não vai exigir nenhum trabalho de codificação. A codificação requer muita inferência especial e criatividade.”

RESPOSTA: Você deve ter muita sorte de trabalhar com ideias novas e inovadoras todos os dias. Eu e os engenheiros de software que conheço? Nós escrevemos um código bastante básico, geralmente aplicativos CRUD ou APIs que transformam alguma entrada dada em uma saída desejada. Sim, temos muito conhecimento de domínio e podemos manter muito mais contexto em nossas cabeças - mas geralmente sou pago para conectar sistemas e simplesmente fazer a merda funcionar.

E sobre esse limite de contexto…

Entendo que queremos ser especiais. Entendo que é assustador pensar em maneiras potencialmente semelhantes a essa tecnologia.

Mas descartar qualquer discussão sobre o tema simplesmente porque “somos feitos de carne”?

Quero deixar claro que não sou totalmente pessimista sobre isso. Eu vi vários comentários online que compartilhavam um sentimento de “espere, então você acha que somos como esses LLMs? Você acha que algo como o amor é apenas o resultado de nossa correspondência de padrões? Parece horrível, cara. Boa sorte com seu futuro robô.”

E discordo plenamente.

Sim, realmente não sabemos o “porquê” por trás de nossa própria experiência e de nossa própria consciência. Não sabemos exatamente por que sentimos o que sentimos, ou por que temos alguma consciência (uma observação rápida aqui — não estou fazendo nenhuma afirmação de que “IA é senciente”!).

Mas sabemos que todos estamos compartilhando a experiência da vida - não é isso que importa?

E daí se os arrepios que sinto ao abraçar minha esposa são o resultado de eu lembrar inconscientemente meus “dados de treinamento” e as coisas incríveis que fizemos juntos? Quem se importa se esse amor é apenas meus níveis de oxitocina aumentando devido a algum padrão subconsciente de correspondência em meus neurônios?

Eu ainda tenho a experiência desse amor, certo?

Estou lutando para encontrar uma conclusão decente para este ensaio, então agora vou roubar um padrão comum do ChatGPT:

No geral, não entendo por que algumas das pessoas mais inteligentes que conheço estão tão dispostas a descartar com confiança qualquer discussão sobre esse tópico.