Bate-papo GPT e Doação de Órgãos

Resumo: Com toda a imprensa e empolgação sobre modelos de linguagem grande (LLM) e transformadores pré-treinados generativos (GPT), você já pensou por que chegamos aqui? À medida que a inteligência artificial cresce, qual é o impacto desses modelos à medida que consomem conteúdo disponível abertamente, mas questionavelmente gratuito ou de uso justo? Este post é meus pensamentos sobre as implicações de uma tecnologia em rápida evolução e o que isso significa para indivíduos e empresas descontroladas.

Compartilhamento de dados: estamos doando nossos dados para outras pessoas, muitas vezes sem perceber

Fiz o ensino médio nos Estados Unidos, onde na época circulavam as esquetes cômicas do Monty Python. Exultantes, jovens de 14 a 16 anos citavam versos de grandes nomes do cinema, como “Monty Python e o Santo Graal”, “Monty Python's Life of Brian” e provavelmente o mais novo na época, “Monty Python's The Meaning of Life”.

Uma das cenas de O Sentido da Vida que achei particularmente fascinante naquela idade foi a Parte V: Transplantes de Órgãos Vivos. Para refrescar a memória, é a Grã-Bretanha dos anos 80, com um toque burocrático onde alguém preencheu um cartão de doador de órgãos. Como resultado, o NHS do dia veio coletar um fígado, sem contar que nosso sujeito filopátrico ainda está vivo.

É um pouco de humor da época que não necessariamente envelheceu bem. As pressões do NHS ainda existem, e a sociedade processual ainda existe, mas nos 40 anos seguintes o Reino Unido mudou de um modelo de consentimento ativo para doação de órgãos para um modelo de consentimento presumido. Agora, os cidadãos do Reino Unido são todos doadores de órgãos, a menos que optemos explicitamente por não conceder tal consentimento. Fazer isso é relativamente indolor, mas você será informado no momento do motivo pelo qual a doação de órgãos é tão importante. Na minha opinião pessoal, acredito que, uma vez que me livrei desse invólucro mortal, minha anatomia não serve para nada. No entanto, tenho um problema com a filantropia presumida por essa ação.

A Wikipedia define a filantropia como “uma forma de altruísmo que consiste em iniciativas privadas, para o bem público, com foco na qualidade de vida”. Para mim o importante é que o início da filantropia seja privado; é uma decisão tomada com base em sua própria bússola moral e ética e equilibrada com suas próprias necessidades individuais. É antitético aos conceitos de bem comum ou coletivo , onde a sociedade em sua forma coletiva decide ações e procedimentos substantivos que beneficiam a todos nós. O bem coletivo tem seus próprios benefícios e méritos, mas, na minha opinião, não deve ser persuadido da mesma forma que a filantropia.

Pode-se perguntar o que tudo isso tem a ver com ChatGPT ou sistemas de conversação AI. A resposta aos meus olhos está no processo de como estamos criando e treinando tais agentes. Estamos em um ponto de inflexão da tecnologia em que a inovação e a tecnologia estão novamente superando os modelos de negócios legais, éticos e estabelecidos. Aqueles que sobreviveram ao boom ponto.com devem ver os mesmos padrões emergindo. Então, algumas das principais áreas de desintermediação existiam na música, no cinema e nas artes. Os modelos de negócios estabelecidos estavam trabalhando duro para proteger os direitos dos proprietários de conteúdo, agarrando-se dogmaticamente a modelos de negócios que estavam se tornando cada vez mais antiquados.

Democratização da Informação: Somos informados e concordamos com o rumo das viagens

Na minha observação, a explosão da IA ​​é outro ponto de inflexão que representa a democratização da informação. O conteúdo que foi criado em modelos de código aberto, como creative commons, é amplificado para o bem coletivo. Ele democratiza o conhecimento e lhe dá uma plataforma para se destacar. No entanto, a meu ver, é às custas do conhecimento muitas vezes proprietário que o debate sobre direitos, uso justo e se você ainda está usando esse órgão tem mérito.

O que não é discutido regularmente no debate aberto é como esses modelos são desenvolvidos e, mais importante, treinados. Existem muitos artigos acadêmicos que discutem a evolução das técnicas de aprendizado e reforço, mas um contexto limitado foi dado ao corpus de conhecimento que esses modelos estão utilizando.

Embora os proprietários e desenvolvedores de modelos de IA de conversação não sejam totalmente claros sobre a origem dos dados tokenizados ou de treinamento, os modelos mais recentes são claros em algumas de suas proveniências. Estudos como o What's In My AI fornecem uma boa descrição da maioria dos modelos de conversação e como os dados de origem foram obtidos. (https://lifearchitect.ai/whats-in-my-ai/)

Em resumo, os dados treinados podem ser agrupados da seguinte forma:

1. Dados de sites acessíveis publicamente: em resumo, se puderem ser rastreados e não forem restritos, iniciativas como CommonCrawl (https://commoncrawl.org) baixe e arquive os dados do site. Esses dados são manipulados e incluídos nos dados de treinamento de um modelo.

2. Wikipedia: Bem conhecido pela maioria como uma enciclopédia aberta de conhecimento de origem coletiva. A maior parte do conteúdo hospedado está sob uma licença aberta, como Creative Commons.

3. Dados selecionados: Há muitos dados de origem provenientes da agregação de sites e formas de fóruns de discussão social. Um exemplo disso inclui repositórios como Git, Project Gutenberg, bem como fontes como comentários de sites de discussão como reddit.com.

Embora essas fontes de treinamento tenham vários níveis de abertura, elas quase sempre são regidas por alguma forma de licenciamento, termos e condições ou outra estrutura legal que tenta reger como as informações são compartilhadas. A resposta de organizações como a OpenAI é que o treinamento de um modelo de IA é regido por disposições de uso justo , que, entre outras coisas, protegem o uso de dados para pesquisa e liberdade de expressão.

O interessante e a ser testado é como uma IA, uma vez treinada para gerar licenças de conteúdo e gerenciar sua produção para o consumidor. Igualmente neste contexto está a estrutura em que as organizações começam a usar e monetizar dados que foram ingeridos sob uma doutrina de uso justo.

Argumentos foram feitos de que a IA conversacional, como o Chat GPT, não é diferente de um caso de uso humano. Pode-se facilmente racionalizar que solicitar um mecanismo de IA não é diferente de contratar um pesquisador para vasculhar a Internet, utilizando mecanismos de pesquisa e conhecimento de repositórios para extrair dados e insights.

A questão, no entanto, torna-se muito mais evidente em mecanismos de IA generativos que usam esses dados de treinamento para criar arte expressamente semelhante ao estilo de um artista. Ou onde uma IA generativa vasculha um banco de dados de patentes para criar uma submissão de patente que agrega à arte existente, mas suficientemente nova para merecer sua própria submissão. Voltando aos argumentos da filantropia versus bem comum, é aceitável que alguém se beneficie sobre os ombros de outros sem levar em consideração o conhecimento e o esforço despendidos por pessoas que podem ou não ter consentido que sua arte seja usada dessa maneira.

O que fazer: Podemos aprender com o passado

Esses são exatamente os argumentos com os quais lutamos há 20 anos, com o advento de modelos de negócios disruptivos como Napster, BitTorrent e até mesmo o desenvolvimento de mercados como Ebay e Amazon. Pessoas que se lembram podem evidenciar ações de grupos de lobby como a Recording Industry Association of America (RIAA) e legislação como a Lei de Direitos Autorais do Milênio Digital (DMCA). No entanto, é evidente que a estrutura legislativa e regulatória ainda não conseguiu lidar com os problemas que esta próxima explosão tecnológica está prestes a criar.

Acredito que todos nós temos uma parte neste debate. Quanto aos pontos anteriores, é um bom equilíbrio entre filantropia e bem comum. Seja uma empresa ou um indivíduo, há uma necessidade de voz para conduzir o debate sobre como as IAs são usadas e qual proteção os proprietários de conteúdo têm ao ter seus dados monetizados. Não acredito que pessoas e organizações tenham concordado que qualquer declaração, brochura de marketing ou expressão social esteja aberta para monetização bruta, independentemente de você estar hospedando e gerenciando por conta própria ou por meio de um modelo de terceiros.

O que me levou a compartilhar meus pensamentos foi, ironicamente, uma postagem gerada pelo Chat GPT de um colega. Pablo Bermejo acionou o mecanismo com uma instrução simples que era “Escreva uma postagem no LinkedIn explicando por que a criação de conteúdo é importante para os trabalhadores de tecnologia no advento da AGI”. A resposta parece muito com um fantasma na máquina:

À medida que nos aproximamos do advento da AGI (inteligência geral artificial), torna-se cada vez mais importante para os trabalhadores do conhecimento na indústria de tecnologia considerar a importância de ter uma trilha de auditoria de seu conteúdo público e um registro demonstrável de suas percepções.

Em um mundo onde a AGI terá a capacidade de analisar grandes quantidades de dados e tomar decisões mais rapidamente do que os humanos, é crucial poder provar a validade e a precisão do nosso trabalho. Uma trilha de auditoria de conteúdo público e um registro de percepções podem servir como evidência dos processos de pensamento e pesquisa que levaram a uma determinada conclusão ou decisão.

Isso é especialmente importante na indústria de tecnologia, onde o ritmo da mudança é rápido e os riscos podem ser altos. É importante ter um registro claro e transparente das decisões tomadas e o raciocínio por trás delas.

Mas também é importante considerar as implicações de longo prazo da AGI. À medida que os sistemas de IA se tornam mais avançados, eles podem analisar e entender nosso trabalho de uma forma que os humanos não conseguem. É por isso que é crucial assumir o controle de nossa narrativa e proteger o valor de nossas contribuições, mantendo uma trilha de auditoria e registro de nossas percepções.

Então, o que podemos fazer para garantir que nosso trabalho duro seja reconhecido e valorizado tanto por humanos quanto por sistemas de IA? Aqui estão alguns itens de ação a serem considerados:

— Comece a manter um registro de seu conteúdo e insights públicos
— Certifique-se de documentar seus processos de pensamento e pesquisa
— Revise e atualize regularmente sua trilha de auditoria para garantir precisão e integridade

Em resumo, ter uma trilha de auditoria de conteúdo público e um registro demonstrável de insights serão cruciais para os trabalhadores do conhecimento na indústria de tecnologia à medida que nos aproximamos da era da AGI. Isso ajudará a garantir a validade e a transparência do nosso trabalho e a garantir que ele seja reconhecido e valorizado tanto por humanos quanto por sistemas de IA.

De volta ao esboço original do Monty Python, acho que os indivíduos e as organizações precisam gastar tempo para pensar sobre o que estão compartilhando on-line, como isso é entregue (por exemplo, se for em uma plataforma de terceiros) e como alguém se sente se essas informações fossem usadas por um terceiro ou concorrente sem o devido cuidado ou recompensa. Também acho que em um mundo onde as empresas serão potencialmente desintermediadas novamente, há um debate difícil sobre a própria filantropia versus o argumento do bem comum. Lembro-me da campanha de marketing da Electronic Frontier Foundation que dizia simplesmente “Fair Use tem um grupo”. Seria interessante agora no equilíbrio entre filantropia e bem comum se isso fosse revisitado, mas de uma direção oposta.

Se os conceitos mencionados aqui lhe interessam, algumas análises e reflexões mais aprofundadas podem ser encontradas nestes dois artigos:

https://www.theverge.com/23444685/generative-ai-copyright-infringement-legal-fair-use-training-data

https://www.theverge.com/2023/1/16/23557098/generative-ai-art-copyright-legal-lawsuit-stable-diffusion-midjourney-deviantart