Como uma IA deve explorar a Lua?
O rápido progresso na inteligência artificial (IA) estimulou algumas vozes importantes no campo a pedir uma pausa na pesquisa , levantar a possibilidade de extinção humana impulsionada pela IA e até pedir regulamentação governamental . No centro de sua preocupação está a ideia de que a IA pode se tornar tão poderosa que perdemos o controle dela.
Mas perdemos um problema mais fundamental?
Em última análise, os sistemas de IA devem ajudar os humanos a tomar decisões melhores e mais precisas. No entanto, mesmo as ferramentas de IA mais impressionantes e flexíveis de hoje – como os grandes modelos de linguagem por trás do ChatGPT – podem ter o efeito oposto.
Por que? Eles têm duas fraquezas cruciais. Eles não ajudam os tomadores de decisão a entender a causalidade ou a incerteza. E eles criam incentivos para coletar grandes quantidades de dados e podem encorajar uma atitude negligente em relação à privacidade, questões legais e éticas e riscos.
Causa, efeito e confiança
O ChatGPT e outros “modelos de fundação” usam uma abordagem chamada aprendizado profundo para vasculhar enormes conjuntos de dados e identificar associações entre fatores contidos nesses dados, como padrões de linguagem ou links entre imagens e descrições. Consequentemente, eles são ótimos em interpolar – ou seja, prever ou preencher as lacunas entre valores conhecidos.
Interpolação não é o mesmo que criação. Não gera conhecimento, nem os insights necessários para tomadores de decisão que operam em ambientes complexos.
No entanto, essas abordagens requerem grandes quantidades de dados. Como resultado, eles incentivam as organizações a montar enormes repositórios de dados – ou vasculhar os conjuntos de dados existentes coletados para outros fins. Lidar com “big data” traz riscos consideráveis em relação à segurança, privacidade, legalidade e ética.
Em situações de baixo risco, as previsões baseadas em “o que os dados sugerem que acontecerá” podem ser incrivelmente úteis. Mas quando as apostas são maiores, há mais duas perguntas que precisamos responder.
A primeira é sobre como o mundo funciona: “o que está impulsionando esse resultado?” A segunda é sobre nosso conhecimento do mundo: “quão confiantes estamos sobre isso?”
De big data a informações úteis
Talvez surpreendentemente, os sistemas de IA projetados para inferir relações causais não precisam de “big data”. Em vez disso, eles precisam de informações úteis . A utilidade da informação depende da questão em questão, das decisões que enfrentamos e do valor que atribuímos às consequências dessas decisões.
Parafraseando o estatístico e escritor norte-americano Nate Silver, a quantidade de verdade é aproximadamente constante, independentemente do volume de dados que coletamos.
Então qual é a solução? O processo começa com o desenvolvimento de técnicas de IA que nos dizem o que realmente não sabemos, em vez de produzir variações do conhecimento existente.
Por que? Porque isso nos ajuda a identificar e adquirir o mínimo de informações valiosas, em uma sequência que nos permitirá separar causas e efeitos.
Um robô na lua
Esses sistemas de IA de construção de conhecimento já existem.
Como um exemplo simples, considere um robô enviado à Lua para responder à pergunta: “Como é a superfície da Lua?”
Os projetistas do robô podem dar a ele uma “crença” prévia sobre o que ele encontrará, juntamente com uma indicação de quanta “confiança” ele deve ter nessa crença. O grau de confiança é tão importante quanto a crença, pois é uma medida do que o robô não sabe.
O robô pousa e se depara com uma decisão: que caminho seguir?
Como o objetivo do robô é aprender o mais rápido possível sobre a superfície da Lua, ele deve ir na direção que maximize seu aprendizado. Isso pode ser medido pelo quanto o novo conhecimento reduzirá a incerteza do robô sobre a paisagem – ou quanto aumentará a confiança do robô em seu conhecimento.
O robô vai para seu novo local, registra observações usando seus sensores e atualiza sua crença e confiança associada. Ao fazer isso, ele aprende sobre a superfície da Lua da maneira mais eficiente possível.
Sistemas robóticos como esse – conhecidos como “SLAM ativo” (Active Simultaneous Localization and Mapping) – foram propostos pela primeira vez há mais de 20 anos e ainda são uma área ativa de pesquisa . Esta abordagem de coleta constante de conhecimento e atualização do entendimento é baseada em uma técnica estatística chamada otimização bayesiana .
Mapeando paisagens desconhecidas
Um tomador de decisão no governo ou na indústria enfrenta mais complexidade do que o robô na Lua, mas o pensamento é o mesmo. Seus trabalhos envolvem explorar e mapear paisagens sociais ou econômicas desconhecidas.
Suponha que desejamos desenvolver políticas para encorajar todas as crianças a prosperar na escola e terminar o ensino médio. Precisamos de um mapa conceitual de quais ações, em que momento e em que condições ajudarão a alcançar esses objetivos.
Usando os princípios do robô, formulamos uma pergunta inicial: “Qual(is) intervenção(ões) mais ajudará as crianças?”
Em seguida, construímos um rascunho do mapa conceitual usando o conhecimento existente. Também precisamos de uma medida de nossa confiança nesse conhecimento.
Em seguida, desenvolvemos um modelo que incorpora diferentes fontes de informação. Não serão de sensores robóticos, mas de comunidades, experiências vividas e qualquer informação útil de dados registrados.
Depois disso, com base na análise que informa as preferências da comunidade e das partes interessadas, tomamos uma decisão: “Quais ações devem ser implementadas e em quais condições?”
Por fim, discutimos, aprendemos, atualizamos crenças e repetimos o processo.
Aprendendo enquanto avançamos
Esta é uma abordagem de “aprender à medida que avançamos”. À medida que novas informações chegam, novas ações são escolhidas para maximizar alguns critérios pré-especificados.
Onde a IA pode ser útil é identificar quais informações são mais valiosas, por meio de algoritmos que quantificam o que não sabemos. Os sistemas automatizados também podem coletar e armazenar essas informações em uma taxa e em locais onde pode ser difícil para os humanos.
Sistemas de IA como esse aplicam o que é chamado de estrutura teórica de decisão Bayesiana . Seus modelos são explicáveis e transparentes, construídos sobre suposições explícitas. Eles são matematicamente rigorosos e podem oferecer garantias.
Eles são projetados para estimar caminhos causais, para ajudar a fazer a melhor intervenção no melhor momento. E incorporam valores humanos ao serem coconcebidos e coimplementados pelas comunidades afetadas.
Precisamos reformar nossas leis e criar novas regras para orientar o uso de sistemas de IA potencialmente perigosos. Mas é igualmente importante escolher a ferramenta certa para o trabalho em primeiro lugar.
Quer saber mais sobre IA, chatbots e o futuro do aprendizado de máquina? Confira nossa cobertura completa sobre inteligência artificial ou navegue em nossos guias para Os melhores geradores gratuitos de arte de IA e tudo o que sabemos sobre o ChatGPT da OpenAI .
Sally Cripps , Diretora de Tecnologia do Instituto de Tecnologia Humana da UTS, Professora de Matemática e Estatística, Universidade de Tecnologia de Sydney ; Alex Fischer , membro honorário da Australian National University ; Edward Santow , Professor e Co-Diretor, Human Technology Institute, University of Technology Sydney ; Hadi Mohasel Afshar , Cientista de Pesquisa Principal, Universidade de Tecnologia de Sydney , e Nicholas Davis , Professor de Indústria de Tecnologia Emergente e Co-Diretor, Instituto de Tecnologia Humana, Universidade de Tecnologia de Sydney
Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original .
