DataBody Futures: imaginando um mundo digital centrado na dignidade

As tecnologias digitais emergentes estão remodelando nosso relacionamento com o corpo e a mente humana.

Nos últimos anos, houve um crescimento explosivo na quantidade e variedade de plataformas online, aplicativos para smartphones e outros sistemas habilitados para tecnologia que coletam dados físicos e comportamentais detalhados sobre nós. Pense em reconhecimento facial no embarque de avião, reconhecimento de emoções no recrutamento, direcionamento comportamental no comércio eletrônico, ferramentas preditivas em telemedicina, aplicativos de realidade virtual e aumentada.

Essas são apenas algumas das muitas áreas em que os modelos computacionais baseados em dados estão remodelando nossa compreensão do corpo humano e criando um acesso nunca antes visto aos nossos pensamentos, sentimentos e desejos mais íntimos.

Mas, embora o acesso a esse tipo de dados possa ser o terreno para uma importante exploração científica, a ausência de normas e regulamentos fortes da indústria criou um faroeste selvagem no mundo digital.

Nossa realidade atual é um mar de plataformas, aplicativos e sistemas habilitados para tecnologia que causam mais mal do que bem, colocando em risco o bem-estar e a segurança do usuário.

Temos pulseiras de silicone que notificam os empregadores sobre as mudanças de humor de seus funcionários , aplicativos de saúde mental que vendem os sentimentos e ansiedades mais profundos das pessoas para empresas terceirizadas e aplicativos de realidade estendida que facilitam todos os tipos de abuso digital .

Até agora, apenas algumas empresas projetaram medidas suficientemente robustas para mitigar as consequências negativas do aproveitamento de dados biométricos e comportamentais.

Enquanto isso, a legislação atual e proposta da indústria de tecnologia (incluindo regulamentos de IA, leis de proteção de dados e outros instrumentos jurídicos relacionados em todo o mundo) parecia não ter conseguido criar uma estrutura regulatória que evitasse significativamente tais danos .

Em nossa era, até mesmo pontos de dados inocentes podem alimentar análises complexas sobre nossos sentimentos mais íntimos , e a linha entre nossos corpos físicos e virtuais está se tornando cada vez mais irrelevante . Por isso, precisamos de uma geração completamente nova de leis e padrões do setor para orientar a inovação e a experimentação digital.

Para contribuir com esses esforços, juntei-me recentemente a um grupo de estudiosos e ativistas como parte da coorte de Senior Tech Policy Fellow 2023/24 da Mozilla Foundation.

No próximo período, explorarei o que podemos aprender de outros campos mais fortemente regulamentados, onde experimentos com o corpo e a mente humanos estão acontecendo em circunstâncias mais seguras e controladas.

Inspirando-me em ensaios clínicos, pesquisas médicas e pesquisas comportamentais, identificarei áreas concretas onde a integridade corporal e a autonomia poderiam ser mais sistematicamente integradas às normas e regulamentações da indústria de tecnologia - principalmente a regulamentação de IA e os regimes de proteção de dados.

Especificamente, minha pesquisa examinará como uma abordagem mais holística da integridade corporal pode impactar áreas onde a inovação digital tem o efeito mais profundo em nossos corpos e mentes, incluindo:

• Reconhecimento facial;
• Reconhecimento de afeto (ou emoção);
• Recolha de dados biométricos;
• Ferramentas de análise preditiva;
• tecnologias de realidade estendida; e mais.

Se você estiver interessado em saber mais, visite o site da DataBody Futures para obter atualizações ou entre em contato !