“A Vontade de Ajudar”

A senadora fez uma careta assim que viu o homem amordaçado e amarrado à sua mesa de laboratório. Você percebeu que ninguém havia explicado as coisas para ela.

“As restrições não estão no lugar porque ele está com algum tipo de dor,” você disse enquanto gesticulava com o tablet em sua mão para o arbusto iridescente de cabos finos como moléculas que iam de sua cabeça para o rack de computador óptico que ocupava um parede do laboratório. “Só não queremos que ele tente se matar.”

Agora era a vez do coronel alguma coisa, que claramente havia tirado a palha curta e tinha que conduzir a senadora pelo projeto, fazer uma careta pelas costas. Como se isso não fosse tudo culpa deles. O coronel. O senador. O homem na mesa, provavelmente.

"Isso não é melhor, doutor." disse o senador.

Você a guiou até uma tela. Seus colegas mais jovens preferiram VR, mas você ainda achou a resolução insuficiente.

"Deixe-me te mostrar. Este é o cérebro humano.”

O senador olhou para você. “Não sou um engenheiro neural, mas isso não é um cérebro.”

Você sorriu. “Você quer dizer que não tem a forma de cérebro em fotos e filmes. Sim está certo. Mas uma cidade também não se parece com o mapa do seu telefone.”

Ela pareceu pensar por um segundo. “Uso o mapa do meu celular para encontrar bons restaurantes. O que este mapa mostra?”

“Esta área aqui,” você disse apontando para uma bolha vermelha em um campo multicolorido sutilmente variável que você tinha certeza que conhecia melhor do que ninguém (a menos que você contasse AIs, o que você não fez), “é uma parte do espaço de possíveis padrões de ativação associados ao desejo de falar. Não posso usar um mapa anatômico porque ele não faz parte do cérebro, é apenas uma das formas como partes dele funcionam. Uma voz no refrão.”

Você aprendeu desde cedo que “assista a isso” era uma coisa ruim de se dizer para um engenheiro neural aplicado, não importa o que acontecesse depois, então você apenas usou a interface do tablet para transformar aquela mancha vermelha em cinza e tirou a mordaça do homem na mesa .

A piada foi claramente mastigada - ele estava tentando desesperadamente falar, principalmente obscenidades, se sua experiência servir de guia - mas agora ele estava apenas olhando para você em silêncio.

O senador parecia estarrecido. "Você acabou de desligar o discurso dele?"

“Ah, não, não. Isso seria...” Impossível teria sido absurdo. Era a coisa mais fácil do mundo. Antiético teria sido considerado uma piada de mau gosto, o que teria sido. Você se contentou com “… não o que fazemos aqui. Ele realmente, honestamente, não quer falar.

Ela olhou de volta para a mancha cinza na tela. “Porque você o forçou.”

Você não revirou os olhos, mas sabia que ela sabia que você queria, então mostrou a ela a mordaça. “Ele não está sendo forçado a fazer ou deixar de fazer nada contra sua vontade.”

“Como costuma continuar o processo, coronel?” o senador perguntou sem se virar para olhar para ele.

“A conformidade com a segurança é a prioridade, senador.”

"Você quer dizer que você faz com que ele não queira escapar."

“Ou machucou a si mesmo ou a qualquer outra pessoa”, você acrescentou, com aprovação. Para uma política, ela era bastante esperta, ou fora informada melhor do que aparentava.

"E então?"

O coronel seguiu em frente. “Engenharia de ativos”.

“Nós o fazemos querer nos ajudar”, você esclareceu.

O senador ficou em silêncio por alguns segundos deliberados. “Estou aqui porque o Comitê acredita que este departamento pode estar violando os direitos humanos de maneiras novas e emocionantes. Acho que concordo.

"Senador." O Coronel parecia mais cansado do que preocupado, então você adivinhou que o projeto não estava em risco. “É um processo de interrogação de impacto radicalmente menor do que qualquer outro usado em outros lugares, e a qualidade da inteligência é comprovadamente melhor. Aqui salvamos vidas, as nossas e até as deles.”

Ela optou por não responder; possivelmente já era consenso no topo que o projeto era tão útil que isso justificava também ser humano, e ela estava investigando o projeto simplesmente para coletar munição caso se tornasse o contrário.

Antes de deixar seu laboratório, porém, ela se virou para falar com você. “Eu folheei alguns de seus trabalhos anteriores, doutor. Não posso dizer que entendo a ciência, mas a maior parte foi sobre próteses, dificuldades de aprendizagem e problemas psiquiátricos. Você já quis parar de fazer... isso... e voltar para esse tipo de trabalho?"

“Não”, você respondeu.

Mais tarde naquele dia, quando você era, como sempre, o único cientista que restava trabalhando, você verificou duas vezes por precaução. Tudo o que o impediria de trabalhar no laboratório estava tão cinza quanto no dia em que você o desligou. Era perfeitamente seguro - era tão fácil ligar tudo de volta. Você simplesmente não queria.

(Originalmente postado em Adversarial Metanoia .)

Torne-se um escritor AI-power para arte digital

como submeter?