"Une volonté d'aider"

La sénatrice a fait la grimace dès qu'elle a vu l'homme bâillonné et attaché à votre table de laboratoire. Vous avez réalisé que personne ne lui avait expliqué les choses.

"Les contraintes ne sont pas en place parce qu'il souffre", avez-vous dit en faisant un geste avec la tablette sur votre main vers le buisson irisé de câbles fins en molécules qui allaient de sa tête au rack d'ordinateur optique qui occupait un mur du laboratoire. "Nous ne voulons tout simplement pas qu'il essaie de se suicider."

C'était maintenant au tour du colonel quelque chose, qui avait manifestement tiré à la courte paille et avait dû promener la sénatrice autour du projet, pour faire une grimace dans son dos. Comme si tout n'était pas de leur faute. Le colonel. Le Sénateur. L'homme sur la table, probablement.

"C'est à peine mieux, docteur." dit le sénateur.

Vous l'avez guidée vers un écran. Vos collègues plus jeunes préféraient la VR, mais vous trouviez tout de même la résolution insuffisante.

"Laisse moi te montrer. C'est le cerveau humain.

Le sénateur vous a regardé. "Je ne suis pas un ingénieur neuronal mais ce n'est pas un cerveau."

Vous avez souri. "Vous voulez dire qu'il n'a pas la forme de cerveaux dans les images et les films. Oui c'est vrai. Mais une ville ne ressemble pas non plus à la carte de votre téléphone.

Elle sembla réfléchir une seconde. « J'utilise la carte de mon téléphone pour trouver de bons restaurants. Que montre cette carte ? »

"Cette zone ici", avez-vous dit en pointant une tache rouge dans un champ multicolore subtilement changeant que vous étiez sûr de connaître mieux que quiconque (à moins que vous ne comptiez les IA, ce que vous n'avez pas fait), "fait partie de l'espace des schémas d'activation possibles associés au désir de parler. Je ne peux pas utiliser une carte anatomique parce que ce n'est pas une partie du cerveau, c'est juste une façon dont certaines parties fonctionnent. Une voix dans le chœur.

Vous aviez appris très tôt que "regardez ça" était une mauvaise chose à dire pour un ingénieur neuronal appliqué, peu importe ce qui se passait après, alors vous venez d'utiliser l'interface de la tablette pour transformer cette tache rouge en gris et enlever le bâillon de l'homme sur la table .

Le bâillon avait clairement été mâché – il avait désespérément essayé de parler, principalement des obscénités si votre expérience était un guide – mais maintenant il était maintenant juste à vous en silence.

Le sénateur parut consterné. « Vous venez de désactiver son discours ?

"Oh non non. Ce serait… » Impossible aurait été absurde. C'était la chose la plus facile au monde. Non éthique aurait été pris comme une mauvaise blague, ce qui aurait été le cas. Vous vous êtes contenté de « … pas ce que nous faisons ici. Il ne veut vraiment, honnêtement, pas parler.

Elle regarda la tache grise sur l'écran. "Parce que tu l'as forcé."

Vous n'avez pas roulé des yeux, mais vous saviez qu'elle savait que vous en aviez envie, alors vous lui avez montré le bâillon. "Il n'est pas obligé de faire ou de ne rien faire contre sa volonté."

« Comment le processus se poursuit-il habituellement, colonel ? » demanda le sénateur sans se retourner pour le regarder.

"Le respect de la sécurité est la priorité, sénateur."

"Tu veux dire que tu lui donnes pas envie de s'échapper."

"Ou se blesser ou blesser quelqu'un d'autre", avez-vous ajouté avec approbation. Pour une politicienne, elle était assez intelligente, ou avait été mieux informée qu'elle ne l'avait laissé entendre.

"Et puis?"

Le colonel a bravé. "Ingénierie des actifs."

« Nous lui donnons envie de nous aider », avez-vous précisé.

Le sénateur resta silencieux pendant quelques secondes délibérées. « Je suis ici parce que le Comité pense que ce département pourrait violer les droits de l'homme de façons nouvelles et excitantes. Je pense que je suis d'accord.

"Sénateur." Le colonel avait l'air plus fatigué qu'inquiet, donc vous avez deviné que le projet n'était pas en danger. "C'est un processus d'interrogation à impact radicalement plus faible que tout ce qui est utilisé ailleurs, et la qualité des informations est manifestement meilleure. Nous sauvons des vies ici, les nôtres et même les leurs.

Elle a choisi de ne pas répondre; c'était peut-être déjà le consensus au sommet que le projet était si utile que cela justifiait qu'il soit aussi humain, et elle enquêtait sur le projet simplement pour collecter des munitions au cas où il deviendrait autrement.

Avant de quitter votre laboratoire, cependant, elle s'est retournée pour vous parler. « J'ai parcouru certains de vos travaux antérieurs, docteur. Je ne peux pas dire que je comprends la science, mais la plupart portaient sur les prothèses, les troubles d'apprentissage et les problèmes psychiatriques. Avez-vous jamais envie d'arrêter de faire… ça… et de retourner à ce genre de travail ? »

« Non », avez-vous répondu.

Plus tard dans la journée, alors que vous étiez comme d'habitude le seul scientifique qui travaillait encore, vous avez revérifié juste au cas où. Tout ce qui vous aurait empêché de travailler au labo était aussi gris que le jour où vous l'avez éteint. C'était parfaitement sûr - il était tout aussi facile de tout rallumer. Vous ne vouliez tout simplement pas.

(Posté à l'origine sur Adversarial Metanoia .)

Devenez écrivain AI-power pour l'ART numérique

comment soumettre ?