„Chęć pomocy”

Senator skrzywiła się, gdy tylko zobaczyła zakneblowanego mężczyznę przywiązanego do twojego stołu laboratoryjnego. Zdałeś sobie sprawę, że nikt jej tego nie wyjaśnił.

„Krajobrazy nie są na miejscu, ponieważ coś go boli” – powiedziałaś, wskazując tabletem w dłoni na opalizujący krzak cienkich jak molekuły kabli, które biegły od jego głowy do stojaka na komputer optyczny, który zajmował jeden z nich. ściana laboratorium. „Po prostu nie chcemy, żeby próbował się zabić”.

Teraz przyszła kolej na pułkownika coś-coś, który najwyraźniej nie dał rady i musiał oprowadzić senator po całym projekcie, żeby zrobić minę za jej plecami. Jakby to nie była wyłącznie ich wina. Pułkownik. Senator. Mężczyzna na stole, prawdopodobnie.

„Trochę lepiej, doktorze”. — powiedział senator.

Poprowadziłeś ją do ekranu. Twoi młodsi koledzy woleli VR, ale nadal uważałeś, że rozdzielczość jest niewystarczająca.

"Pokażę ci. To jest ludzki mózg”.

Senator spojrzał na ciebie. „Nie jestem inżynierem neuronowym, ale to nie jest mózg”.

Uśmiechnąłeś się. — Chcesz powiedzieć, że nie ma kształtu mózgu na zdjęciach i filmach. Tak to prawda. Ale miasto też nie wygląda jak mapa w telefonie”.

Wydawało się, że pomyślała przez chwilę. „Korzystam z mapy w telefonie, aby znaleźć dobre restauracje. Co pokazuje ta mapa?

„Ten obszar tutaj”, powiedziałeś, wskazując na czerwoną plamę w subtelnie przesuwającym się wielokolorowym polu, o którym byłeś pewien, że wiesz lepiej niż ktokolwiek inny (chyba że policzyłeś sztuczną inteligencję, czego nie zrobiłeś), „jest częścią przestrzeni możliwych wzorców aktywacji związanych z chęcią mówienia. Nie mogę użyć mapy anatomicznej, ponieważ nie jest częścią mózgu, tylko jednym ze sposobów działania jego części. Jeden głos w refrenie”.

Nauczyłeś się wcześnie, że „obejrzyj to” to zła rzecz dla inżyniera neuronowego stosowanego, bez względu na to, co stanie się później, więc po prostu użyłeś interfejsu tabletu, aby zmienić kolor na szary i zdjąłeś knebel z mężczyzny na stole .

Knebel najwyraźniej został przeżuty — desperacko próbował mówić, głównie przekleństwami, jeśli twoje doświadczenie było jakimś przewodnikiem — ale teraz był teraz po prostu na ciebie w milczeniu.

Senator wyglądał na przerażonego. – Czy ty właśnie wyłączyłeś jego mowę?

"O nie nie. To byłoby… Niemożliwe byłoby absurdem. To była najłatwiejsza rzecz na świecie. Nieetyczne zostałoby odebrane jako kiepski żart i tak by było. Zdecydowałeś się na „… nie to, co tutaj robimy. On naprawdę, szczerze, nie chce rozmawiać”.

Spojrzała z powrotem na szarą plamę na ekranie. – Bo go zmusiłeś.

Nie przewróciłeś oczami, ale wiedziałeś, że ona wiedziała, że ​​tego chciałeś, więc pokazałeś jej knebel. „Nie jest zmuszany do robienia lub nie robienia niczego wbrew jego woli”.

„Jak zwykle przebiega ten proces, pułkowniku?” — zapytał senator, nie odwracając się, by na niego spojrzeć.

„Przestrzeganie zasad bezpieczeństwa jest priorytetem, senatorze”.

– Chcesz powiedzieć, że sprawiasz, że nie chce uciec.

„Albo zranić siebie lub kogokolwiek innego” — dodałeś z aprobatą. Jak na polityka była całkiem sprytna albo została poinformowana lepiej, niż dawała do zrozumienia.

"I wtedy?"

Pułkownik walczył dalej. „Inżynieria aktywów”.

„Sprawiamy, że chce nam pomóc” — wyjaśniłeś.

Senator milczał przez kilka celowych sekund. „Jestem tutaj, ponieważ Komitet uważa, że ​​ten departament może naruszać prawa człowieka w nowy i ekscytujący sposób. Myślę, że się zgadzam.

"Senator." Pułkownik brzmiał na bardziej zmęczonego niż zmartwionego, więc zgadliście, że projekt nie jest zagrożony. „Jest to proces przesłuchania o radykalnie mniejszym wpływie niż jakiekolwiek inne stosowane gdzie indziej, a jakość danych wywiadowczych jest wyraźnie lepsza. Ratujemy tutaj życie, nasze, a nawet ich”.

Postanowiła nie odpowiadać; możliwe, że na szczycie panował już konsensus, że projekt jest tak użyteczny, że uzasadnia to jego humanitarny charakter, a ona badała projekt po prostu po to, by zebrać amunicję na wypadek, gdyby stało się inaczej.

Zanim jednak opuściła twoje laboratorium, odwróciła się, żeby z tobą porozmawiać. „Przejrzałem niektóre z twoich wcześniejszych prac, doktorze. Nie mogę powiedzieć, że rozumiem naukę, ale większość dotyczyła protetyki, trudności w uczeniu się i problemów psychiatrycznych. Czy kiedykolwiek chcesz rzucić robienie… tego… i wrócić do tego rodzaju pracy?

„Nie” – odpowiedziałeś.

Później tego samego dnia, kiedy byłeś jak zwykle jedynym naukowcem, który pozostał w pracy, sprawdziłeś dwa razy na wszelki wypadek. Wszystko, co powstrzymałoby cię od pracy w laboratorium, było szare jak w dniu, w którym je wyłączyłeś. Był całkowicie bezpieczny — równie łatwo było go ponownie włączyć. Po prostu nie chciałeś.

(Oryginalnie opublikowane na Adversarial Metanoia .)

Zostań pisarzem AI-power dla cyfrowej SZTUKI

jak złożyć?