«Готовность помочь»

Сенатор поморщилась, как только увидела человека с кляпом во рту и привязанного к лабораторному столу. Вы поняли, что никто ей ничего не объяснял.

— Ограничения не на месте, потому что он испытывает какую-то боль, — сказала ты, указывая планшетом на руку на переливающийся куст тонких, как молекула, кабелей, которые шли от его головы к оптической компьютерной стойке, занимавшей одну из них. стена лаборатории. «Мы просто не хотим, чтобы он пытался покончить с собой».

Теперь настала очередь полковника чего-то такого, который явно вытянул короткую соломинку и должен был водить сенатора по проекту, корчить рожи за ее спиной. Как будто это не их вина. Полковник. Сенатор. Человек на столе, наверное.

— Едва ли лучше, доктор. — сказал сенатор.

Вы направили ее к экрану. Ваши младшие коллеги предпочли виртуальную реальность, но разрешение все равно показалось вам недостаточным.

"Позволь мне показать тебе. Это человеческий мозг».

Сенатор посмотрел на вас. «Я не нейронный инженер, но это не мозг».

Ты улыбнулась. — Вы имеете в виду, что у него нет формы мозга на картинках и в кино. Да все верно. Но и город не похож на карту в твоем телефоне».

Казалось, она на секунду задумалась. «Я использую карту на своем телефоне, чтобы найти хорошие рестораны. Что показывает эта карта?»

«Эта область здесь, — сказал ты, указывая на красное пятно в слегка меняющемся разноцветном поле, которое ты знал лучше, чем кто-либо другой (если только ты не считал ИИ, чего ты не считал), — является частью пространства. возможных паттернов активации, связанных с желанием говорить. Я не могу использовать анатомическую карту, потому что это не часть мозга, это всего лишь один из способов его работы. Один голос в хоре».

Вы уже давно поняли, что «смотрите это» — плохая фраза для инженера-прикладника, независимо от того, что произошло потом, поэтому вы просто воспользовались интерфейсом планшета, чтобы сделать эту красную кляксу серой, и сняли кляп с человека на столе. .

Кляп явно был разжеван — он отчаянно пытался говорить, в основном ругательствами, если ваш опыт был хоть каким-то ориентиром, — но теперь он молча смотрел на вас.

Сенатор казался потрясенным. — Ты только что выключил его речь?

«О, нет, нет. Это было бы…» Невозможное было бы абсурдом. Это была самая легкая вещь в мире. Неэтично было бы воспринято как неудачная шутка, какой она и была бы. Вы согласились на «… не то, что мы здесь делаем. Он действительно, честно говоря, не хочет говорить.

Она снова посмотрела на серое пятно на экране. — Потому что ты заставил его.

Ты не закатил глаза, но знал, что она знала, что ты этого хотел, поэтому ты показал ей кляп. «Его не заставляют делать или не делать что-либо против его воли».

— Как обычно проходит процесс, полковник? — спросил сенатор, не оборачиваясь, чтобы посмотреть на него.

«Соблюдение техники безопасности является приоритетом, сенатор».

— Ты имеешь в виду, что заставляешь его не хотеть бежать.

«Или навредил себе или кому-нибудь другому», — одобрительно добавила ты. Для политика она была весьма умна, или ее проинформировали лучше, чем она показала.

"А потом?"

Полковник храбрился. «Инжиниринг активов».

«Мы заставляем его хотеть помочь нам», — пояснила ты.

Сенатор намеренно помолчал несколько секунд. «Я здесь, потому что Комитет считает, что этот отдел может нарушать права человека новыми и интересными способами. Думаю, я согласен».

"Сенатор." Полковник казался скорее усталым, чем обеспокоенным, так что вы догадались, что проекту ничего не угрожает. «Это радикально менее эффективный процесс допроса, чем любой другой, используемый в других местах, а качество разведданных явно лучше. Мы спасаем здесь жизни, свои и даже их».

Она предпочла не отвечать; возможно, наверху уже был консенсус, что проект настолько полезен, что это оправдывает его гуманность, и она исследовала проект просто для сбора боеприпасов на случай, если он станет другим.

Однако, прежде чем покинуть вашу лабораторию, она повернулась, чтобы поговорить с вами. — Я просмотрел некоторые из ваших ранних работ, доктор. Не могу сказать, что разбираюсь в науке, но в основном это было о протезировании, неспособности к обучению и психиатрических проблемах. Вы когда-нибудь хотели бросить делать… это… и вернуться к такой работе?»

— Нет, — ответил ты.

Позже в тот же день, когда вы, как обычно, остались единственным ученым, оставшимся работать, вы на всякий случай перепроверили. Все, что мешало бы вам работать в лаборатории, было таким же серым, как и в тот день, когда вы его выключили. Это было совершенно безопасно — так же легко было включить все обратно. Ты просто не хотел.

(Первоначально опубликовано на Adversarial Metanoia .)

Станьте писателем AI-power for digital ART

как подать?