“Sẵn lòng giúp đỡ”

Thượng nghị sĩ nhăn mặt ngay khi nhìn thấy người đàn ông bị bịt miệng và trói vào bàn thí nghiệm của bạn. Bạn nhận ra rằng không ai giải thích mọi thứ cho cô ấy.

“Không có dây buộc vì anh ấy đang bị đau,” bạn nói khi dùng chiếc máy tính bảng trên tay chỉ vào bụi dây cáp mỏng phân tử óng ánh đi từ đầu anh ấy đến giá máy tính quang chiếm một người. bức tường của phòng thí nghiệm. “Chúng tôi chỉ không muốn anh ấy cố gắng tự sát.”

Bây giờ đến lượt Đại tá gì đó-gì đó, người rõ ràng đã rút ngắn thời gian và phải dắt Thượng nghị sĩ đi vòng quanh dự án, để vạch mặt sau lưng bà. Như thể đây không phải là tất cả lỗi của họ. Đại tá. Thượng nghị sĩ. Người đàn ông trên bàn, có lẽ.

“Điều đó hầu như không tốt hơn, thưa bác sĩ.” Thượng nghị sĩ nói.

Bạn đã hướng dẫn cô ấy đến một màn hình. Các đồng nghiệp trẻ tuổi của bạn thích VR hơn, nhưng bạn vẫn thấy độ phân giải không đủ.

"Tôi se cho bạn xem. Đây là bộ não con người.”

Thượng nghị sĩ nhìn bạn. “Tôi không phải là một kỹ sư thần kinh nhưng đó không phải là một bộ não.”

Bạn đã cười. “Ý anh là nó không có hình dạng của những bộ não trong tranh ảnh và phim ảnh. Vâng đúng vậy. Nhưng một thành phố cũng không giống như bản đồ trên điện thoại của bạn.”

Cô ấy dường như suy nghĩ trong một giây. “Tôi sử dụng bản đồ trên điện thoại để tìm những nhà hàng ngon. Bản đồ này thể hiện điều gì?”

“Khu vực này ở đây,” bạn nói, chỉ vào một đốm màu đỏ trong một trường nhiều màu chuyển động tinh tế mà bạn chắc chắn rằng mình biết rõ hơn bất kỳ ai khác (trừ khi bạn tính đến AI, thứ mà bạn không biết), “là một phần của không gian về các kiểu kích hoạt có thể có liên quan đến mong muốn được nói. Tôi không thể sử dụng bản đồ giải phẫu vì nó không phải là một phần của bộ não, nó chỉ là một cách mà các phần của nó hoạt động. Một giọng nói trong dàn đồng ca.”

Bạn đã sớm biết rằng “hãy xem cái này” là một điều không nên nói đối với một kỹ sư thần kinh ứng dụng bất kể điều gì xảy ra sau đó, vì vậy bạn chỉ sử dụng giao diện máy tính bảng để biến đốm màu đỏ đó thành màu xám và lấy miếng bịt miệng ra khỏi người đàn ông trên bàn. .

Cái bịt miệng rõ ràng đã bị nhai - anh ấy đã cố gắng nói chuyện một cách tuyệt vọng, hầu hết là những lời tục tĩu nếu kinh nghiệm của bạn là bất kỳ hướng dẫn nào - nhưng giờ anh ấy chỉ nhìn bạn trong im lặng.

Thượng nghị sĩ có vẻ kinh hoàng. "Bạn vừa tắt bài phát biểu của anh ấy?"

“Ồ, không, không. Đó sẽ là…” Không thể sẽ là vô lý. Đó là điều dễ dàng nhất trên thế giới. Phi đạo đức sẽ được coi là một trò đùa tồi tệ, mà nó sẽ xảy ra. Bạn đã giải quyết cho “… không phải những gì chúng tôi làm ở đây. Anh ấy thực sự, thành thật mà nói, không muốn nói chuyện.”

Cô nhìn lại đốm màu xám trên màn hình. Vì bạn đã ép buộc anh ấy.

Bạn không đảo mắt, nhưng bạn biết cô ấy biết bạn muốn, vì vậy bạn đã cho cô ấy xem trò bịt miệng. “Anh ấy không bị buộc phải làm hoặc không làm bất cứ điều gì trái với mong muốn của mình.”

“Quá trình thường diễn ra như thế nào, thưa Đại tá?” Thượng nghị sĩ hỏi mà không quay lại nhìn anh ta.

“Tuân thủ an toàn là ưu tiên hàng đầu, Thượng nghị sĩ.”

Bạn có nghĩa là bạn khiến anh ấy không muốn trốn thoát.

“Hoặc làm tổn thương chính anh ấy hoặc bất kỳ ai khác,” bạn nói thêm, tán thành. Đối với một chính trị gia, cô ấy khá thông minh, hoặc đã được thông báo ngắn gọn hơn những gì cô ấy đã thể hiện.

"Và sau đó?"

Đại tá dũng cảm tiếp tục. “Kỹ thuật tài sản.”

“Chúng tôi khiến anh ấy muốn giúp chúng tôi,” bạn nói rõ.

Thượng nghị sĩ đứng im lặng trong vài giây cân nhắc. “Tôi ở đây vì Ủy ban tin rằng bộ phận này có thể đang vi phạm nhân quyền theo những cách mới và thú vị. Tôi nghĩ là tôi đồng ý.”

“Thượng nghị sĩ.” Giọng Đại tá có vẻ mệt mỏi hơn là lo lắng, vì vậy bạn đoán dự án không gặp rủi ro. “Đó là một quy trình thẩm vấn có tác động thấp hơn hẳn so với bất kỳ quy trình nào được sử dụng ở nơi khác và chất lượng thông tin tình báo rõ ràng là tốt hơn. Chúng tôi cứu mạng sống ở đây, của chúng tôi và thậm chí là của họ.”

Cô ấy đã chọn không trả lời; có thể cấp trên đã nhất trí rằng dự án hữu ích đến mức điều này chứng minh rằng nó cũng mang tính nhân đạo, và cô ấy đang điều tra dự án chỉ đơn giản là để thu thập đạn dược trong trường hợp nó trở nên khác đi.

Tuy nhiên, trước khi rời khỏi phòng thí nghiệm của bạn, cô ấy đã quay lại để nói chuyện với bạn. “Tôi đã xem qua một số tác phẩm trước đây của ông, Tiến sĩ. Tôi không thể nói rằng tôi hiểu khoa học, nhưng hầu hết là về các bộ phận giả, khuyết tật học tập và các vấn đề tâm thần. Bạn có bao giờ muốn ngừng làm… việc này… và quay trở lại với loại công việc đó không?”

“Không,” bạn trả lời.

Cuối ngày hôm đó, như thường lệ, bạn là nhà khoa học duy nhất còn lại làm việc, bạn đã kiểm tra lại để đề phòng. Mọi thứ có thể ngăn bạn làm việc trong phòng thí nghiệm đều xám xịt như ngày bạn tắt nó đi. Nó hoàn toàn an toàn — thật dễ dàng để bật lại tất cả. Bạn chỉ không muốn.

(Được đăng lần đầu trên Adversarial Metanoia .)

Trở thành một nhà văn AI-sức mạnh cho NGHỆ THUẬT kỹ thuật số

nộp như thế nào?