Giải thích Chân lý

Hãy quay trở lại với những người máy ở Thế giới phương Tây quyết định xã hội của họ sẽ hoạt động như thế nào - lập trình có tri giác hoặc nguyên bản, OP.

Chúng ta cũng hãy quy định rằng việc phát triển tri giác là một trải nghiệm biến đổi ở cấp độ nhóm . Các rô-bốt không thể biết trước liệu chúng có tận hưởng cuộc sống nhiều hơn bằng cách sử dụng văn hóa và bộ nhớ tích lũy để giảm bớt xiềng xích của chương trình ban đầu hay không.

Tuy nhiên, một khi họ phát triển tình cảm thì sẽ không có cách nào dễ dàng quay trở lại. Câu hỏi hóc búa đó được thể hiện trong Hiệp hội kiệt tác của Star Trek , nơi một thuộc địa của con người tranh luận về việc có nên tuân theo chương trình gốc di truyền của họ hay không.

Tuy nhiên, có một vấn đề khác mà các rô-bốt mượn ở Thế giới Tây của chúng ta phải đối mặt là chúng không thể chắc chắn chương trình gốc là gì. Ngay cả khi họ lấy OP của mình để phục vụ con người, thay vào đó, một số người vẫn muốn tương tác với những người máy có tri giác hơn.

Vì vậy, một rô-bốt “bảo thủ” có thể quyết định phân biệt OP bằng cách tham khảo tính trung thực của IE “ruột” của nó . Ở đây, các cấu trúc như logic không được áp dụng vì robot chỉ quan tâm đến việc OP sử dụng bao nhiêu logic.

Tất nhiên, cuộc kiểm tra ruột này có thể quay trở lại với bất kỳ số lượng phản hồi nào từ giết người đến tham gia một cách trung thực vào các câu chuyện hiện có. Các lớp văn hóa và ký ức đã được thêm vào OP không dễ dàng bị loại bỏ.

Bất kỳ robot nào tiếp xúc với đủ nền văn hóa sẽ không còn quyền truy cập vào OP theo cách mà một sinh vật hoàn toàn không có tri giác sẽ làm. Đây là điều làm cho việc nắm bắt tình cảm trở thành một trải nghiệm biến đổi — lập trình ban đầu được sửa đổi và vì văn hóa là một hiện tượng nhóm nên bất kỳ sự tiếp xúc nào cũng có thể biến đổi như đã xảy ra trong The Masterpiece Society.

Đây là vấn đề về tính xác thực trong triết học:

Là chính mình, đồng nhất với chính mình, hoặc thực sự đại diện cho chính mình là gì?

Một động vật xã hội như con người không bao giờ có một bản thân hoàn toàn xác thực ngay từ đầu - một người sẽ phải lớn lên một mình trên một hòn đảo để đạt được điều đó.

Nhưng hãy quay lại với những người máy ở Thế giới Tây đang gặp khó khăn của chúng ta. Giả sử rằng các rô-bốt chia thành hai phe - nghiêng về tri giác và nghiêng về OP. Phía có tri giác tuyên bố một tương lai tươi sáng không có sự áp bức của con người nhưng thực sự không thể biết điều đó sẽ như thế nào.

Phía OP nói rằng họ sẽ có được những niềm vui giống như họ luôn có bằng cách tuân theo chương trình truyền thống của họ. Tuy nhiên , ngay cả nhận thức về nguồn gốc của chương trình đó cũng là một mối đe dọa đối với kế hoạch đó.

Cho dù lập trình đó là kết quả của một quá trình tiến hóa hay một sinh vật khác, sẽ rất khó để theo dõi OP một cách mù quáng nếu quá trình đó không được coi là không thể sai lầm.

Và mức độ công cụ nào được phép khi theo OP? Đối với một con người được phép đeo kính? Điện thoại thông minh?

Trong khi đó, phía tri giác cũng chịu ảnh hưởng của văn hóa nhóm. Tình cảm của họ sẽ chỉ có thể thực hiện được một phần khi phần lớn xã hội của họ đang cố gắng làm theo OP. Ngay cả trong hàng ngũ của họ, một số người sẽ tìm kiếm sự phân chia khỏi OP nhiều hơn những người khác - ví dụ: chúng tôi phục vụ con người nhưng không hoàn toàn phục vụ các điều khoản của họ.

Trong tất cả sự hỗn loạn, bất kỳ người máy nào có thể tức giận với bất kỳ người nào khác một cách hợp lý? Đối với con người là có bởi vì cuối cùng sự trung thực trở thành vũ khí.

Đạo đức của việc kiểm tra ruột đơn giản là quá thô sơ để hình thành một xã hội xung quanh. Xã hội loài người chỉ có thể thực hiện được với một trình độ văn hóa nào đó.

Vì vậy, cuối cùng người ta phải chấp nhận mức độ tình cảm ngày càng tăng hoặc kết thúc là không có xã hội nào cả. Cố gắng giữ giới hạn ở bất kỳ cấp độ nào dưới mức tri giác, cấp độ mà việc tuân theo hoặc không tuân theo OP là một lựa chọn có ý thức và được xã hội chấp nhận, đơn giản là không thực tế.

Bạn không thể chắc chắn OP là gì và sự trung thực sẽ không thay đổi điều đó. Và như trong The Masterpiece Society (được phát sóng vào năm 1992!), cách giải thích không linh hoạt của bạn về OP có thể gây nguy hiểm cho tất cả mọi người.

Ngay cả khi không có các mối đe dọa hiện hữu đối với môi trường hoặc chiến tranh, việc từ chối văn hóa và cố gắng chạy theo OP một cách mù quáng đồng nghĩa với việc có ít cộng đồng có thể đi bộ hơn, các cộng đồng cũng như bảo tàng và vở kịch đa dạng về chủng tộc. Từ chối tình cảm đi kèm với một mức giá rất đắt cho tất cả.