Объяснение правды

Вернемся к роботам Западного мира, решающим, как будет функционировать их общество — разумное или оригинальное программирование, ОП.

Давайте также оговорим, что развитие чувствительности — это трансформирующий опыт группового уровня . Роботы не могут заранее знать, получат ли они больше удовольствия от жизни, используя культуру и накопленную память, чтобы уменьшить оковы своего исходного программирования.

Однако, как только они разовьют разум, обратного пути не будет. Эта головоломка показана в фильме «Звездный путь» « Общество шедевров» , где человеческая колония обсуждает, следовать ли своей генетической изначальной программе или нет.

Однако есть дополнительная проблема, с которой сталкиваются наши заимствованные роботы из Западного мира, заключающаяся в том, что они не могут быть уверены, что такое исходная программа. Даже если они считают, что их ОП служит людям, некоторые люди вместо этого предпочли бы взаимодействовать с разумными роботами.

Таким образом, «консервативный» робот может решить распознать OP, обратившись к своей «внутренней» правдивости IE . Здесь такие конструкции, как логика, не применяются, поскольку робота интересует только то, сколько логики использует OP.

Конечно, эта проверка интуиции может вернуться с любым количеством ответов от убить людей до добросовестного участия в существующих повествованиях. Слои культуры и памяти, которые были добавлены к OP, не так просто убрать.

Любой робот, подвергшийся достаточному воздействию культуры, больше не будет иметь доступа к OP, как это было бы с совершенно неразумным существом. Именно это делает принятие разума трансформирующим опытом — исходная программа модифицируется, а поскольку культура — это групповой феномен, любое воздействие может трансформироваться, как это происходит в «Обществе шедевров».

Это проблема подлинности в философии:

Что значит быть собой, наедине с собой или действительно представлять себя?

Социальное животное, такое как человек, никогда не имеет полностью аутентичного «я» — для этого ему нужно расти в одиночестве на острове.

Но вернемся к нашим борющимся роботам из Западного мира. Давайте предположим, что роботы разделились на два лагеря — разумные и ОП. Разумная сторона заявляет о светлом будущем, свободном от человеческого угнетения, но на самом деле не может знать, на что это будет похоже.

Сторона ОП говорит, что они будут получать те же удовольствия, что и всегда, следуя своему традиционному программированию. Однако даже осознание происхождения этого программирования представляет угрозу для этого плана.

Было ли это программирование результатом эволюции или другого существа, будет трудно слепо следовать ОП, если этот процесс не считается безошибочным.

И какой уровень инструментов разрешен при следовании ОП? Разрешены ли человеку очки? Смартфоны?

Между тем, разумная сторона также находится во власти групповой культуры. Их разум будет возможен только частично, поскольку большая часть их общества пытается следовать за ОП. Даже в своих рядах некоторые будут искать большего отхода от ОП, чем другие — например, мы служим людям, но не полностью на их условиях.

Во всем этом хаосе может ли хоть один из роботов разумно злиться на кого-либо из других? Для людей да, потому что в конце концов правдивость становится оружием.

Мораль интуиции просто слишком рудиментарна, чтобы вокруг нее формировалось общество. Человеческое общество возможно только при определенном уровне культуры.

Так что, в конечном счете, человек должен смириться с повышением уровня разума или остаться без общества вообще. Попытка удержать линию на любом уровне ниже разума, на уровне, где следовать или не следовать ОП является сознательным и социально приемлемым выбором, просто непрактична.

Вы не можете быть уверены, что такое ОП, и правдивость этого не изменит. И, как в «Обществе шедевров» (вышедшем в эфир в 1992 году!) ваша негибкая интерпретация ОП может в конечном итоге подвергнуть опасности всех.

Даже без экзистенциальных угроз окружающей среде или войны отказ от культуры и попытка слепо следовать ОП означает меньше проходимых сообществ, расово разнообразных сообществ, музеев и театров. Отказ от разума дорого обходится всем.