ИИ и будущее

Мартин Риз Вон

Внезапно все беспокоятся об искусственном интеллекте. Внезапно старые страхи о замене людей машинами ворвались в общественное сознание после десятилетий игнорирования их как заезженных клише из детской области (Gulp) «научной фантастики».Все больше и больше людей попробовали ChatGPT и Bard и открыли для себя, на что они способны. Эти ИИ могут писать университетские диссертации, диагностировать трудно поддающиеся обнаружению заболевания, сдавать вступительные экзамены в Американскую ассоциацию юристов на уровне 90-го процентиля, определять идентичность кинофильмов просто по серии смайликов, показывающих сюжет, консультировать мужчин по как расстаться со своими женами, писать компьютерные программы, полностью основанные на естественном языке, обсуждать собственные чувства и размышлять о будущем машинного интеллекта. Я сам использовал их для написания шекспировских сонетов и коротких рассказов об оккультизме и научной фантастике.

Из-за этого внезапного взрыва деятельности, которая до сих пор была исключительно человеческой, многие люди обеспокоены тем, что они видят начало замены человеческого интеллекта машинами.

«Институт будущего жизни» (в состав которого входит Илон Маск) опубликовал открытое письмо, призывающее остановить дальнейшее развитие ИИ до тех пор, пока не будут проведены исследования его последствий.

Правильно ли они беспокоятся?

Конечно, они есть.

Возможно, наиболее важной определяющей характеристикой научной фантастики является ее понимание того, что будущее не обязательно должно быть похоже на прошлое. В то время как так называемая «литературная фантастика» рассказывает истории о взаимодействии человеческих эмоций на статичном фоне, который может быть установлен в любое время после палеолита, и предполагает, что такие эмоции являются наиболее важной характеристикой опыта, НФ знает, что это не правда. Есть силы гораздо более могущественные, чем человеческие эмоции.

Идея о том, что будущее не обязательно должно быть похоже на прошлое, родилась в эпоху европейского Просвещения восемнадцатого века и автоматически последовало за ним «разочарование мира». Раньше все религии считали людей и их деяния центральной чертой Вселенной, а сверхъестественные существа, управлявшие Вселенной, главным образом занимались человеческими делами. Действительно, без людей зачем боги вообще?

Эпоха Просвещения, за которым последовало развитие научного метода и промышленная революция, показали, что люди не живут в статичном мире, и все может радикально измениться — не обязательно к лучшему. В самом деле, механистическая вселенная может быть такой, в которой люди вымрут — что-то, чего не предполагала ни одна религия.

И Мэри Шелли, и Карел Чапек видели возможность замены людей, но поскольку их агенты изменений были биологическими, они не будут здесь обсуждаться.

Первым, кто предвидел, что у механического (т.е. небиологического) прогресса может быть жало в хвосте, был викторианский писатель Сэмюэл Батлер (1835–1902) в своем сатирическом произведении «Эревон» («Нигде» в обратном направлении, если вы не знали). t заметил.) Эревон — утопическое государство именно потому, что они упразднили все сложные машины. Батлер очень интересовался дарвинизмом и понял, что его можно применить к эволюции машин, как показывают следующие отрывки:

«Нет никакой гарантии против окончательного развития механического сознания в том факте, что у машин сейчас мало сознания. У моллюска не так много сознания. Подумайте о необычайном прогрессе, достигнутом машинами за последние несколько сотен лет, и о том, как медленно развиваются животные и растительные царства. … чем они (машины) не станут в конце концов? Не безопаснее ли пресечь зло в зародыше и запретить им дальнейшее развитие?

«Сложны теперь, но насколько проще и понятнее могут быть (они) не стать еще через сто тысяч лет? или в двадцать тысяч? Ибо человек в настоящее время полагает, что его интерес лежит в этом направлении; он тратит неисчислимое количество труда, времени и мыслей на то, чтобы заставить машины размножаться все лучше и лучше; ему уже удалось осуществить многое из того, что когда-то казалось невозможным, и, по-видимому, нет предела результатам накопленных улучшений, если им позволить передаваться с модификациями из поколения в поколение. Следует всегда помнить, что человеческое тело таково, как оно есть, благодаря случайностям и изменениям многих миллионов лет, но его организация никогда не развивалась с такой скоростью, с которой развивается организация машин. .

«В этом наша опасность. Ибо многие склонны мириться с таким бесчестным будущим. Они говорят, что хотя человек должен стать для машин тем, чем для нас являются лошадь и собака, тем не менее он будет продолжать существовать и, вероятно, ему будет лучше в состоянии одомашнивания под благотворным правлением машин, чем в его нынешнем диком виде. состояние.

Мы очень трепетно ​​относимся к нашим домашним животным. Мы даем им все, что, по нашему мнению, будет для них самым лучшим; и не может быть никаких сомнений в том, что наше употребление мяса увеличило их счастье, а не уменьшило его.

Точно так же есть основания надеяться, что машины будут относиться к нам благосклонно, ибо их существование будет в значительной степени зависеть от нашего; они будут править нами жезлом железным, но не съедят нас; им потребуются наши услуги не только в размножении и воспитании их детенышей, но и в обслуживании их в качестве слуг; в сборе пищи для них и кормлении их; в восстановлении их здоровья, когда они больны; и либо в погребении их мертвых, либо в превращении их умерших членов в новые формы механического существования».

- Эревон, 1872 г.

Батлер прекрасно понимал, что биологическая эволюция — очень медленный процесс, которому потребовалось более 3 миллиардов лет, чтобы преобразовать воду и органические химические вещества в людей. Однако можно скептически относиться к эволюции машин, нельзя отрицать, что это не очень впечатляющий масштаб времени.

Часть вторая, чтобы следовать…

Статья Мартина Риса Вогана (с разрешения). Мартин является автором шести научно-фантастических книг, изданных Cambria. Их можно просмотреть ЗДЕСЬ или в виде электронных книг Kindle на Amazon.