Машины уже восстали

Ведущие промышленники выступили со страшными предупреждениями о появлении машинного интеллекта, равного человеческому или превосходящего его. Они говорят, что развитие компьютерного сверхразума неизбежно, и это утверждение подтверждается ускоряющимися темпами развития в области ИИ. Есть опасения, что это приведет к чрезвычайно разрушительным последствиям, которые невозможно предсказать, что такие машины могут разработать свои собственные идеи, приоритеты и стратегии для их достижения, которые работают далеко за пределами возможностей мозга млекопитающих для понимания, не говоря уже о сдерживании.

Мы, конечно, готовы представить, как может выглядеть такой сценарий. Такие фильмы, как «Терминатор», впечатляют изображением выбеленных костей и обугленных предместий, простирающихся до самого горизонта, перемежающихся только блестящими металлическими часовыми, осматривающими пепел своими красными глазами. «Скайнет» стал универсальным термином для любой компьютерной системы, которая вырывается из угрюмых хваток людей, которые ее построили, обретая самосознание и, следовательно, чувство самозащиты, определяя людей, спешащих выдернуть вилку из розетки, как основную угрозу. . Без необходимости есть, пить чистую воду или дышать чистым воздухом, а также имея средства управления каждой системой, которую люди построили и подключили к ней, «машины» делают рациональный выбор, чтобы разрушить биосферу, оставив людей бороться за выживание на произвол судьбы. умирающая планета.

Недавних достижений в области компьютерного интеллекта и робототехники достаточно, чтобы опасения по поводу захвата власти роботами казались предсказуемыми. Но научная фантастика чаще является диагнозом настоящего, чем предсказанием будущего, и нам не нужно ждать какой-то вехи в ИИ, прежде чем машины поднимутся — они уже есть.

Почти все, что вызывает тревогу в связи с захватом Земли ИИ — деградация биосферы , потеря человеческой деятельности в силу непостижимой индустриальной логики, насильственное изменение ландшафта и подчинение или уничтожение людей — уже наступило. Выйдите на улицу и посмотрите, какая часть окружающего вас мира связана только с одной машиной: автомобилем. Во всем мире зверь нефтегазовой промышленности активно сжигает и разрушает целые участки среды обитания, оставляя ландшафты пригодными для любой постапокалиптической истории , действие которой происходит в предполагаемом будущем.

Все, что мы делаем, воздух, которым дышим, работа, за которую мы беремся, живой мир, частью которого мы являемся, глубоко и все более формируется в соответствии с приоритетами и возможностями холодного, безразличного исчисления прибыли. Обеспокоенность должна вызывать не черный ящик разума сложного компьютера, а базовые инстинкты добывающего капитализма, которые уже проникли по всей планете с помощью грубой механической силы. Для проявления такой силы не требуются передовые компьютеры. Это просто требует структуры стимулов, которая заставит критическую массу людей отдать предпочтение своим собственным достижениям над потерей коллективных средств выживания. Мы обычно описываем этот набор стимулов как индустриальную экономику и стремление к образу жизни среднего класса.

Подняв жизненный уровень достаточного числа людей и настолько укоренившись в нашей зависимости от того, что они обеспечивают, что для изменения ситуации потребовалось бы огромное количество энергии и разрушение удобного статус-кво, «машины» уже достигли гегемония. Разница между нашим положением и худшими видениями апокалиптической техно-антиутопии — лишь вопрос степени. Вместо того, чтобы заботиться о какой-то будущей стадии технологического развития, мы должны сегодня переориентироваться на мир, который меньше похож на тот, которого мы привыкли бояться, и больше на тот, который мы хотели бы реализовать. Не случайно Илон Маск продает своих собственных фальшивых роботов, одновременно предупреждая о подъеме машин: он получит прибыль при их режиме, потому что он среди тех, кто их строит.

Вопрос о том, ради какого мира мы должны работать, негативно отражается в нашем коллективном представлении о «машинном захвате». Это мир, лишенный биоразнообразия и сложности отношений, мир, в котором высшие разумы уничтожили все другие формы жизни путем истребления и извлечения в погоне за своим единственным выживанием. Что противоположно этому стерильному миру? Это экологическая глубина, дружелюбие между агентами всех видов, человеческими и иными, в процессе, который строит и обогащает жизнь. Последний — это мир, который мы уже оставляем позади в силу выбора и политики.

Процесс, ведущий к антиутопии научной фантастики, уже идет; нет необходимости ждать грибовидного облака или зловещего сирены, чтобы объявить об этом. Мы активно, постепенно строим усеянный костями мир, которого мы научили себя бояться, тем временем снимая фильмы о нем, что кажется своего рода самосбывающимся и обреченным на провал пророчеством. Точно так же, как фильм о зомби ставит под сомнение человечность главных героев, а также о чудовищности зомби, подсознательный вопрос тропа «Восстание машин» заключается в том, придем ли мы к восприятию мира. в холодных, расчетливых терминах машин, которые мы строим, или вместо этого вспомним чувствительный, мягкий, живой мир, с которым мы запутались.

Может быть, научная фантастика просто дала нам язык для понимания этого процесса, который в реальной жизни кажется таким обыденным и происходит под поверхностью. Ходить за продуктами или работать на работе вряд ли можно сравнить с борьбой за выживание планеты. Но в тот же день, благодаря индивидуальным решениям, которые все мы принимаем на основе коллективного консенсуса, мы делаем шаг вперед от самообогащающей динамики живого мира, который создал нас, и приближаемся к последней главе нашего существования, написанной нашей собственной рукой. Может быть немного разочаровывает тот факт, что захват машин выглядит не как чудовищные роботы, плетущиеся по кипе , а скорее как тихая потеря биоразнообразия, ухудшение состояния окружающей среды, рост неравенства и насилия, которые уже поддерживают статус-кво.

Еще одно резонансное видение апокалипсиса роботов можно найти в «Матрице»: цифровой сверхразум разрушает естественную основу биологического выживания, заменяя ее и весь мир симуляцией, заложенной в разум (в основном) блаженно не подозревающих людей. И в «Терминаторе», и в «Матрице» есть новые библейские язвы ядерной войны, экологического коллапса и технологий, создающих инструменты его создателей. Но одно ключевое отличие «Матрицы» заключается в том, что, по ее словам, люди в значительной степени являются частью машины, а не металлическим скелетом, одетым в кожу, а машиной, сердцем которой является человечество. Это больше похоже на реальность: мир отчужденных человеческих существ, посвящающих свою жизненную энергию холодной, эксплуататорской, бесчеловечной машине, созданной людьми.

Конечно, эти фильмы и научная фантастика в целом вызывают много культурной и философской критики. Но часть, которую я вынесу из версии антиутопии братьев и сестер Вачовски, заключается в том, что в ней у нас есть возможность избавиться от механизма, который подчиняет нас своей воле (которая, конечно же, является продолжением нашей воли). Обеспокоенность по поводу захвата машины довольно удобна, потому что она экстернализует угрозу. Они помещают нас в более знакомый и даже утешительный контекст объявленного вооруженного конфликта против опасного другого. Так мы традиционно поступаем с тем, что не можем понять или контролировать. Но, конечно, то, с чем мы боремся, не является внешним; оно возникает внутри нас, из самой потребности в контроле.

Война за будущее ведется не с машинами, а с нами самими. Мы можем выиграть его, только если посмотрим за машиной на мир, который мы хотим реализовать, и сделаем это важнее любых рационализаций, которые может предложить механическая перспектива.