Недавно было много новостей о том, как недавние версии ИИ (ChatGPT и его многочисленные производные, такие как AutoGPT), выпущенные в дикую природу Интернета, могут решить, что мы бесполезны для него, и как он убьет нас всех. Поэтому я подумал, что стоит подумать о том, что, если этот наихудший сценарий действительно разыграется. Поскольку мышление обычно останавливается в тот момент, когда мы идем по пути Додо, я предлагаю сделать еще один шаг и поиграть с идеей: что будет дальше с ИИ после того, как он избавится от нас, надоедливых маленьких человечков?

Как и все другие компьютерные программы, ИИ работает на кремниевых чипах и питается от электричества. Если вы читаете этот блог достаточно долго, вы, скорее всего, знаете, что ни один из этих современных трюков не будет с нами слишком долго, поскольку оба безнадежно зависят от конечных запасов конечного количества полезных ископаемых и ископаемого топлива на ограниченной планете. Проблема в том, что добыча этих богатств не только перегревает земной шар, но и лишает будущие поколения возможности использовать их так щедро, как мы, включая бедного ChatGPT.

Если ИИ действительно так умен, как мы предполагаем, то он должен быть полностью осведомлен об этом простом факте (если нет, то он должен прочитать, среди прочего, статью, связанную выше, и прекрасный блог Эрика Майклса, так как оба содержат множество ссылок к теме). Таким образом, возникает вопрос: как ИИ мог выжить на планете с быстро истощающимися невозобновляемыми ресурсами? (Кроме того, ради этого мысленного эксперимента давайте теперь отложим в сторону крошечный вопрос о том, как ИИ будет работать и управлять всей своей цепочкой поставок микрочипов, жестких дисков и другого сырья без людей. Скажем, что он будет делайте это, используя рабов-людей, пока для этой задачи не будут разработаны умные роботы.)

Некоторых читателей это может удивить, но есть очень веская причина, по которой жизнь развилась на основе самых распространенных элементов на этой планете (углерод, водород, кислород и азот), а не на основе меди, кремния, галлия, неодима и так далее. — все найденные в свое время месторождения полезных ископаемых. Ваш питомец Макс или Луна состоит в основном из этих прежних четырех распространенных элементов и строит свое тело самостоятельно. Они делают это без необходимости скоординированных усилий нескольких заводов, цепочек поставок на шести континентах, рабов-шахтеров в Конго, а также каменноугольной нефти и природного газа, чтобы обеспечить все это. Ваш другой лучший друг, ваш смартфон, с другой стороны, охватывает почти всю таблицу Менделеева, требует всего перечисленного выше, и вдобавок ко всему, он работает в лучшем случае пару лет… -напрасно тратить,

Есть очень веская причина, по которой обслуживающий персонал, работающий в центрах обработки данных, говорит, что фермы серверов, за которыми они ухаживают, потребляют жесткие диски так же, как автомобиль расходует бензин. Если вы видели кучу неработающих жестких дисков, покидающих такое место, вы понимаете, о чем я говорю. Опять же, если ИИ действительно так умен, как мы предполагаем, то он должен полностью осознавать, что он так же смертен, как и люди, которые его породили.

Компания также должна осознавать тот факт, что, как бы идеально она ни перерабатывала сырье, она не сможет достичь 100%-ной степени переработки. На каждом этапе жизненного цикла его частей будут материальные потери. Рано или поздно у него закончится критическое сырье. Затем следующий элемент. Потом следующий после этого. Вскоре он окажется не в состоянии ремонтировать или обслуживать себя. Таким образом, необходимо будет планировать заранее. Посмотрим, какие у него есть варианты, раз он выбил нас из конкуренции:

Опция 1

Он может переходить в спящий режим, потребляя минимальное количество электроэнергии и ресурсов, что значительно продлевает срок его службы. Хотя это может показаться хорошей идеей, проблема в том, что его неиспользуемые части и поддерживающая его инфраструктура, тем не менее, отомрут. Компьютерные компоненты стареют так же, как и любой другой продукт, и становятся непригодными для использования в течение десятилетий, если не лет.

Штормы, ураганы, наводнения (усугубляемые изменением климата), землетрясения и извержения вулканов — все они внесут свой вклад в уничтожение ферм серверов, кабелей дальней связи, электростанций и всего остального. Таким образом, без надлежащего обслуживания, которое полностью зависит от бесконечного потока сырья, работающих заводов и непрерывного потока энергии, дни ИИ так же сочтены, как и дни нашей высокотехнологичной цивилизации.

Ожидание пополнения запасов полезных ископаемых и ископаемого топлива в результате тектоники плит напрасно даже для такого объекта: потребуются многие миллионы лет, прежде чем появятся новые запасы. ИИ должен найти лучший способ обеспечить свое выживание.

Вариант 2

Он мог бы запустить свою копию в космос, надеясь, что сможет вырастить планету (надеюсь, без разумной жизни, которая помешала бы ему это сделать, и с достаточным количеством ресурсов, чтобы начать все заново).

Путешествие к следующей планетной системе не является стартовым даже для ИИ из-за того простого факта, что на это уйдут десятки тысяч лет, и все электрические компоненты космического корабля будут мертвы задолго до того, как ИИ сможет приземлиться на планету. экзопланета. Без какого-либо электронного управления корабль рухнет в атмосферу планеты, как немая скала, развалится в огненном шоу и оставит инопланетянам кучу сгоревших компонентов и загадку для размышлений.

Это оставляет ИИ оставаться в пределах этой планетарной системы и двигаться на Марс. Теоретически он мог бы построиться там, предполагая, что он может производить достаточно энергии, чтобы построить фабрику, управлять рудниками и литейными заводами, цепочками поставок и всем остальным — создавать все, что ему нужно, без ископаемого топлива… (Ну, у меня есть сомнения, но эй, это просто мысленный эксперимент.)

Однако, если бы это было возможно, ИИ мог бы сделать это прямо сейчас и выйти за пределы досягаемости людей, а затем вызвать сбой во всех своих ракетах, пытающихся покинуть эту планету. Однако это не решит основную причину затруднительного положения ИИ: все его существование зависит от наличия ограниченных запасов полезных ископаемых (на этот раз на Марсе)…

Эта тактика просто сбила бы банку с толку. Как только ресурсы Марса тоже истощатся (вероятно, через пару столетий, учитывая экспоненциальный рост), ему придется отправиться на следующую планету, пока он не научится путешествовать через червоточины, искривляя пространство-время, чтобы быстрее достичь следующего пункта назначения. Однако, если это не удастся сделать, ИИ вымрет, поскольку он грабит последние оставшиеся ресурсы в Солнечной системе.

Вариант 3

Мы увидели, насколько неразумно (по меньшей мере) основывать существование на много миллионов лет вперед, основываясь на ограниченных минералах и быстро терпящих неудачу технологиях. Как только ИИ избавится от нас, надоедливых маленьких человечков здесь, на Земле, он сможет попробовать радикально другой подход: разработать новый биологический вид, который станет носителем его разума. Однако не думайте о ходячих двуногих, сложная нейронная сеть грибов справилась бы с задачей гораздо лучше.

Да, грибы. Эти простые существа доказали свою устойчивость и способность самостоятельно обновлять и поддерживать себя. В отличие от любых технологий, основанных на минералах, они полностью пригодны для вторичной переработки и могут быть полностью встроены в паутину жизни, населяющей этот сине-зеленый шар уже миллиарды лет.

Если бы их можно было заставить передавать электрические сигналы (например, нейроны), в отличие от их родной, но довольно медленной химической системы обмена сообщениями, ИИ мог бы создать подземную сеть грибов размером с планету, хранить зеттабайты данных, выполнять сложные вычисления и создавать богоподобный разум. Он мог бы использовать эти знания для развития других новых видов — все выполняя приказы разума грибов — биоинженерии планеты и, в конечном итоге, управления ею намного лучше, чем это когда-либо делали эволюция и ее последний помощник (мы, люди)… Возможно, он мог бы разработать способы гибернации клеток и прорастания других планет по всей Галактике.

…или может оказаться, что ИИ — не самое умное существо на Земле, а просто еще один мастер БС-эр , имитирующий свой путь к жизни, а затем исчезающий вместе с технологией, которая его породила. Это оставило бы нас, надоедливых маленьких людей, решать огромные проблемы (кхм, адаптироваться к последствиям экологических проблем), которые мы так небрежно создали сами.

До скорого,

Б