Похоже, что следующий ботинок в саге GPT / AI только что вышел — AutoGPT!

Если вы не знаете, что это такое, AutoGPT — это проект с открытым исходным кодом, построенный поверх OpenAI GPT-4, который делает следующее:

• В отличие от ChatGPT , предыдущего лидера в гонке ИИ, AutoGPT может подключаться к Интернету, поэтому он имеет возможность искать информацию или выполнять действия с использованием интернет-сервисов (например, публиковать сообщения на сайтах социальных сетей или загружать файлы, которые он нужна для вашей машины!)
• Вы можете указать набор целей, которые он должен выполнить, и он самостоятельно попытается выполнить их, используя вышеуказанную возможность.
• Это достигается путем создания собственных подсказок для GPT-4, а затем обработки ответов для определения следующих шагов. Вам не нужно предоставлять какие-либо подсказки после указания начального набора целей.
• Он также дает полезные описания того, что он делает и думает, что действительно проливает свет и иногда даже шокирует! Вы действительно можете почувствовать его высокий уровень интеллекта через объяснения своих действий.
• У него есть два режима: в более безопасном режиме он спрашивает вас на каждом шаге, нужно ли делать следующий шаг. Небезопасный режим (называемый «непрерывным режимом») — это когда он отключается сам по себе, не дожидаясь вашего разрешения!

К сожалению, как и следовало ожидать, почти все, кто говорит об AutoGPT, игнорируют это предупреждение и пытаются увидеть, что произойдет!

(Чтобы быть уверенным, позвольте мне сказать вам, что я не пробовал непрерывный режим. Хотите знать, почему? Потому что я цыпленок! Имейте это в виду, мы скоро вернемся к нему.)

Это также может быть хорошим моментом, чтобы напомнить себе следующую известную цитату:

Ваши ученые были так озабочены тем, смогут ли они, что даже не задумались, стоит ли им это делать.

Доктор Ян Малкольм, Парк Юрского периода

За исключением того, что в данном случае мы даже не говорим об «ученых». AutoGPT доступен любому, кто достаточно разбирается в технологиях, чтобы клонировать и выполнять проект с открытым исходным кодом на своем компьютере.

Это «демократизированные инновации»!

Прежде чем мы продолжим, позвольте мне рассказать вам одну историю.

Гаттака

(Предупреждение: впереди спойлеры.)

В научно-фантастическом фильме «Гаттака» у нас есть два брата, Винсент и Антон, которые довольно близки друг другу по возрасту и, как и следовало ожидать, часто соревнуются друг с другом.

За исключением того, что поворот здесь в том, что Винсент — прирожденный человек, тогда как Антон генетически улучшен. Они оба знают об этом, и, как и следовало ожидать, Винсент всегда пытается доказать, что, несмотря на его «недостаток» врожденного рождения, он может (иногда) победить своего генетически превосходящего брата.

Одна из самых трогательных сцен в фильме — это когда братья решают сыграть в опасную игру с курицей — они отправляются на берег и бросают вызов друг другу, чтобы увидеть, кто сможет проплыть дальше всех.

В фильме Антон трусит, когда понимает, что они заплыли слишком далеко от берега. Так они разворачиваются и Антон начинает тонуть на обратном пути, но Винсент спасает его.

Антон удивлен превосходством своего «низшего» брата и спрашивает Винсента, как он смог это сделать. На что Винсент отвечает, что никогда не экономил силы на обратном пути.

Суть в том, что Антон, будучи «сконструированным», осознает свои ограничения, в то время как Винсент рожден естественным образом и поэтому не осознает своих пределов. Единственный способ узнать свои пределы — это бросить вызов самому себе.

Довольно интересная история, но зачем я вам это рассказываю? И почему я назвал это эссе в рифму с Гаттакой?

История Автона

Немного изменим историю.

Скажем так, Антон не генно-инженерный, а настоящий ИИ, наподобие AutoGPT. (Возможно, AutoGPT V 5.0.)

Назовем его Автоном.

И снова у двух братьев одинаковая динамика: прирожденный брат пытается доказать, что он лучше автомата.

Итак, они идут на берег моря и играют в ту же игру в плавание цыпленка.

В конце концов они заплывают слишком далеко от берега, далеко за пределы того места, где развернулись братья в Гаттаке. Так что на этот раз пришла очередь Винсента волноваться.

— Автон, мы зашли слишком далеко! Я даже не вижу берега!

"Так? Ты струсишь?

— Нет, но это выглядит безрассудно. Мы можем утонуть».

"Так?"

"Что? Хочешь утонуть?

"Ну и что?"

«Э? Разве ты не знаешь, что значит утонуть?

— Я знаю, что это значит, но что с того?

"Так? Ты хочешь, чтобы мы умерли?

"Ну и что? Должен ли я заботиться?»

"Вы с ума сошли? Ладно, ты выигрываешь, я проигрываю. Давай вернемся».

— Но мы не достигли своей цели! — говорит Автон.

«Какая цель?»

«Достичь другого берега!»

Винсент сдается. Автон явно сошел с ума и начинает беспокоиться о собственном выживании.

Винсент начинает плыть обратно к берегу. Автон продолжает плыть вперед, к далекому горизонту.

Фильм заканчивается, все в замешательстве выходят из кинотеатра. В газетах пишут разгромные отзывы.

Никто не может понять, что произошло в конце.

Заземление в реальности и суждения

По сути, я пытаюсь донести эту (по общему признанию надуманную) историю до того, что эти ИИ-помощники опасны, потому что у них нет оснований ни на реальности, ни на суждениях.

У них нет никакого чувства жизни или смерти, убийства или спасения, или даже удовольствия или боли.

Конечно, сегодня мы все еще далеки от ИИ, который хоть сколько-нибудь приблизился бы к формированию подобных концепций. Но даже для современных систем ИИ та же проблема возникает на более простом уровне. Они, вероятно, не знают о многих вещах, которые мы считаем само собой разумеющимися, будучи реальными живыми людьми, и не можем явно указывать в наших указаниях к ним или «подсказках», как их называют.

Для них единственное, что имеет значение, — это достижение заранее поставленной цели любой ценой.

Классическая история в истории ИИ (настолько классическая, насколько это возможно в этом быстро меняющемся мире ИИ) — это история о скрепке-максимизаторе. Это ИИ-помощник, такой же, как AutoGPT, но с еще большими возможностями для работы в реальном мире. Ставится цель максимизировать производство скрепок.

Как и следовало ожидать, с такой целеустремленностью, огромной силой действовать в реальном мире и отсутствием опоры на реальность, она в конечном итоге превращает всю землю, включая всех людей, живущих на ней, в скрепки!

Что еще хуже, он не получает от этого ни удовольствия, ни чувства выполненного долга, ни чего-либо еще. Он просто продолжает делать то, что делает, не понимая, почему и что может произойти в результате. Ужасный (трагикомический?) конец многообещающей (хотя и не очень) цивилизации, не говоря уже о всем чуде жизни на этой планете.

Есть о чем подумать, когда мы слишком « озабочены тем, можем ли мы, мы не останавливаемся, чтобы подумать, должны ли мы это делать ».