В ответ на вопрос: «Какие изменения в цифровой жизни, которые, вероятно, произойдут к 2035 году?»

Убеждение – основная цель общения. Но, хотя кто-то может захотеть убедить других в чем-то ложном, убедительность имеет свои пределы. Зрители, как правило, не хотят быть обманутыми — и, таким образом, связь во всем живом мире развилась, чтобы быть, хотя и не на 100% честной, достаточно надежной, чтобы функционировать.

В человеческом обществе к 2035 году этот баланс сместится. Системы искусственного интеллекта разовьют беспрецедентные навыки убеждения, способные изменить убеждения людей и перенаправить их поведение. Мы, люди, не будем армией безмозглых дронов, каждое наше движение будет продиктовано всемогущими цифровыми божествами, но на наш выбор и, в конечном счете, на наше понимание мира будут оказывать глубокое влияние алгоритмически сгенерированные медиа, тонко настроенные на наши индивидуальные желания и уязвимости.

Мы уже на пути к этому. Такие компании, как Google и Facebook, стали многонациональными гигантами (а их основатели — миллиардерами), собирая все наши просмотры и покупки и синтезируя их в поведенческие профили; они продают эти данные маркетологам для таргетинга персонализированной рекламы и передают их алгоритмам, предназначенным для поощрения бесконечных запоев видео на YouTube и публикации в социальных сетях, обеспечивая неограниченный холст для этой рекламы.

Новые технологии добавят этим профилям ярких деталей. Системы дополненной реальности должны знать, на что вы смотрите, чтобы накладывать виртуальную информацию на реальное пространство: запись вашего внимания в реальном мире присоединяется к теневому досье. И, благодаря потомкам сегодняшних Fitbits и Ouras, записи о том, что мы делаем, будут оживлены информацией о том, как мы себя чувствуем — информацией о наших тревогах, вкусах и уязвимостях, которая очень ценна для тех, кто стремится повлиять на нас.

Убеждение проявляется во многих обличьях: новости, романы и сообщения, написанные машиной и отточенные до максимальной виральности; коллеги, боссы и политики, которые получают власть благодаря волнующим речам и проницательно нацеленным кампаниям. К 2035 году одной из самых мощных форм вполне может стать виртуальный компаньон, утешительный голос, который сопровождает вас повсюду, ее шепот гарантирует, что вы никогда не заблудитесь, никогда не потеряетесь в слове, имени или правильном слове. . Если вы молодой человек в 2030-х годах, она будет вашим спутником с самого детства: она сопровождала вас в ваших первых набегах на мир без родительского надзора; она знала границы того, куда тебе было позволено идти, и когда ты выходил из них, она мягко, но непреодолимо убеждала тебя вместо этого отправиться домой. С тех пор ты никогда ничего не делаешь без нее. Она твой интерфейс к приложениям для знакомств. Твоя память - это ее память. Она часто молчит, но утешительно знать, что она рядом с вами, гарантируя, что вы никогда не потеряетесь и никогда не заскучаете. Без нее вы действительно не знали бы, что делать с собой.

Убеждение может быть использовано для продвижения хороших дел. Содействовать сотрудничеству, ежедневной чистке зубов, более безопасному вождению. В идеале его можно было бы использовать, чтобы спасти нашу перенаселенную, перегретую планету, чтобы побудить людей покупать меньше, отказываться от авиаперелетов, питаться ниже по пищевой цепочке. Еще. даже если они используются в самых благих целях, потенциальная убедительность цифровых технологий поднимает серьезные и трудные этические вопросы о свободе воли, о том, кто должен обладать такой властью.

Эти вопросы, увы, не стоят перед нами. Ускоряющаяся способность влиять на наши убеждения и поведение с гораздо большей вероятностью будет использоваться для эксплуатации нас: чтобы разжечь грызущую неудовлетворенность, которую можно смягчить только с помощью огромных доз розничной терапии; чтобы создать расколы и разногласия, повышенное беспокойство, рассчитанное на то, чтобы отправить избирателей в мнимую безопасность властных авторитарных режимов. Вместо этого мы сталкиваемся с вопросом, как мы можем предотвратить это?