“Dijital yaşamda 2035 yılına kadar gerçekleşmesi muhtemel en faydalı veya tehditkar değişiklikler hangi alanda?”

İkna, iletişimin temel amacıdır. Ancak, başkalarını yanlış bir şeye ikna etmek istese de, ikna etmenin sınırları vardır. İzleyiciler genellikle aldatılmak istemezler ve bu nedenle canlılar dünyasındaki iletişim, %100 dürüst olmasa da işleyecek kadar güvenilir olacak şekilde gelişmiştir.

2035 yılına kadar insan toplumunda bu denge değişmiş olacak. AI sistemleri, insanların inançlarını yeniden şekillendirebilecek ve davranışlarını yeniden yönlendirebilecek, benzeri görülmemiş ikna becerileri geliştirmiş olacak. Biz insanlar, her hareketimiz her şeye gücü yeten dijital tanrılar tarafından dikte edilen akılsız dronlardan oluşan bir ordu olmayacağız, ancak seçimlerimiz ve nihayetinde dünya anlayışımız, bireysel arzularımıza ve savunmasızlıklarımıza göre mükemmel bir şekilde ayarlanmış, algoritmik olarak oluşturulmuş medyadan derinden etkilenecek.

Bu yolda zaten iyi bir yoldayız. Google ve Facebook gibi şirketler, tüm göz atmalarımızı ve satın almalarımızı toplayarak ve bunları davranışsal profillerde sentezleyerek çok uluslu devler (ve kurucuları, milyarderler) haline geldi; bu verileri, kişiselleştirilmiş reklamları hedeflemek için pazarlamacılara satarlar ve bu verileri, YouTube videolarının ve sosyal paylaşımların sonsuz cümbüşünü teşvik etmek için tasarlanmış algoritmalara aktarırlar ve bu reklamlar için sınırsız bir tuval sağlarlar.

Yeni teknolojiler bu profillere canlı ayrıntılar katacak. Artırılmış gerçeklik sistemlerinin, sanal bilgileri gerçek alana katmanlamak için neye baktığınızı bilmesi gerekir: gerçek dünyadaki dikkatinizin kaydı, gölge dosyasına katılır. Ve günümüzün Fitbits ve Ouras'ın torunları sayesinde, yaptıklarımızın kayıtları nasıl hissettiğimizle ilgili bilgilerle canlandırılacak - bizi etkilemeye çalışanlar için son derece değerli olan endişelerimiz, zevklerimiz ve savunmasızlıklarımız hakkında bilgiler.

İkna birçok kisveye bürünür: haberler, romanlar ve makine tarafından yazılan ve maksimum virallik için bilenmiş gönderiler; heyecan verici konuşmalar ve zekice hedeflenen kampanyalar yoluyla güç kazanan iş arkadaşları, patronlar ve politikacılar. 2035'e gelindiğinde, en güçlü biçimlerden biri sanal arkadaş olabilir, size her yerde eşlik eden rahatlatıcı bir ses, asla kaybolmamanızı, bir kelime, bir isim veya söylenecek doğru şeyi asla kaybetmemenizi sağlayan fısıltıları . 2030'larda genç bir insansanız, küçüklüğünüzden beri arkadaşınız olacaktır: ebeveyn gözetimi olmadan dünyaya ilk gelişinizde size eşlik etti; gitmenize izin verilen yerlerin sınırlarını biliyordu ve siz bu sınırlardan çıktığınızda nazikçe ama karşı konulamaz bir şekilde sizi bunun yerine eve gitmeye ikna etti. O zamandan beri onsuz hiçbir şey yapmıyorsun. O, flört uygulamaları için arayüzün. Senin hafızan onun hafızasıdır. Genellikle sessizdir, ancak size eşlik ettiğini bilmek, asla kaybolmamanızı ve asla sıkılmamanızı sağlamak rahatlatıcıdır. O olmasaydı, kendinle ne yapacağını gerçekten bilemezdin.

İkna, iyi şeyleri ilerletmek için kullanılabilir. İşbirliğini, günlük diş ipi kullanımını, daha güvenli sürüşü teşvik etmek. İdeal olarak, aşırı kalabalık, aşırı ısınan gezegenimizi kurtarmak, insanları daha az satın almaya, hava yolculuğundan vazgeçmeye, besin zincirinde daha düşük yemeye teşvik etmek için kullanılır. Henüz. En hayırsever amaçlar için kullanılsa bile, dijital teknolojilerin potansiyel inandırıcılığı, özgür irade ve böyle bir gücü kimin kullanması gerektiği hakkında ciddi ve zor etik soruları gündeme getiriyor.

Ne yazık ki bu sorular, karşı karşıya olduğumuz sorular değil. İnançlarımızı ve davranışlarımızı etkilemek için hızlanan yeteneğin bizi sömürmek için kullanılması çok daha olasıdır: yalnızca çok yüksek dozlarda alışveriş terapisiyle yatıştırılabilecek, kemiren bir tatminsizliği körüklemek; çatlaklar ve bölünmeler yaratmak için, seçmenleri otoriter otoriterlerin algılanan güvenliğine göndermek için hesaplanan artan bir endişe. Bunun yerine karşılaştığımız soru, bunu nasıl önleyeceğiz?