W odpowiedzi na pytanie „W jakim obszarze najbardziej korzystne lub groźne zmiany w cyfrowym życiu prawdopodobnie nastąpią do 2035 roku?”

Perswazja jest podstawowym celem komunikacji. Ale chociaż ktoś może chcieć przekonać innych do czegoś fałszywego, zdolność perswazji ma swoje granice. Odbiorcy na ogół nie chcą być oszukiwani — dlatego komunikacja w całym żywym świecie ewoluowała, aby być, choć nie w 100% uczciwa, wystarczająco niezawodna, aby funkcjonować.

W społeczeństwie ludzkim do 2035 r. ta równowaga ulegnie zmianie. Systemy sztucznej inteligencji rozwiną bezprecedensowe umiejętności perswazji, zdolne do zmiany przekonań ludzi i przekierowania ich zachowań. My, ludzie, nie będziemy całkiem armią bezmyślnych dronów, których każdy nasz ruch będzie dyktowany przez wszechmocne cyfrowe bóstwa, ale na nasze wybory i ostatecznie na nasze rozumienie świata głęboki wpływ będą miały generowane algorytmicznie media doskonale dostrojone do naszych indywidualnych pragnień i wrażliwości.

Jesteśmy już na dobrej drodze do tego. Firmy takie jak Google i Facebook stały się wielonarodowymi kolosami (a ich założyciele miliarderami), gromadząc wszystkie nasze przeglądania i zakupy oraz syntetyzując je w profile behawioralne; sprzedają te dane marketerom w celu kierowania spersonalizowanych reklam i przekazują je algorytmom zaprojektowanym w celu zachęcania do niekończącego się oglądania filmów na YouTube i publikowania w mediach społecznościowych – zapewniając nieograniczone płótno dla tych reklam.

Nowe technologie dodadzą żywych szczegółów tym profilom. Systemy rzeczywistości rozszerzonej muszą wiedzieć, na co patrzysz, aby nałożyć wirtualne informacje na rzeczywistą przestrzeń: zapis twojej uwagi w świecie rzeczywistym dołącza do dossier cienia. A dzięki potomkom dzisiejszych Fitbitów i Oura zapisy tego, co robimy, zostaną ożywione informacjami o tym, jak się czujemy — informacjami o naszych lękach, upodobaniach i słabościach, które są bardzo cenne dla tych, którzy chcą nami rządzić.

Perswazja pojawia się pod wieloma postaciami: wiadomości, powieści i posty pisane maszynowo i dopracowane pod kątem maksymalnej wirusowości; współpracownikami, szefami i politykami, którzy zdobywają władzę dzięki poruszającym przemówieniom i sprytnie ukierunkowanym kampaniom. Do 2035 roku jedną z najpotężniejszych form może być wirtualna towarzyszka, pocieszający głos, który towarzyszy ci wszędzie, a jej szepty zapewniają, że nigdy się nie zgubisz, nigdy nie zabraknie Ci słowa, imienia lub właściwej rzeczy do powiedzenia . Jeśli jesteś młodą osobą w latach 30. XXI wieku, będzie ci towarzyszyła od dziecka: towarzyszyła ci podczas twoich pierwszych wypraw w świat bez nadzoru rodziców; znała granice, do których wolno ci się udać, a kiedy wychodziłeś z nich, delikatnie, ale nieodparcie, przekonywała cię, żebyś zamiast tego udał się do domu. Od tamtej pory nigdy tak naprawdę nic bez niej nie robisz. Jest twoim interfejsem do aplikacji randkowych. Twoja pamięć jest jej pamięcią. Często jest cicha, ale pocieszająca jest świadomość, że towarzyszy ci, zapewniając, że nigdy się nie zgubisz, nigdy się nie nudzisz. Bez niej naprawdę nie wiedziałbyś, co ze sobą zrobić.

Perswazję można wykorzystać do promowania dobrych rzeczy. Aby promować współpracę, codzienne czyszczenie nicią dentystyczną, bezpieczniejszą jazdę. Idealnie byłoby wykorzystać to do ratowania naszej przeludnionej, przegrzewającej się planety, aby skłonić ludzi do mniejszych zakupów, rezygnacji z podróży samolotem, jedzenia na niższych pozycjach w łańcuchu pokarmowym. Już. nawet jeśli jest wykorzystywana w najbardziej dobroczynnych celach, potencjalna zdolność przekonywania technologii cyfrowych rodzi poważne i trudne etyczne pytania o wolną wolę, o to, kto powinien dzierżyć taką władzę.

Te pytania, niestety, nie są tymi, przed którymi stoimy. Przyspieszająca zdolność wpływania na nasze przekonania i zachowania jest znacznie bardziej prawdopodobna do wykorzystania nas: do podsycania dojmującego niezadowolenia, które można zaspokoić tylko ogromnymi dawkami detalicznej terapii; do tworzenia rozłamów i podziałów, zwiększonego niepokoju obliczonego na wysłanie wyborców do postrzeganego bezpieczeństwa dominujących autorytarystów. Pytanie, przed którym stoimy, brzmi: jak temu zapobiec?