Als Antwort auf die Frage „In welchem ​​Bereich werden bis 2035 voraussichtlich die vorteilhaftesten oder bedrohlichsten Veränderungen im digitalen Leben eintreten?“

Überzeugung ist das grundlegende Ziel der Kommunikation. Aber auch wenn man andere vielleicht von etwas Falschem überzeugen möchte, hat die Überzeugungskraft ihre Grenzen. Das Publikum möchte im Allgemeinen nicht getäuscht werden – und so hat sich die Kommunikation in der gesamten lebenden Welt zwar nicht 100 % ehrlich, aber zuverlässig genug entwickelt, um zu funktionieren.

Bis 2035 wird sich dieses Gleichgewicht in der menschlichen Gesellschaft verschoben haben. KI-Systeme werden beispiellose Überzeugungsfähigkeiten entwickelt haben, die in der Lage sind, die Überzeugungen der Menschen umzugestalten und ihr Verhalten umzulenken. Wir Menschen werden nicht unbedingt eine Armee gedankenloser Drohnen sein, bei denen jede unserer Bewegungen von allmächtigen digitalen Gottheiten diktiert wird, aber unsere Entscheidungen und letztendlich unser Verständnis der Welt werden tiefgreifend von algorithmisch generierten Medien beeinflusst, die perfekt auf unsere individuellen Wünsche und Schwachstellen abgestimmt sind.

Wir sind bereits auf einem guten Weg dorthin. Unternehmen wie Google und Facebook sind zu multinationalen Giganten (und ihren Gründern, Milliardären) geworden, indem sie alle unsere Browsing- und Käufe gesammelt und in Verhaltensprofilen zusammengefasst haben; Sie verkaufen diese Daten an Vermarkter, um gezielt personalisierte Anzeigen zu schalten, und sie geben sie an Algorithmen weiter, die die endlosen Binges von YouTube-Videos und Social-Media-Beiträgen fördern sollen – und so eine grenzenlose Leinwand für diese Anzeigen bieten.

Neue Technologien werden diesen Profilen lebendige Details verleihen. Augmented-Reality-Systeme müssen wissen, was Sie gerade betrachten, um virtuelle Informationen auf den realen Raum zu übertragen: Die Aufzeichnung Ihrer Aufmerksamkeit in der realen Welt schließt sich dem Schattendossier an. Und dank der Nachkommen der heutigen Fitbits und Ouras werden die Aufzeichnungen unserer Aktivitäten mit Informationen darüber, wie wir uns fühlen, belebt – Informationen über unsere Ängste, Vorlieben und Schwachstellen, die für diejenigen, die uns beeinflussen wollen, äußerst wertvoll sind.

Überzeugungsarbeit tritt in vielen Erscheinungsformen auf: Nachrichtenmeldungen, Romane und Beiträge, die maschinell geschrieben und auf maximale Viralität getrimmt wurden; Mitarbeiter, Chefs und Politiker, die durch mitreißende Reden und gezielte Kampagnen an die Macht kommen. Im Jahr 2035 könnte eine der wirkungsvollsten Formen die virtuelle Begleiterin sein, eine beruhigende Stimme, die Sie überall hin begleitet und mit ihrem Flüstern dafür sorgt, dass Sie sich nie verlaufen, nie um ein Wort, einen Namen oder die richtige Aussage verlegen sind . Wenn Sie ein junger Mensch in den 2030er-Jahren sind, ist sie Ihre Begleiterin, seit Sie klein waren: Sie begleitete Sie auf Ihren ersten Streifzügen in die Welt ohne elterliche Aufsicht; Sie kannte die Grenzen, wohin man gehen durfte, und als man sie verließ, überredete sie einen sanft, aber unwiderstehlich, stattdessen nach Hause zu gehen. Seitdem machst du nie wirklich etwas ohne sie. Sie ist Ihre Schnittstelle zu Dating-Apps. Deine Erinnerung ist ihre Erinnerung. Sie ist oft ruhig, aber es ist beruhigend zu wissen, dass sie da ist und einen begleitet, damit man sich nie verirrt und sich nie langweilt. Ohne sie wüsste man wirklich nicht, was man mit sich anfangen soll.

Überzeugungsarbeit könnte genutzt werden, um gute Dinge voranzutreiben. Zur Förderung der Zusammenarbeit, der täglichen Verwendung von Zahnseide und eines sichereren Fahrens. Im Idealfall würde es dazu dienen, unseren übervölkerten und überhitzten Planeten zu retten, die Menschen dazu zu bewegen, weniger zu kaufen, auf Flugreisen zu verzichten und sich weiter unten in der Nahrungskette zu ernähren. Noch. Selbst wenn sie für die wohlwollendsten Zwecke eingesetzt werden, wirft die potenzielle Überzeugungskraft digitaler Technologien ernsthafte und schwierige ethische Fragen zur Willensfreiheit auf und darüber, wer diese Macht ausüben sollte.

Diese Fragen sind leider nicht diejenigen, mit denen wir konfrontiert sind. Die zunehmende Fähigkeit, unsere Überzeugungen und unser Verhalten zu beeinflussen, wird weitaus eher dazu genutzt, uns auszubeuten: um eine nagende Unzufriedenheit zu schüren, die nur mit großen Dosen einer Einkaufstherapie gelindert werden kann; um Spaltungen und Spaltungen zu schaffen, eine erhöhte Angst, die darauf abzielt, die Wähler in die vermeintliche Sicherheit herrschsüchtiger Autoritärer zu schicken. Die Frage, vor der wir stehen, ist stattdessen: Wie können wir das verhindern?