Big Bot beobachtet Sie

Die dunkle Seite der künstlichen Intelligenz

Künstliche Intelligenz, einschließlich Sprachmodellen wie ChatGPT, wird unser Arbeits- und Privatleben radikal verändern. Allerdings birgt diese neue Technologie das Potenzial für noch nie dagewesene Probleme wie Identitätsdiebstahl oder die Produktion gefälschter Nachrichten. Die größte Gefahr für unsere Demokratie und freiheitsliebende Gesellschaft liegt jedoch woanders.

Nach Indien und Taiwan erwägen die USA nun ein Verbot der chinesischen Social-Media-App TikTok . Dies ist ein drastischer Schritt für ein Land, das politische Propaganda, Hassreden und sogar Hakenkreuze unter dem Deckmantel der freien Meinungsäußerung schützt.

Dieser Schritt ist auch durch die starke Lobbyarbeit von Big Tech motiviert , da TikTok in diesem Jahr mehr Einnahmen durch In-App-Käufe generierte als Facebook, Instagram, Twitter und Snapchat zusammen . Ein Verbot von TikTok würde den größten Konkurrenten des Silicon Valley sofort ausschalten.

Die Bedrohung durch TikTok ist nicht nur ein Hype

Die politische Bedrohung, die TikTok darstellt, ist nicht unbegründet. Noch keinem westlichen Unternehmen ist es gelungen, künstliche Intelligenz (KI) so geschickt mit sozialen Medien zu verbinden . Das Problem liegt nicht in der KI selbst, sondern darin, wie Bytedance, die chinesische Muttergesellschaft von TikTok, diese Technologie auf geniale Weise genutzt hat.

TikTok * ist eine Social-Media-App, die 2016 unter dem Namen Douyin in China entstand. Die App wurde vom chinesischen Technologieunternehmen ByteDance entwickelt, das zuvor eine ähnliche App namens Musical.ly auf den Markt gebracht hatte. Douyin wurde ursprünglich als Plattform für kurze Lippensynchronisationsvideos geschaffen, wurde jedoch schnell um ein breiteres Spektrum an Inhalten erweitert, beispielsweise Tanzherausforderungen, Comedy-Sketche und Lehrvideos. Im Jahr 2018 erwarb ByteDance Musical.ly und fusionierte es mit Douyin, um TikTok zu schaffen, das für den internationalen Markt eingeführt wurde. Seitdem hat sich TikTok mit über einer Milliarde aktiven Nutzern zu einer der beliebtesten Social-Media-Apps weltweit entwickelt. (*geschrieben von ChatGPT)

Die eigentliche Gefahr liegt jedoch in den Daten, die nun in Kombination mit einer cleveren Maschine zur Bedrohung werden können.

Der Weg ins Unbekannte ist ein Minenfeld

Um es klar zu sagen: Ich feiere die Durchbrüche in der KI, die wir derzeit erleben. Es ist der logische nächste Schritt auf unserer Reise in das, was Angela Merkel einst „Neuland“ (unbekanntes Gebiet) nannte. Wie die Druckmaschine, das Telefon oder die Dampfmaschine wird KI unser Leben und unsere Arbeit bereichern, einfacher und besser machen. Doch der Weg in diese Zukunft ist ein Minenfeld.

Apps und Anwendungen, die Sprache, Gesichter und sogar die Stimmen von Menschen so genau nachahmen können, dass sie kaum noch vom Original zu unterscheiden sind, sind plötzlich über Nacht möglich geworden. Dies eröffnet völlig neue, noch nie dagewesene Dimensionen von Identitätsdiebstahl und -betrug . Darüber hinaus könnte die Verbreitung von Fake News, Propaganda und Verschwörungstheorien durch KI-Anwendungen völlig neue Höhen erreichen.

Aber das ist noch nicht einmal der gruseligste Teil dessen, was vor uns liegt. Künstliche Intelligenz schafft in Kombination mit großen Datensätzen die vielleicht schrecklichste Waffe, die die Menschheit je gebaut hat: die Fähigkeit, Gedanken zu lesen.

KI als Gedankenpolizei

Die riesigen Datenmengen, die wir täglich produzieren, scheinen harmlos zu sein: Websites, die wir besuchen, Kundenkarten, die wir im Supermarkt verwenden, und sogar unsere Smartphones, die über zwei Dutzend Sensoren verfügen, die jede unserer Bewegungen überwachen und Daten mit unzähligen Unternehmen und Datenbrokern teilen .

Moderne Smartphones sind mit einer Vielzahl von Sensoren * ausgestattet, darunter Beschleunigungsmesser, Gyroskope, GPS, Kameras, Mikrofone und mehr. Diese Sensoren können genutzt werden, um eine große Menge vertraulicher Informationen über den Mobilfunkanbieter zu sammeln, wie z. B. seinen Standort, Tagesabläufe, körperliche Aktivitäten und sogar seine Gespräche. Beispielsweise können GPS- und Beschleunigungsmesserdaten verwendet werden, um die Bewegung des Benutzers zu verfolgen und seine Reisemuster zu bestimmen, während das Mikrofon zum Aufzeichnen von Gesprächen und Umgebungsgeräuschen verwendet werden kann. Ebenso können mit der Kamera Bilder und Videos des Benutzers und seiner Umgebung aufgenommen werden. Insgesamt stellt die Vielzahl an Sensoren in Smartphones ein erhebliches Risiko für die Privatsphäre der Nutzer dar, wenn sie nicht ordnungsgemäß gesichert sind. (*geschrieben von ChatGPT)

Bisher stellte dies kein Problem dar, da kein Mensch diese Datenberge jemals durchsuchen könnte. Für eine Maschine ist das jedoch ein Kinderspiel. Der KI bleibt nichts verborgen. Jede WhatsApp-Nachricht aus der Vergangenheit, die heute vielleicht unbedeutend erscheint, könnte uns eines Tages unseren Ruf, unseren Job oder unsere Ehe kosten . Selbst Dinge, die heute scheinbar harmlos sind, könnten in zehn oder zwanzig Jahren zum Problem werden, wie die anhaltende Diskussion um die Abbruchkultur zeigt.

Wer hat dich verraten? Ihre Daten haben es getan!

Für eine KI spielt es keine Rolle, warum Sie etwas tun. Mit den richtigen Daten weiß es immer, wo Sie waren, wofür Sie Geld ausgegeben haben, wie schnell Sie mit dem Auto gefahren sind, wie viel Alkohol oder andere Substanzen sich in Ihrem Blut befanden, welche Bar Sie besucht haben und mit wem Sie zusammen waren ein Hotelzimmer geteilt und wann.

In China misst der Social Score die Loyalität seiner Bürger gegenüber dem Staat. KI fungiert als „Charakter“-Kreditbewertung, die aus scheinbar harmlosen Alltagsdaten Rückschlüsse auf den Charakter einer Person zieht.

Soziales Scoring in China* ist ein System, das Bürger anhand ihres Sozialverhaltens bewertet, beispielsweise ihres finanziellen Status, ihrer Online-Aktivitäten und ihrer sozialen Beziehungen. Es wurde 2014 eingeführt und seitdem auf verschiedene Aspekte des Lebens der Bürger ausgeweitet. Das Punktesystem funktioniert, indem es Einzelpersonen auf der Grundlage ihrer Handlungen Punkte zuweist, wobei positive Handlungen wie ehrenamtliches Engagement oder pünktliche Rechnungszahlungen zu Punkten führen, während negative Handlungen wie Verkehrsverstöße zu Abzügen führen. Der Score kann sich auf die Fähigkeit einer Person auswirken, Zugang zu Dienstleistungen wie Krediten, Transport und Wohnraum zu erhalten. Das System ist aufgrund seiner potenziellen Datenschutzverletzungen und der Möglichkeit eines Machtmissbrauchs durch die Regierung äußerst umstritten. Kritiker argumentieren, dass es sich dabei um ein Instrument der sozialen Kontrolle handelt, das es der Regierung ermöglicht, abweichende Meinungen zu unterdrücken und diejenigen zu bestrafen, die sich nicht an ihre Politik halten. Darüber hinaus wirft das System Bedenken hinsichtlich des Datenschutzes und der Genauigkeit sowie des Potenzials für Diskriminierung und soziale Stigmatisierung aufgrund der eigenen Punktzahl auf. (*erstellt mit ChatGPT)

Und was ist mit uns im demokratischen Westen? Gefälschte Biografien werden das geringste Problem sein, auf das Politiker in Zukunft stoßen werden . Die meisten politischen Talente werden es aufgrund der digitalen Skelette, die sie in ihren Schränken (oder auf ihren Servern) haben, nicht einmal ins Amt schaffen.

Eine Wahl zwischen Pest und Cholera

Eine solche Technologie – ob durch eine kommunistische Staatsdoktrin oder durch unseren westlichen Überwachungskapitalismus motiviert – verändert die Dinge. Es verändert die Struktur unserer Gesellschaft. Die Kombination von KI mit den unglaublich detaillierten Datensätzen, die Unternehmen wie Google, Facebook oder TikTok bereits über uns besitzen (und niemals freiwillig löschen werden), könnte zur größten Bedrohung für unsere Demokratie werden. Wir müssen nicht einmal nach Moskau oder Peking schauen, um es zu sehen.