Das Problem der KI-Deepfakes wird sich unaufhaltsam verschlimmern.
Die Welt wird von KI-generierten Deepfakes auseinandergerissen , und die jüngsten halbherzigen Versuche, sie zu stoppen, sind wirkungslos. US-Bundesbehörden haben am Donnerstag Deepfake-Robocalls verboten , wie beispielsweise jene, die sich im Vorwahlkampf in New Hampshire als Präsident Biden ausgaben . Gleichzeitig veröffentlichten OpenAI und Google diese Woche Wasserzeichen, um Bilder als KI-generiert zu kennzeichnen. Diese Maßnahmen reichen jedoch nicht aus, um KI-Deepfakes wirksam zu stoppen.
„Sie werden bleiben“, sagte Vijay Balasubramaniyan, CEO von Pindrop, das ElevenLabs als den Dienst identifizierte, der für die Erstellung des gefälschten Biden-Robocalls verwendet wurde. „Technologien zur Erkennung von Deepfakes müssen an der Quelle, am Übertragungspunkt und am Zielort eingesetzt werden. Das muss flächendeckend geschehen.“
Die Bemühungen zur Deepfake-Prävention sind nur oberflächlich.
Laut Balasubramaniyan ist das Verbot von Deepfake-Robocalls durch die Federal Communications Commission (FCC) ein Schritt in die richtige Richtung. Allerdings fehlen klare Angaben zur Umsetzung. Derzeit werden Deepfakes erst entdeckt, nachdem der Schaden bereits entstanden ist , und die Verantwortlichen werden selten bestraft. Das ist viel zu langsam und löst das Problem nicht.
OpenAI hat diese Woche Wasserzeichen in Dall-Es Bilder eingeführt, sowohl visuell als auch eingebettet in die Metadaten der Fotos. Gleichzeitig räumte das Unternehmen jedoch ein, dass dies durch einen Screenshot leicht umgangen werden kann . Das wirkte weniger wie eine Lösung, sondern eher wie ein „Na ja, immerhin haben wir es versucht!“.
Unterdessen wurde ein Finanzangestellter in Hongkong durch Deepfakes seines Chefs um 25 Millionen Dollar betrogen . Dieser schockierende Fall verdeutlichte, wie die Deepfake-Technologie die Grenzen zwischen Realität und Fiktion verwischt.
Das Deepfake-Problem wird sich nur noch verschlimmern.
Diese Lösungen reichen einfach nicht aus. Das Problem ist, dass die Technologie zur Deepfake-Erkennung noch neu ist und sich nicht so schnell durchsetzt wie generative KI. Plattformen wie Meta, X und sogar Ihr Mobilfunkanbieter müssen die Deepfake-Erkennung integrieren. Diese Unternehmen machen Schlagzeilen mit all ihren neuen KI-Funktionen, aber wie sieht es mit ihren KI-gestützten Erkennungsfunktionen aus?
Wenn man auf Facebook ein Deepfake-Video ansieht, sollte eine Warnung angezeigt werden. Wenn man einen Deepfake-Anruf erhält, sollte der Mobilfunkanbieter eine Software zur Erkennung einsetzen. Diese Unternehmen können nicht einfach die Hände in den Schoß legen, aber sie versuchen es ganz offensichtlich.
Die Technologie zur Erkennung von Deepfakes muss deutlich verbessert und viel weiter verbreitet werden. Laut Alon Yamin, CEO von Copyleaks, ist die Deepfake-Erkennung derzeit in keinem Bereich hundertprozentig genau. Sein Unternehmen verfügt zwar über eines der besten Tools zur Erkennung von KI-generiertem Text, doch die Erkennung von KI-Sprache und -Video stellt eine ganz andere Herausforderung dar. Die Deepfake-Erkennung hinkt der generativen KI hinterher und muss dringend aufholen.
Deepfakes sind die neue Desinformation , aber sie sind weitaus überzeugender. Es besteht Hoffnung, dass Technologie und Regulierungsbehörden aufholen, um dieses Problem anzugehen, doch Experten sind sich einig, dass Deepfakes zunächst noch schlimmer werden, bevor sie sich bessern.
