Die Plattform Tumblr hat beschlossen, keine Inhalte für Erwachsene mehr zuzulassen . Das Verbot tritt am 17. Dezember 2018 in Kraft. Um es durchzusetzen, scheint Tumblr einen Bot eingesetzt zu haben, der in seiner Arbeit einzigartig schlecht ist. Er kennzeichnet unschuldige Inhalte als pornografisch und veranlasst sowohl Benutzer als auch Tech-Experten, sich zu fragen, warum der Bot ist so schlecht in dem, was es tut. Ein Teil der Antwort ist, dass Moderation mit künstlicher Intelligenz eine äußerst schwierige Aufgabe ist.
Viele der Feinheiten bei der Entscheidung, welche Inhalte wir für akzeptabel oder anstößig halten, müssen in Stein gemeißelt werden, und unsere Erfolgsbilanz dabei ist nicht so groß. Tatsächlich haben wir überhaupt Probleme, etwas als pornografisch zu identifizieren. Der verstorbene Richter am Obersten Gerichtshof der USA, Potter Stewart, fasste das Gefühl in einem Urteil über einen Obszönitätsfall (Jacobellis v. Ohio) mit dem Satz " Ich weiß es, wenn ich es sehe " zusammen.
Dieses Gefühl hat sich in der Praxis als ebenso vage wie bedeutungsvoll erwiesen. Hier ein Beispiel: Ein Bild eines Mannes mit einer Erektion muss von Natur aus unanständig sein, oder? Aber was ist, wenn dies eine medizinische Illustration des Priapismus ist, einer oft schmerzhaften Erkrankung, die eine verlängerte Erektion verursacht und an einer medizinischen Stelle auftritt? Wenn eine Darstellung einer Vulva obszön ist, bedeutet dies, dass die Arbeit der Künstlerin Georgia O'Keeffe, deren Blumenbilder häufig als visuelle Metaphern für die weibliche Anatomie angesehen werden, in kunstgeschichtlichen Artikeln gekennzeichnet werden muss?
Soziale Netzwerke und Content-Plattformen sind ständig mit diesen Situationen konfrontiert. Zum Beispiel zensierte Facebook bei einem großen PR-Vorfall im Jahr 2016 das mit dem Pulitzer-Preis ausgezeichnete Foto eines nackten 9-jährigen Kim Phuc, der vor einem Napalm-Angriff während des Vietnam-Krieges entsetzt war. Das Foto wurde von Norwegens bekanntester Zeitung für einen relevanten Artikel über Kriegsführung veröffentlicht. Im Gegensatz dazu konnten Twitter-Nutzer diese Plattform erst Ende 2017 davon überzeugen, Neonazi-Konten zu schließen . Bei unterschiedlichen Philosophien und scheinbar willkürlichen, kontextfreien Regeln , die selbst menschliche Moderatoren verwirren können , ist es kein Wunder, dass Algorithmen Probleme haben, herauszufinden, was zu kennzeichnen ist.
Das System von Tumblr scheint nach einer Menge dessen zu suchen, was es in Bildern als exponierte Haut ansieht, oder nach Formen, von denen es glaubt, dass es Brustwarzen oder Genitalien sind. Leider überschreiten viele gutartige Nahaufnahmen von nicht erogenen Teilen des menschlichen Körpers die Schwelle dafür, wie viel nacktes Fleisch ein Bild zeigt, wie Dan Fallon für Digg schrieb . Bestimmte Objekte wie Bäume können auch phallisch aussehen. Und in einem scheinbar unerklärlichen Fall, schrieb Fallon, wurden auch die sehr unschuldigen Naturbilder eines Landschaftsfotografen als problematisch eingestuft. Dies ist jedoch für solche Algorithmen nicht ungewöhnlich. Andere Iterationen von Zensur-Bots haben Bilder von Dünen und Stränden markiert, da die Farbe des Sandes gemäß ihren Trainingsdatensätzen der Hautfarbe ähnlich war.
Dieser systematische Fehler ist auch sinnvoll, wenn man bedenkt, wie viele Hauttöne Menschen haben. Farben von hellbeige bis fast schwarz kommen alle auf natürliche Weise vor. Je nachdem, wie eine KI trainiert oder ein Sensor kalibriert ist, kann es sein, dass es überhaupt keine dunkleren Hautfarben gibt. Infolgedessen kann ein Algorithmus, der darauf trainiert ist, pornografische Bilder mit kaukasischen Darstellern zu erkennen und zu zensieren, möglicherweise nicht gleichermaßen explizite Bilder mit dunkelhäutigen Modellen kennzeichnen. Eine der einfachen Lösungen hierfür besteht darin, alles zu überkompensieren, zu kennzeichnen und die Fehlalarme als besser zu rechtfertigen, als nicht genügend Inhalte für Erwachsene abzufangen. Dies scheint Tumblr im Rahmen des Scrambles getan zu haben, um seine Inhalte zu bereinigen. Tumblr hat keine Anfragen nach Kommentaren zurückgegeben, ob es eine zusätzliche Ebene zu seiner Moderation gibt.
Letztlich bleibt es , ob ein übereifriger gesehen werden Zensur Algorithmus Benutzer , die von der Plattform nicht zu Post Inhalte für Erwachsene tun fahren, oder ob sie gewählt gelegt wird. Die sehr öffentliche und aggressive Überflagge von Tumblr zeigt jedoch einige der vielen Schwierigkeiten bei der Moderation von Online-Medien auf. Es werden also weiterhin Fehler gemacht, die häufig gemacht werden. Bis wir herausfinden können, wie wir diese Bedenken angehen können, müssen die Menschen alle wirklich erfolgreichen Moderationsbemühungen überwachen.
Das ist interessant
Sogar mürrischer Garfield wurde im ersten Durchgang von Tumblr verbannt, wie zahlreiche Artikel feststellten .
