Platforma Tumblr postanowiła nie zezwalać już na treści dla dorosłych . Zakaz wchodzi w życie 17 grudnia 2018 r. I wydaje się, że aby go wyegzekwować, Tumblr wdrożył wyjątkowo kiepskiego bota , oznaczając niewinne treści jako pornograficzne i skłaniając zarówno użytkowników, jak i znawców technologii do zastanowienia się, dlaczego bot jest tak źle, co robi. Częściową odpowiedzią jest to, że umiar za pomocą sztucznej inteligencji to niezwykle trudne zadanie.
Wiele subtelności związanych z podejmowaniem decyzji, jakie treści uznamy za dopuszczalne lub nieodpowiednie, musi zostać zapisanych w kamieniu, a nasze osiągnięcia w tym zakresie nie są tak wspaniałe. W rzeczywistości mamy problem z identyfikacją czegoś jako pornograficznego w pierwszej kolejności. Nieżyjący już sędzia Sądu Najwyższego Stanów Zjednoczonych Potter Stewart podsumował to zdanie w orzeczeniu dotyczącym sprawy o nieprzyzwoitość (Jacobellis przeciwko Ohio), używając zwrotu „ Wiem to, kiedy to widzę ”.
Ten sentyment okazał się w praktyce równie niejasny, jak w sensie. Oto przykład: Zdjęcie mężczyzny ze wzwodem musi mieć lubieżny charakter, prawda? Ale co, jeśli to jest dla medycznej ilustracji priapizmu, często bolesnego stanu, który powoduje przedłużoną erekcję i pojawia się na miejscu medycznym? Jeśli jakiekolwiek przedstawienie sromu jest obsceniczne, czy oznacza to, że prace artystki Georgii O'Keeffe, której obrazy przedstawiające kwiaty są często uważane za wizualne metafory kobiecej anatomii, muszą zostać oznaczone w artykułach z historii sztuki?
Sieci społecznościowe i platformy treści cały czas napotykają takie sytuacje. Na przykład w poważnym incydencie PR w 2016 r. Facebook ocenzurował nagrodzone Pulitzerem zdjęcie nagiego 9-letniego Kim Phuc uciekającego z przerażenia po napalmie podczas wojny w Wietnamie; zdjęcie zostało opublikowane przez najbardziej znaną norweską gazetę w odpowiednim artykule na temat działań wojennych. Z kolei użytkownicy Twittera nie byli w stanie przekonać tej platformy do zamknięcia kont neonazistowskich do końca 2017 roku . Przy różnych filozofiach i pozornie arbitralnych regułach bezkontekstowych, które mogą zmylić nawet ludzkich moderatorów , nic dziwnego, że algorytmy mają problem z ustaleniem, co należy oznaczyć.
Wygląda na to, że system Tumblra szuka części tego, co widzi jako odsłoniętą skórę na obrazach lub kształtów, które według niego mogą być sutkami lub genitaliami. Niestety, wiele łagodnych zbliżeń na nieerogennych częściach ludzkiego ciała przekracza próg ilości nagiego ciała na obrazie, jak zauważył Dan Fallon w piśmie dla Digga . Niektóre obiekty, takie jak drzewa, również mogą wyglądać fallicznie. Fallon napisał, że w jednym pozornie niewytłumaczalnym przypadku bardzo niewinne zdjęcia przyrody autorstwa fotografa krajobrazu zostały również oznaczone jako problematyczne. Nie jest to jednak niezwykłe w przypadku takich algorytmów. Inne wersje robotów cenzorujących oznaczały zdjęcia wydm i plaż, ponieważ kolor piasku był podobny do koloru skóry zgodnie z ich zestawami danych treningowych.
Ten systematyczny błąd ma również sens, gdy weźmie się pod uwagę liczbę odcieni skóry ludzi. Kolory od jasnego beżu do prawie czarnego występują naturalnie iw zależności od tego, jak wyszkolona jest sztuczna inteligencja lub jak skalibrowany jest czujnik, może nie rozumieć, że istnieją nawet ciemniejsze kolory skóry. W rezultacie algorytm wyszkolony do wykrywania i cenzurowania obrazów pornograficznych z udziałem kaukaskich wykonawców może nie być w stanie oznaczyć równie wyraźnych obrazów ciemnoskórymi modelami. Jednym z łatwych rozwiązań jest nadmierna rekompensata, oznaczanie wszystkiego i usprawiedliwianie fałszywych alarmów jako lepszych niż niewystarczająca ilość treści dla dorosłych, co wydaje się być tym, co Tumblr zrobił w zamieszaniu, aby oczyścić jego zawartość. Tumblr nie zwrócił próśb o komentarz, czy istnieje dodatkowa warstwa moderacji.
Ostatecznie okaże się, czy nadgorliwy algorytm cenzury przyciągnie użytkowników, którzy nie publikują również treści dla dorosłych z platformy, czy też zostanie wyłączony. Jednak bardzo publiczne i agresywne przesadzanie z Tumblrem uwydatnia niektóre z wielu trudności związanych z moderowaniem mediów internetowych. Tak więc błędy będą nadal popełniać i będą się często powtarzać. Dopóki nie dowiemy się, jak rozwiązać te problemy, ludzie będą musieli nadzorować każdy naprawdę udany wysiłek na rzecz moderacji.
Teraz to jest interesujące
Nawet zrzędliwy Garfield został wyrzucony z Tumblr w początkowej fazie, jak zauważono w wielu artykułach .
