La piattaforma Tumblr ha deciso di non consentire più i contenuti per adulti . Il divieto entrerà in vigore il 17 dicembre 2018 e, per imporlo, Tumblr sembra aver implementato un bot che è particolarmente pessimo nel suo lavoro, contrassegnando i contenuti innocenti come di natura pornografica e spingendo sia gli utenti che gli esperti di tecnologia a chiedersi perché il bot lo sia. così male in quello che fa. Parte della risposta è che la moderazione con l'intelligenza artificiale è un compito estremamente difficile.
Molte delle sottigliezze coinvolte nel decidere quale contenuto troviamo accettabile o discutibile devono essere scritte nella pietra, e il nostro track record nel farlo non è così eccezionale. In effetti, in primo luogo abbiamo problemi a identificare qualcosa come pornografico. Il defunto giudice della Corte Suprema degli Stati Uniti Potter Stewart ha riassunto il sentimento in una sentenza su un caso di oscenità (Jacobellis v. Ohio) con la frase " Lo so quando lo vedo ".
Quel sentimento si è dimostrato tanto vago nella pratica quanto nel significato. Ecco un esempio: l'immagine di un uomo con un'erezione deve essere di natura oscena, giusto? Ma cosa succede se questo è per un'illustrazione medica del priapismo, una condizione spesso dolorosa che causa un'erezione prolungata, e appare su un sito medico? Se una qualsiasi rappresentazione di una vulva è oscena, significa che il lavoro dell'artista Georgia O'Keeffe, i cui dipinti di fiori sono spesso considerati metafore visive dell'anatomia femminile, deve essere segnalato negli articoli di storia dell'arte?
I social network e le piattaforme di contenuto incontrano queste situazioni continuamente. Ad esempio, in un grave incidente di pubbliche relazioni nel 2016, Facebook ha censurato la foto vincitrice del Premio Pulitzer di un bambino nudo di 9 anni Kim Phuc che correva terrorizzato da un attacco al napalm durante la guerra del Vietnam; la foto è stata pubblicata dal più importante quotidiano norvegese per un articolo rilevante sulla guerra. Al contrario, gli utenti di Twitter non sono stati in grado di convincere quella piattaforma a chiudere gli account neonazisti fino alla fine del 2017 . Con filosofie diverse e regole apparentemente arbitrarie e libere dal contesto che possono confondere anche i moderatori umani , non c'è da meravigliarsi che gli algoritmi abbiano problemi a capire cosa segnalare.
Il sistema di Tumblr sembra cercare una quantità di ciò che vede come pelle esposta nelle immagini o forme che ritiene possano essere capezzoli o genitali. Sfortunatamente, molti primi piani benigni su parti non erogene del corpo umano stanno superando la soglia di quanta carne nuda mostra un'immagine, come ha notato Dan Fallon scrivendo per Digg . Alcuni oggetti come gli alberi potrebbero anche sembrare fallici. E in un caso apparentemente inspiegabile, ha scritto Fallon, anche le immagini della natura molto innocenti di un fotografo paesaggista sono state contrassegnate come problematiche. Ciò, tuttavia, non è insolito per tali algoritmi. Altre iterazioni di bot censori hanno segnalato immagini di dune e spiagge perché il colore della sabbia era simile al colore della pelle secondo i loro set di dati di addestramento.
Questo errore sistematico ha senso anche se si considera quante tonalità della pelle hanno gli esseri umani. I colori dal beige chiaro al quasi nero sono tutti naturali e, a seconda di come viene addestrata un'intelligenza artificiale o come viene calibrato un sensore, potrebbe non capire che esistono anche i colori della pelle più scuri. Di conseguenza, un algoritmo addestrato per individuare e censurare immagini pornografiche con artisti caucasici potrebbe non essere in grado di contrassegnare immagini altrettanto esplicite con modelli dalla pelle scura. Una delle soluzioni facili per questo è compensare eccessivamente, contrassegnare tutto e giustificare i falsi positivi come meglio che non catturare abbastanza contenuti per adulti, che è ciò che Tumblr sembra aver fatto nella corsa per disinfettare il suo contenuto. Tumblr non ha restituito richieste di commento sull'eventuale presenza di un livello aggiuntivo alla sua moderazione.
In definitiva, resta da vedere se un algoritmo di censura eccessivamente zelante guiderà gli utenti che non pubblicano anche contenuti per adulti dalla piattaforma o se verrà disattivato. Ma la pubblicità eccessiva e aggressiva di Tumblr evidenzia alcune delle molte difficoltà nel moderare i media online. Quindi gli errori continueranno a essere commessi e commessi frequentemente. Fino a quando non riusciremo a capire come affrontare queste preoccupazioni, gli esseri umani dovranno sovrintendere a qualsiasi sforzo di moderazione veramente riuscito.
Ora è interessante
Anche il burbero Garfield è stato bandito da Tumblr nella prima occhiata, come hanno notato numerosi articoli .
