Wie könnte ein Algorithmus Trolle im Internet erkennen?

Ein Troll ist eine Person, die Online-Kommentarbereiche mit Beiträgen ködert, die darauf abzielen, Menschen aufzuhetzen oder eine Online-Community anderweitig zu stören. Diese äußerst negativen Benutzer machen das Internet düsterer und antagonistischer als die Quelle von Informationen und Unterhaltung, die es sein sollte.

Die Anonymität, die das Internet bietet, ermöglicht es Menschen (die sich persönlich höflich verhalten könnten), ihre Hemmungen abzulegen und sich auf unsoziales Verhalten einzulassen [Quelle: Academic Earth , Breeze ]. Eine Studie von Forschern der University of Manitoba, der University of Winnipeg und der University of British Columbia in Kanada führte Umfragen durch und fand starke Korrelationen zwischen Menschen, die Online-Trolling zu mögen schienen, und höheren Ergebnissen bei Persönlichkeitstests für Sadismus, Machiavellismus und Psychopathie, insbesondere Sadismus [ Quellen: Buckels, Goldbeck , Mooney ].

Forscher haben sogar herausgefunden, dass beleidigende Sprache im Kommentarbereich eines Artikels die Wahrnehmung des Inhalts der Leser verändern kann, sie zu einer polarisierteren Sichtweise des Themas verzerrt oder sie an der Qualität des Artikels zweifeln lässt [Quelle: Brossard , Mooney , Applebaum , Felder ]. Dies veranlasste Popular Science dazu, die Kommentierung der meisten seiner Online-Artikel im Jahr 2013 einzustellen [Quelle: LaBarre ].

Um die Auswirkungen von Trolling zu minimieren, stellen einige Websites Moderatoren ein, die Kommentar-Threads im Auge behalten und beleidigende Beiträge und Benutzer zensieren oder sperren, aber das kostet Zeit und Geld, die nicht alle Websites aufwenden können oder werden, und es gibt weitaus mehr Trolle als Moderatoren . Andere haben vorgeschlagen, die Anonymität zu entfernen, obwohl es Hinweise darauf gibt, dass dies dazu führen könnte, dass die meisten Benutzer niemals Kommentare posten [Quelle: Ingram ].

Aber Forscher in Stanford und Cornell haben ein weiteres potenzielles Instrument zur Bekämpfung von Trollen entwickelt – die Früherkennung.

Forscher in Stanford und Cornell (mit Finanzierung durch ein Stanford Graduate Fellowship und einen Google Faculty Research Award) führten eine Studie durch, um zu sehen, ob sie quantitative Maßnahmen verwenden könnten, um asoziale Benutzer zu erkennen. Sie erhielten Zugriff auf Benutzerkommentare, die von Disqus für die Websites Breitbart.com, CNN.com und IGN.com gehostet wurden und sich über 18 Monate von März 2012 bis August 2013 erstreckten. Die Daten bestanden aus rund 1,75 Millionen Benutzern (fast 49.000 von ihnen wurden gesperrt). 1,26 Millionen Threads und 39 Millionen Beiträge (fast 838.000 davon gelöscht und 1,35 Millionen gemeldet). Sie haben die gesperrten Benutzerdaten auf etwa 12.000 Benutzer eingegrenzt, die den Websites nach März 2012 beigetreten sind, mindestens fünf Beiträge hatten und für etwas anderes als das Spamming von URLs dauerhaft gesperrt wurden [Quelle: Cheng ].

Die Wissenschaftler erfassten Daten wie Post-Inhalte, Benutzeraktivitäten, Community-Antworten und Moderatoraktionen. Sie verglichen Nachrichten von Benutzern, die nie gesperrt wurden, mit Nachrichten von Benutzern, die dauerhaft gesperrt waren, und untersuchten die Veränderungen im Verhalten der gesperrten Benutzer im Laufe ihrer Zeit. Das Team stellte fest, dass die Posten zukünftiger gesperrter Trolle die folgenden Merkmale aufweisen:

Auf CNN.com neigte der durchschnittliche Benutzer dazu, während des Zeitraums von 18 Monaten etwa 22 Beiträge zu posten, wohingegen die zukünftigen gesperrten Benutzer etwa 264 Mal Beiträge posteten, bevor sie gesperrt wurden [Quellen: Cheng , Collins ]. Es war auch weniger wahrscheinlich, dass die Community den Troll im Laufe der Zeit tolerierte.

Anhand der quantifizierbaren Ergebnisse konnten die Forscher einen Algorithmus (eine Reihe von Schritten zur Lösung eines Problems oder zur Ausführung einer Aufgabe) entwickeln, der mit nur fünf Kommentaren mit 80-prozentiger Genauigkeit bestimmt, wer in Zukunft gesperrt werden würde. Bei 10 Posts waren die Ergebnisse zu 82 Prozent genau, aber die Leistung erreichte ihren Höhepunkt bei etwa 10 Posts. Frühere Benutzerbeiträge waren besser geeignet, um vorherzusagen, ob sie später gesperrt werden würden. Das Team erreichte in allen drei Online-Communities ein ähnliches Maß an Genauigkeit. Das Löschen nach dem Löschen durch Site-Moderatoren stellte sich als die informativste Aktivität heraus, die untersucht wurde, aber alle Daten insgesamt führten zu einer besseren Genauigkeit [Quelle: Cheng ].

Die Verwendung eines solchen Algorithmus zur Automatisierung des Troll-Verbots ist in naher Zukunft unwahrscheinlich. Es befindet sich in der akademischen Forschungsphase und ist derzeit nicht als nutzbares Softwarepaket verfügbar. Und bei einer Genauigkeit von 80 Prozent wäre jeder fünfte der identifizierten Benutzer unschuldig. Die Forscher fanden heraus, dass ein übermäßig hartes oder schnelles Sperren oder Zensieren von Benutzern tendenziell zu asozialem Verhalten führte und sogar das Schreiben von Postern verschlechterte, die ursprünglich eine höhere Textqualität hatten [Quelle: Cheng ]. Es gibt auch andere Arten von Trolling, einschließlich subtilerer Varianten, wie das Posten von ärgerlich naiven Fragen, die dieser Algorithmus nicht erkennen könnte.

Daher ist es immer noch wichtig, dass ein menschlicher Moderator die Situation überprüft, bevor jemand gesperrt wird. Aber ein Tool wie dieses könnte Moderatoren dabei helfen, ihre Zeit effizienter zu verbringen, indem es potenziell störende Benutzer im Voraus kennzeichnet. Die Ergebnisse können zur Entwicklung nachfolgender Studien und zukünftiger Trollerkennungs- und Moderationstools verwendet werden.

In der Zwischenzeit können wir andere Maßnahmen ausprobieren. Einige haben vorgeschlagen, Benutzerpseudonyme einzuführen, die über mehrere Websites gleich bleiben [Quelle: Schwartz ]. Seiten wie Slashdot und Reddit haben Peer-Moderationssysteme eingerichtet. Die Seiten xkcd und 4chan haben sogar mit einem Bot namens ROBOT9000 experimentiert, der Benutzer stummschaltet, wenn sie etwas sagen, das zuvor gesagt wurde, und nur Originalinhalte zulässt [Quelle: Munroe ].

Google hat Änderungen an YouTube vorgenommen , um zu versuchen, sein bekanntes Trolling-Problem in den Griff zu bekommen, einschließlich den Nutzern mehr Spielraum und Tools zu geben, um die Kommentarbereiche ihrer Videos zu moderieren, relevantere Kommentare und Kommentare von den Google+-Freunden der Nutzer nach oben zu verschieben und Hinzufügen öffentlicher oder privater Kommentaroptionen [Quellen: Dredge , YouTube ].

Wir als Online-Benutzer können auch Dinge tun, um das Trolling zu verringern, indem wir beispielsweise die Abstimmungs- und Berichtsfunktionen in Online-Communities nutzen. Die Forscher von Stanford und Cornell fanden auch heraus, dass andere Benutzer, die Trolle mit hartem Feedback ansprachen, das Verhalten verschlimmerten. Dies bekräftigt eine häufig wiederholte Internet-Maxime: "Füttere die Trolle nicht!"

Anmerkung des Autors: Wie könnte ein Algorithmus Trolle im Internet erkennen?

Trolling ist ein großes Problem, zumindest für Leute, die beim Surfen im Internet gerne bei Laune und niedrigem Blutdruck bleiben. Als ich zum ersten Mal beobachtete, wie eine Freundin online mit anderen Menschen in einer virtuellen Welt interagierte, wurde ihr innerhalb von Minuten eine abscheuliche, unprovozierte Drohung entgegengeschleudert. Das hat mich wahrscheinlich dazu veranlasst, Online-Gespräche zu meiden und mich jahrelang ans Lauern zu halten. Wie bei allem, was mit menschlicher Interaktion zu tun hat, gibt es keine einfache Lösung, und es wird immer Idioten geben, die sich ihren eigenen Spaß machen, indem sie versuchen, uns zu verderben. Aber ich war froh zu erfahren, dass an möglichen Lösungen geforscht wird. Jede Verringerung der Masse an Negativität im Internet wird ein Plus sein. Bis dahin verzichte ich jedoch möglicherweise auf Artikelkommentarabschnitte. Ich genieße meine geistige Gesundheit zu sehr.

Zum Thema passende Artikel