Systemische Voreingenommenheit: Algorithmen und Gesellschaft befasst sich mit Fragen der rechnerischen Voreingenommenheit im Kontext kultureller Werke, Metaphern von Magie und Mathematik in der Tech-Kultur und Arbeitsplatzpsychometrie.

Die Ausgabe von Rechenmodellen ist nicht nur direkt mit ihren Eingaben verbunden, sondern auch mit den Beziehungen und Annahmen, die in ihren Modellentwurf eingebettet sind, von denen viele eher sozialer und kultureller als physikalischer und mathematischer Natur sind. Wie gelangen menschliche Vorurteile in diese Datenmodelle, und welche neuen Strategien wurden vorgeschlagen, um Vorurteile in Computerprodukten zu überwinden?

Das Problem der systemischen Voreingenommenheit ist vielleicht das bekannteste Forschungsgebiet in Studien zu den Auswirkungen von Algorithmusdesign und -implementierung auf die Gesellschaft. Die Kapitel in diesem Band zeichnen neue Untersuchungsrichtungen zu Vorurteilen auf und erweitern dieses Thema auf kulturelle Werke, Technologiekultur und Arbeitsplatzpsychometrie. Wissenschaftler und Studenten mit unterschiedlichem Hintergrund sowie politische Entscheidungsträger, Journalisten und die allgemeine Leserschaft finden einen multidisziplinären Ansatz zur Untersuchung algorithmischer Voreingenommenheit, der Forschung aus Kommunikation, Kunst und neuen Medien umfasst.

Kapitel 1 – „From ‚Diversity‘ to ‚Discoverability‘: Platform Economy, Algorithms, and the Transformations of Cultural Policies“ von Christophe Magis – untersucht semantische Verschiebungen vom Leitbegriff der kulturellen Vielfalt zur Auffindbarkeit im Kontext neuer Streaming-Plattformen und ihrer Empfehlungsalgorithmen. Diese Bedeutungsverschiebungen haben wichtige Konsequenzen für die digitale Kultur, da sie sich auf politischer, wirtschaftlicher und politischer Ebene auswirken.

Kapitel 2 – „Moderne Mathematik: Werte und Vorurteile in der Tech-Kultur“ von Jakob Svensson – untersucht Mythologien der Tech-Kultur, die als Mathematik bezeichnet werden: eine moderne Verzauberung mit der Fähigkeit von Software, den Fortschritt in der Welt zu manipulieren, zu kontrollieren und voranzutreiben. In Anlehnung an den Philosophen und Theologen Bruno aus dem 16. Jahrhundert versprechen diese magischen Metaphern, das Unmögliche möglich zu machen und riskieren das Auftauchen des Bösen in der realen Welt.

Kapitel 3 – „Reading the Cards: Critical Chatbots, Tarot and Drawing as an Epistemological Repositioning to Defend Against the Neoliberal Structures of Art Education“ von Eleanor Dare und Dylan Yamada-Rice – bringt den zunehmenden und problematischen Einsatz von automatisierter Psychometrie in höheren Schulen ans Licht Bildung einschließlich Persönlichkeits- und Verhaltensmetriken, Gesichtserkennung, Tonanalyse und Blickverfolgung. Diese Werkzeuge werden in der NeoLiberal University zunehmend bevorzugt, und die Autoren fordern Widerstand durch spezifische kreative Methoden.

Dieser Band ist im Kurzformat Focus von Routledge. Als solche kann die Serie flink sein und auf schnell aufkommende Probleme und Debatten reagieren.

In Verbindung stehende Artikel

Digitaler Totalitarismus: Algorithmen und Gesellschaft

Deep Fakes: Algorithmen und Gesellschaft

Demokratische Grenzen: Algorithmen und Gesellschaft

Datenschutz: Algorithmen und Gesellschaft