Ethik = Moralphilosophie.

Es definiert, was gut und was böse ist.

Google behauptete lange Zeit, nicht böse zu sein. Bis sie vor ein paar Jahren das Motto „Don't be evil“ aus ihrem Verhaltenskodex strichen.

Sie fragen sich vielleicht. Warum haben sie es geändert? Waren sie einfach zu idealistisch, als sie das Motto schrieben?

Google verwendet jetzt „Man kann Geld verdienen, ohne Böses zu tun.“

Warum ist dieser Satz besser als „Sei nicht böse“? Gibt ihnen das „Geld verdienen“ etwas mehr Handlungsspielraum? Kann ist optional. Es ist zwingend erforderlich, dies nicht zu tun.

In der Rechtfertigung von Google bedeutet nichts Böses zu tun, dem Nutzer keine „auffälligen Pop-up-Anzeigen“ anzuzeigen. Klar, das ist schön. Aber um ein Unternehmen zu führen und ethisch zu handeln, geht es um viel mehr als ehrliche Werbung: Steuern, Lobbying, Behandlung von Mitarbeitern, Lieferkette, Designmuster, Datenschutz, Nachhaltigkeit, Vielfalt usw. usw.

Die Begriffe „Böse“ und „Ethik“ sind wahnsinnig offen für Interpretationen und haben für jeden Einzelnen eine unterschiedliche Bedeutung.

In diesem Artikel geht es nicht um Google, sondern um die Technologiewelt im Allgemeinen. Wie moralisch sind wir als Branche? Welche Rolle spielen UX-Designer im ethischen Geschäftsleben? Und wer ist für die Ethik verantwortlich?

Böse von Natur aus

Ich habe kürzlich das Buch Evil by Design von Chris Nodder gelesen .

Das Buch hat bei mir einen bitteren Geschmack hervorgerufen. Irgendwann spricht der Autor über Ethik, gibt aber direkt weiterhin Vorschläge, wie man böse sein kann.

Das Buch sagt einem quasi: „Bomben sind schlecht!“ Übrigens, hier ist ein Rezept für einen Molotowcocktail!“

Es ist wertvoll, ein Bewusstsein für dunkle Muster zu schaffen. Es hilft uns, nicht in clever konzipierte Fallen zu tappen.

Aber „Böse Absicht“ wird nicht aus der Perspektive des Benutzers geschrieben. Es ist kein technischer Überlebensratgeber. Es ist eine Anleitung für Designer. Es gibt offensichtliche Befehle, wie man den Benutzer irreführen kann, wie zum Beispiel:

Stellen Sie sicher, dass der Blick der Benutzer auf die Elemente gelenkt wird, die sie sehen sollen, und nicht auf die Elemente, die sie lieber nicht sehen möchten. Verschieben Sie verpflichtende Offenlegungen weit weg vom Weg des geringsten Widerstands. Verwenden Sie kontrastarmen Text in „toten“ Bereichen des Bildschirms (oben rechts, unten links), um Informationen auszublenden.

Entfernen Sie jegliche Rede von Opt-out-Aktivitäten aus tatsächlichen Transaktionspunkten. Erstellen Sie stattdessen einen separaten Ort (ein „Datenschutzcenter“), an dem Sie die wahren Aktivitäten mit allgemeinen Aussagen verschleiern können.
Wenn Sie beim Umgang mit Benutzerdaten erwischt werden, entschuldigen Sie sich ausgiebig und fügen Sie dann Ihrem Datenschutzcenter weitere Kontrollkästchen, Erklärungen und Optionen hinzu, damit es noch schwieriger wird, die richtigen Einstellungen zu ermitteln.

Automatisieren Sie den Prozess des Geldausgebens, wo immer möglich, damit es den Menschen nicht mehr bewusst ist. Verwenden Sie Token, um das Gefühl zu beseitigen, echtes Geld auszugeben. Machen Sie eine klare Aussage über den Wert des versteigerten/verkauften Gegenstands, vernachlässigen Sie jedoch die Erwähnung der damit verbundenen Kosten.

Halten Sie unwissende Menschen unwissend. Mit anderen Worten: Machen Sie den Leuten nicht bewusst, was sie nicht wissen. Auf diese Weise werden sie ihre Kompetenz weiterhin überschätzen.

Du verstehst es. Dies ist nur ein kleiner Einblick. Das Buch umfasst 300 Seiten mit wichtigen Designratschlägen.

Das Buch hätte sich ganz anders angefühlt, wenn es nicht als Ratgeber aus beobachtender Sicht geschrieben worden wäre. „Leute früh belohnen“ hätte man formulieren können wie „Achtung: Es gibt Apps, die Leute früh belohnen.“

Süchtig

Ein weiteres Buch mit einem ähnlichen (Manipulations-)Ziel ist Hooked von Nir Eyal . Dieses Buch ist oft in Listen von Büchern enthalten, die jeder Designer lesen sollte.

Das Buch stellt psychologische Modelle vor, die uns helfen zu verstehen, wie wir Menschen von unseren digitalen Produkten abhängig machen können.

Ein großer Teil des Buches befasst sich mit dem Verhaltensmodell von BJ Fogg. Wenn Sie möchten, dass ein Benutzer etwas unternimmt (muss in meinen 40ern als „cool“ angesehen werden), muss es eine Motivation (möchte ein Motorrad), eine Fähigkeit (Geld) und einen Auslöser (Scheidung) geben.

Chris Kernaghan erklärt das Problem gut in seinem Artikel „ Sollten wir süchtig machende Produkte entwickeln?“ Erforschung des Paradoxons von Hooked “

Das Buch stellt einen Rahmen für die Entwicklung gewohnheitsbildender Produkte vor , der theoretisch das Potenzial hat, das Engagement und die Bindung der Benutzer zu erhöhen. Die Realität ist jedoch, dass dies auch Sucht und Abhängigkeit fördern kann, insbesondere bei schutzbedürftigen Nutzern. Die Entwicklung von Produkten, die bewusst süchtig machen sollen, wirft große Fragen auf.

Ja, das Entwerfen für Sucht kann sehr gefährlich sein. Leider kann es Menschen in ihrem Innersten verändern, wie wir wahrscheinlich alle in unserem persönlichen Umfeld schon genug gesehen haben.

Obwohl es einige berechtigte Bedenken gegen Nir Eyals Buch gibt, hat er auch ein Gegenmittel geschrieben: „ Indistractable : How to Control Your Attention and Choose Your Life“. Fair genug.

Nicht nur in der Tech-Welt zu finden

Ratschläge zum Anstoßen von Menschen stammen offensichtlich nicht nur aus dem Technologiezeitalter. Überredende und manipulative Praktiken sind seit Jahrhunderten Teil der Gesellschaft. Es ist einfaches Marketing. Oder vielleicht fortgeschrittenes Marketing.

Einige der wesentlichen Bücher über menschliches Verhalten und Einfluss erfreuen sich auch heute noch großer Beliebtheit und lassen sich problemlos in der Technologiewelt anwenden.

Carnegie

Dale Carnegies Buch „Wie man Freunde gewinnt und Menschen beeinflusst“ aus dem Jahr 1936 steht immer noch auf der Leseliste vieler Menschen. Es scheint, als ob die Hälfte von Medium über das Buch schreibt .

George J. Ziogas fragte sich in seinem Artikel „ Was ist „Wie gewinnt man Freunde und beeinflusst Menschen?“ und warum reden die Leute die ganze Zeit darüber?, warum das Buch so beliebt ist. ”

Carnegies Buch gilt seit langem als Klassiker auf dem Gebiet der Überzeugungsarbeit und Verhandlungstaktik. […] Der Autor schlägt vor, dass man das bekommen kann, was man will und braucht, indem man anderen Menschen hilft, zu erkennen, dass man die gleichen Ziele verfolgt.

[…] Einige der wichtigsten [Taktiken] bestehen darin, sinnlose (und nicht zu gewinnende) Argumente zu vermeiden; Respekt vor der Meinung anderer zeigen; Gib zu, wenn du falsch liegst; Finden Sie Möglichkeiten, anderen Menschen dabei zu helfen, „Ja“ zu Ihren Wünschen oder Ideen zu sagen. Versuchen Sie, die Dinge aus der Sicht anderer zu sehen. und dramatisieren Sie Ihre Ideen. Mithilfe dieser Techniken bietet Carnegie konfliktfreie Möglichkeiten, Menschen davon zu überzeugen, den von Ihnen gewünschten Handlungsweisen zu folgen.

Wenn ein Buch, das vor fast einem Jahrhundert geschrieben wurde, immer noch so beliebt ist, ist es auf jeden Fall fesselnd.

Cialdini

Ein weiteres ikonisches Überzeugungsbuch ist Robert Cialdinis Buch Influence: Science and Practice . Dieses Buch wurde als Grundlage für viele manipulative Designpraktiken verwendet.

Websites wie booking.com, Amazon.com und Easyjet.com schreien nach Cialdini. Sie verwenden die Hauptkonzepte, die Cialdini in dem Buch untersucht.

Diese Konzepte sind:

• Gegenseitigkeit – Sie geben Ihrem Benutzer etwas Kleines, damit er sich moralisch verpflichtet fühlt, etwas zurückzugeben (und daher Ihr Produkt zu kaufen).
• Knappheit – Menschen wollen unbedingt etwas, was andere nicht bekommen können
• Autorität – Menschen folgen ziellos dem Rat glaubwürdiger Experten: Werden Sie eins
• Konsistenz – Wenn Menschen mit etwas Kleinem beginnen, ist die Wahrscheinlichkeit groß, dass sie irgendwann mit etwas Größerem weitermachen, das mit der ursprünglichen kleinen Verpflichtung übereinstimmt (einen Fuß in der Tür).
• Liken – Wir mögen Menschen, die ähnlich sind, wir mögen Komplimente und wir arbeiten gerne zusammen, um gemeinsame Ziele zu erreichen: Stellen Sie sicher, dass Sie und Ihr Benutzer emotional auf einer Linie sind
• Sozialer Beweis – Wenn die Mafia eine Meinung hat, muss sie richtig sein

Kahnemann

Ein monumentales Werk auf dem Gebiet der Verhaltenspsychologie ist das Buch des Wirtschaftsnobelpreisträgers Daniel Kahneman. Sein Buch „Thinking, Fast and Slow“ erklärt die beiden Systeme, die unsere Entscheidungen bestimmen.

Kahneman präsentiert keine Hacks, wie man uns manipulieren kann. Stattdessen versuchte er, unser Verhalten zu erklären. Er zeigt, dass wir in unserer Entscheidungsfindung von Natur aus faul sind und daher schlechte, irrationale Entscheidungen treffen.

Einige seiner Konzepte sind weithin bekannt. Einige davon könnten Sie im modernen Marketing und in der Technologie wiedererkennen:

• Bloßer Exposé-Bias – Eine Strategie, um Vertrauen bei Ihrem Publikum aufzubauen, besteht darin, es auf eine Art und Weise mit Ihrer Marke (Coca-Cola) zu bombardieren, die nicht zu ignorieren ist. Mit der Zeit kann dadurch ein Gefühl der Vertrautheit und Verlässlichkeit entstehen, das möglicherweise die Bedeutung der Wahrheit übertrifft.
• Vorbereitung – Wenn Sie ständig einen Red Bull neben einem Snowboarder oder einen Heineken neben einem Golfspieler zeigen, lernen Sie, das Objekt und die Aktivität zu assoziieren. Wenn Sie das nächste Mal auf einem Golfplatz sind, wollen Sie unbewusst einen Heineken. Allerdings empfehle ich Ihnen dringend, jede andere Biermarke zu nehmen.
• Anker – ich bin gerade in Kamerun und habe gestern in einem „noblen“ Restaurant gegessen. Ich musste 14 Euro für mein Essen bezahlen. Ich war schockiert. Natürlich ist das für die Schweizer Verhältnisse, die ich gewohnt bin, nicht teuer, aber ich habe in den letzten Wochen für die meisten meiner Mahlzeiten weniger als 5 Euro bezahlt, also habe ich meine Erwartungen an dieser Realität und nicht an meinen europäischen Maßstäben verankert.

Mark Looi erklärt die Auswirkungen all dieser Vorurteile in seiner Zusammenfassung von Kahnemans Buch .

Unser Denken ist voller Verhaltensirrtümer. Folglich besteht für uns das Risiko einer Manipulation, die normalerweise nicht offenkundig ist, sondern durch Anstöße und kleine Schritte erfolgt. Tatsächlich haben wir gelernt, dass Social-Media-Plattformen, Regierungen, Medien im Allgemeinen und populistische Führer durch die Ausnutzung dieser Schwächen in der Art und Weise, wie unser Gehirn Informationen verarbeitet, eine Form der kollektiven Gedankenkontrolle ausüben können.

Es ist auch klar, dass die Fehler in unseren persönlichen Denksystemen schneller ausgenutzt werden, als Patches angewendet werden können!

Wer ist für die Ethik verantwortlich?

Das Buch „Evil by Design“ endet mit einer Begründung für die Anwendung all dieser „Hacks“:

„Machiavellistisch“ wird verwendet, um jemanden zu beschreiben, der darauf abzielt, andere zum persönlichen Vorteil zu täuschen und zu manipulieren. Allerdings nutzte Niccolò Machiavelli seine Beobachtungen zeitgenössischer und historischer Ereignisse lediglich, um die Handlungsweisen vorzuschlagen, die den Staatsmännern („Handelsfürsten“) des 16. Jahrhunderts am ehesten zum Erfolg verhalfen. […] Es ging ihm darum, die Fakten darzulegen und die Handlungen und moralischen Urteile jemand anderem zu überlassen.

Dieses Buch sammelt Beobachtungen […], um die Vorgehensweisen im Design vorzuschlagen, die modernen Unternehmern (den Handelsfürsten des Silicon Valley) am ehesten zum Erfolg verhelfen.

Das ist eine Möglichkeit, es zu sehen.

Der Autor setzt seinen Epilog fort, indem er erläutert, wie wir Kindern und Menschen mit Alzheimer helfen können, ihre Ängste durch Lügen zu überwinden.

Daher können Überzeugungstechniken, die auf Täuschung zurückgreifen oder unbewusste Motivationen ansprechen, möglicherweise positive oder sogar ethische Ergebnisse haben. […]
Sie müssen entscheiden, wie weit Sie den Nutzen in Ihre Richtung und nicht in die Ihrer Benutzer schieben möchten.

Nodder beendet das Buch, indem er die Möglichkeiten skizziert, die wir haben. Bösartig sein (Design nur für den eigenen Vorteil des Unternehmens), kommerziell sein (Nutzung für das Unternehmen und Sie), motivierend sein (kommt nur dem Benutzer zugute) oder gemeinnützig sein (kommt der Gesellschaft zugute).

Das Modell ist faszinierend. Der Autor verwirft jedoch nicht den Gedanken eines bösen Designs. Tatsächlich ist das Buch nur eine Schritt-für-Schritt-Anleitung zur Ausbeutung des Benutzers.

Sie fragen sich, ob Ethik nicht unbedingt in die Art und Weise integriert sein sollte, wie wir Produkte herstellen und der Gesellschaft dienen?

Wer ist für die Ethik verantwortlich?

Diese Frage dürfte vielen von uns durch den Kopf gehen. Lassen Sie uns die verschiedenen Möglichkeiten erkunden.

Gut zu wissen: Ethik ist ein weit gefasster Begriff, der viele Dinge berührt. Sogar triviale Dinge wie die Frage, ob das Drucken von etwas Privatem auf einem Firmendrucker Diebstahl ist.

In diesem Artikel konzentrieren wir uns nur auf die Ethik der Benutzermanipulation, obwohl viele der Dinge auf den gesamten Ethikbereich angewendet werden könnten.

UX-Leute?

Ich meine das nicht pedantisch, aber Designer verfügen wahrscheinlich über die stärksten humanistischen Kompetenzen in der Technologiewelt. Sie verstehen am besten, welche Auswirkungen unternehmerische Entscheidungen und Produktentscheidungen auf den Endverbraucher haben.

Damit wären sie geeignet, für Ethik verantwortlich zu sein, das Problem ist jedoch, dass ihnen die Entscheidungsbefugnis fehlt. In den meisten Organisationen ist UX ein Service und kein Treiber. UX-Entscheidungen werden immer von dem Produkt überstimmt, das eine stärkere geschäftsleistungsorientierte Kraft hat und daher schneller zum „Bösen“ tendieren kann.

Einige Unternehmen verfügen über ganze Ethikteams. Diese Teams werden immer noch nicht ernst genommen. Wir haben kürzlich gesehen, dass einige Unternehmen die Kapazität dieser Teams erheblich reduzieren. Oder einfach alle zusammen demontieren.

Wir UX-Profis haben definitiv die Verantwortung, das Bewusstsein zu schärfen, aber wir können nicht für Ethik verantwortlich gemacht werden.

Produkt, CEO oder eine andere Führungsrolle?

Es wäre schön, wenn diejenigen verantwortlich wären, die für den gesamten Betrieb eines Unternehmens verantwortlich sind. Es wäre sehr logisch. Allerdings gibt es bei den Chiefs oft einen Interessenkonflikt. Sie arbeiten daran, Einnahmen, Risikokapitalgeber oder die Wall Street zufrieden zu stellen. Normalerweise ist ihnen das kurzfristige Endergebnis am wichtigsten. „ Maximierung des Shareholder Value.“ Der Benutzer ist im wahrsten Sinne des Wortes derjenige, der den Preis für dieses geldgesteuerte Management zahlt.

Die Geschichte ist voll von Beispielen, bei denen die Führungsspitze bewusst Entscheidungen trifft, bei denen der Kapitalgewinn Vorrang vor dem Wohlergehen und der Sicherheit der Benutzer hat.

Die jüngsten KI-Debatten verdeutlichen dies erneut.

Googles KI-Tool-Barde wurde von seinen eigenen Mitarbeitern als „pathologischer Lügner“ bezeichnet. Es gab Antworten zum Tauchen, „das wahrscheinlich zu schweren Verletzungen oder zum Tod führen würde“.

Dennoch wollte die Google-Führung den Start um jeden Preis vorantreiben.

Den Mitarbeitern, die für die Sicherheit und die ethischen Auswirkungen neuer Produkte verantwortlich sind, wurde gesagt, dass sie den generativen KI-Tools in der Entwicklung nicht in die Quere kommen oder versuchen sollten, sie zu zerstören „Experimente“, die Öffentlichkeit könnte ihre Mängel verzeihen.
Gennai (Googles KI-Governance-Leiterin) überstimmte eine von Mitgliedern ihres Teams vorgelegte Risikobewertung mit der Begründung, Bard sei nicht bereit, weil dies Schaden anrichten könnte.

— Bloomberg, Googles Siegeszug in der KI führte laut Mitarbeitern zu ethischen Verfehlungen

Also ja, die Verantwortung für Ethik sollte nicht in den Händen von CEOs und dergleichen liegen. Sie werden einfach zu sehr durch Konkurrenz und finanzielle Anreize gedrängt. Ethik tritt in ihrer Welt in den Hintergrund.

Der Chief Ethics Officer?

Einige Unternehmen haben die Rolle des Chief Ethics Officer eingeführt. Das klingt wirklich verlockend. Als ich das erste Mal davon las, dachte ich: Ich will diesen Job!

Allerdings klebt an vielen Unternehmen mit einer solchen Rolle eine Menge Blut an ihren Händen. Für sie ist es eine Unsinnsrolle für die Optik.

Ich persönlich glaube, dass diese Rolle oft nur Augenwischerei ist. Aber wenn nicht, haben sie ihr Image zumindest nicht gut im Griff:

Die Existenz von Rollen wie dem Chief Ethics and Humane Use Officer von Salesforce oder dem Director of Responsible Innovation bei Facebook kann den Anschein erwecken, dass sie ein Kästchen ankreuzen, dass sie sich mit verantwortungsvoller Technologie befasst haben, oder den Eindruck erwecken, dass die Verantwortung für Ethik allein bei ihnen liegt. Und das wäre ein Fehler.

– Sarah Drinkwater : Um verantwortungsvoll zu bauen, muss die Technologie mehr tun, als nur Chief Ethics Officers einzustellen

Die Rolle wird auch Chief Ethics and Compliance Officer genannt. Hier wird das Problem sichtbar. Bei Ethik geht es um Moral. Compliance ist ein Rechtsgebiet. Die beiden passen nicht gut zusammen. Die meisten dieser CECOs sind ehemalige Anwälte, die in Branchen wie Tabak, Öl und Glücksspiel tätig sind.

Ich glaube und hoffe, dass die Rolle des Chief Ethics Officer einen wichtigen Platz in der Geschäftsstruktur von morgen einnehmen wird. Ich hoffe nur, dass der Titel noch nicht verdorben ist.

Im Moment ist die Rolle noch nicht ausgereift genug, um sich darauf verlassen zu können. Vielleicht ist eine einzelne Rolle sowieso nicht der richtige Weg.

Ein Chief Ethics Officer wäre zu distanziert von Produkt- und Designorganisationen, in denen die meisten ethischen Entscheidungen getroffen werden. ihre Pflichten würden mit denen des CFO in Konflikt geraten, der ohnehin schon wegen der Finanzethik am Haken ist; und das Dienstalter dieser Rolle würde bedeuten, dass diese Person als ethischer Schiedsrichter angesehen würde, als Orakel, das ethische Urteile fällt. […]

Ein erfolgreicher Chief Ethics Officer würde Teams in die Lage versetzen, ihre eigenen Entscheidungen zu treffen, und kein Urteil von oben abgeben.

— Cennydd Bowles, Gedanken zu Chief Ethics Officers

Die Zahlungsanbieter?

Unternehmen wie Mastercard, Visa, Paypal usw. haben genug Macht, um ethisches Design zu fordern. Als der Pornhub-Skandal an die Öffentlichkeit kam, sammelten sie schnell einige öffentliche Imagepunkte. Sie haben aufgehört, Online-Zahlungen zu ermöglichen, und die Website praktisch daran gehindert, ein profitables Geschäft zu betreiben.

Sie verwendeten eine ziemlich abstrakte Klausel im Vertrag, die ihnen genügend Spielraum gab, um die Zahlungen auszusetzen. Dies ist etwas, was sie möglicherweise für Unternehmen tun könnten, die böses Design anwenden. Aber das werden sie nicht.

Sie nutzten Pornhub als moralisches Beispiel. Die Plattform wurde Opfer der öffentlichen Debatte und der allgemeinen Sensibilität der Erotikbranche.

Wenn Kreditkartenanbieter konsequent vorgehen und Unternehmen ausschließen würden, die Kinder in ihrer Lieferkette einsetzen, sollten sie eine große Anzahl von Unternehmen ausschließen.

Das wäre eine heikle Angelegenheit.

Zahlungsanbieter haben offensichtlich einige grundlegende Geschäftsanforderungen. Sie legen die Messlatte fest, aber keine zu hohe. Theoretisch hätten sie die Macht, unser moralischer Kompass zu sein. Aber sie werden nicht bereit sein, diese Verantwortung zu übernehmen. Es ist wahrscheinlich auch nicht ihre Rolle.

Vielleicht ist das die Rolle von ...

Die Regierungen?

Wahrscheinlich unser letzter Ausweg. Manche hören es vielleicht nicht gerne, aber wir müssen das R-Wort verwenden.

Wir müssen regulieren!

Unternehmen übernehmen keine Verantwortung für den Schaden, den sie verursachen. Die Geschichte erzählt dies immer wieder. Natürlich haben einige Unternehmen gute Absichten, gute Produkte und gute Führungskräfte.

Aber viele tun das nicht, und wir können das nicht tolerieren.

Es ist nicht in Ordnung, Benutzer in die Irre zu führen. Es verursacht finanziellen, emotionalen und sogar körperlichen Schaden. Der Kapitalismus des freien Marktes ist nicht wichtiger als die Menschenwürde.

Die Europäische Union stimmt dem zu. Sie hat Vorschriften erlassen, um Technologieunternehmen und digitale Produkte an die Leine zu nehmen:

• E-Commerce-Richtlinie aus dem Jahr 2000 – verpflichtet Webshops, klar zu machen, wer sie sind, und Beschwerdeverfahren anzubieten.
• Richtlinie über unlautere Geschäftspraktiken, 2007 – beseitigt verschiedene Betrügereien wie irreführende Werbung, versteckte Gebühren und aggressive Verkaufstaktiken.
• Richtlinie über Verbraucherrechte, 2011 – bekämpft weiter betrügerische Muster wie die Vorabprüfung von Optionen für zusätzliche Dinge, die Sie nicht möchten. Dazu gehören auch Widerrufs- und Rückerstattungsrechte, transparente Preisforderungen und die Verpflichtung zur Angabe von Lieferzeiten.
• Web Accessibility Directive, 2016 – verlangt, dass öffentliche Websites den WCAG 2.1 und zusätzlichen Barrierefreiheitsanforderungen entsprechen .
• Allgemeine Datenschutzverordnung (DSGVO), 2021 – verhindert, dass Unternehmen hektisch Daten sammeln, die sie nicht benötigen, und gibt uns das Recht, auf die gesammelten Daten zuzugreifen und diese zu löschen.
• Der Digital Services Act von 2022 verlangt von Plattformen, zu erklären, wie es möglich ist, dass Sie einen Easyjet-Beitrag sehen, 5 Sekunden nachdem Sie Ihrem Bruder eine SMS geschickt haben, dass Sie in den Urlaub fahren möchten.
• Der Digital Markets Act, 2022 – verschiedene Regeln, die die Rechte kleiner Webshops schützen sollen, um zu verhindern, dass die Amazonen dieser Welt alle kleineren Unternehmen absorbieren.

Auch in den USA gibt es einige Vorschriften, den Federal Trade Commission Act (FTC) und die Telemarketing Sales Rule (TSR ).

Allerdings sind die kulturellen Unterschiede zwischen den Kontinenten enorm. In den USA wird von Industrien oder Staaten oft erwartet, dass sie sich selbst regulieren. In der EU gelten die Vorschriften in allen Ländern und sind detaillierter und durchsetzbarer.

Die EU sieht bei Nichteinhaltung hohe Strafen oder Sanktionen vor, die von oben nach unten verhängt werden. Die USA sind in hohem Maße auf rechtliche Schritte angewiesen, um Verbraucherschutzgesetze durchzusetzen.

Dieser Artikel ist keine Werbung für die EU, aber ich halte es für wichtig, die Vorschriften aus Kontextgründen zu skizzieren.

Warum dieser ganze Unsinn? Ist nicht allein der Benutzer verantwortlich?

„Mein Gott, hör auf, so europäisch zu sein. Menschen müssen nicht bevormundet werden. Wenn sie zu dumm sind, in diese Fallen zu tappen, ist das ihr eigenes Problem, nicht das des Unternehmens.“

Wer sollte geschützt werden und wer nicht? Darf man ein Kind dazu verleiten, etwas zu kaufen? Was ist mit jemandem mit Alzheimer-Krankheit? Und ein kognitiv beeinträchtigter Mensch? Ist es in Ordnung, sie in die Irre zu führen?

Wo ziehen wir die Grenze?

Wer kann als schlau genug angesehen werden, um mit irreführendem Design umzugehen?

Einige digitale Produkte werden von Teams aus UX-Spezialisten, Psychologen und anderen Betrügern erstellt, die Muster entwerfen, um Menschen dazu zu bringen, Dinge zu tun, die sie nicht wollen.

Ist das ein fairer Kampf? Sollte die Verantwortung dafür, diese dunklen Muster zu erkennen, in den Händen einer beliebigen Person liegen?

Man könnte meinen, dass die Gefahr von Zigaretten, Casinos oder Time-Sharing-Wohnungen jedem klar ist. Aber ein großer Teil unserer Bevölkerung fällt bereits auf diese Betrügereien herein. Die Tech-Welt ist in ihrer Herangehensweise viel subtiler und daher noch irreführender.

Was wird die Zukunft bringen?

Es scheint, als wäre die Welt immer in einem Katz-und-Maus-Zustand.

Tom, die Twitter-Katze, und Jerry, die Jurisdiction-Maus.

Unternehmen lassen sich etwas „Cleveres“ einfallen, und die Regierungen reagieren eine Weile später.

Die EU-Vorschriften sind ein Anfang, aber für jeden App-Ersteller schwer zu verdauen. Ich habe mit einer ganzen Reihe von Fach- und Führungskräften an digitalen Produkten gearbeitet. Nur sehr wenige wussten über die Vorschriften Bescheid, denen sie unterworfen waren.

Den Unternehmen ist einfach nicht bewusst, welche Vorschriften sie anwenden sollen. Vielleicht denken Sie, dass Ethik und Compliance am Ende gut zusammenpassen. Für Unternehmen ist es zu kompliziert zu verstehen, was ein Dark Pattern ist und was nicht.

Die Welt der Barrierefreiheit ist etwas klarer. Es gibt klar definierte Richtlinien ( WCAG ), die jeder einfach anwenden kann. Aber selbst diese Richtlinien reichen nicht aus, um vollständig barrierefreie Produkte zu gewährleisten.

Vielleicht brauchen wir eine Art globale WCAG für dunkle Muster und Ethik. WDDG: Richtlinien für irreführendes Web-Design. Wir könnten mehrere Ebenen definieren und die verschiedenen Branchen den entsprechenden Ebenen zuordnen. Stellen Sie sich vor: Steuersysteme, Banken usw. müssen strengsten Vorschriften entsprechen.

Wie das aussehen würde, ist etwas, das es wert ist, in einem anderen Artikel untersucht zu werden.

Wir philosophieren über die Zukunft.

Wir können uns dafür entscheiden, machiavellistisch zu sein. Der italienische Philosoph glaubte, dass Führer alle notwendigen Mittel nutzen sollten, um Macht und Kontrolle aufrechtzuerhalten, auch wenn dies bedeutete, grausam oder unmoralisch zu sein.

Oder wir können einem weisen Niederländer folgen, der zur gleichen Zeit lebte und mit ähnlichen Herausforderungen beschäftigt war: Erasmus. Er glaubte an die Bedeutung der Moral. Er plädierte dafür, dass Herrscher tugendhaft seien und mit Mitgefühl und Weisheit regieren sollten.

Nennen Sie mich Holländer, nennen Sie mich naiv, nennen Sie mich idealistisch, aber ich bin definitiv Team-Erasmus.

Die Verantwortlichkeiten für Ethik sind nicht definiert. Ethik ist nicht einmal definiert.

Was können wir als UX-Praktiker heute tun? Zunächst einmal können wir die Anforderungen unserer Produktführer in Frage stellen. Möchte Ihr Unternehmen, dass Sie etwas entwerfen, das den Benutzer absichtlich in die Irre führt? Untersuchen Sie es. Finden Sie heraus, wie das Design den Benutzer gefährden könnte. Besprechen Sie es. Sprechen Sie über Reputationsschäden, Abwanderungsrate, NPS und… moralische Entscheidungen. Dunkle Muster mögen für Produkte verlockend klingen, was zu „Hack“-Wachstum führt, aber sie können auf lange Sicht dem Geschäft und dem Markenwert schaden.
Seien Sie der Botschafter des Benutzers und kein blinder Designsklave, der Befehle entgegennimmt.

Viel Glück bei der Debatte über die bösen Produktanforderungen der Unternehmen. Der Benutzer verlässt sich auf Sie.

Und wenn Sie die Debatte nicht gewinnen können, gibt es viele Unternehmen, für die Sie arbeiten können und die tatsächlich ein ehrliches Unternehmen führen wollen.

Ich weiß, dass einige Leute, die diese Reflexion lesen, mit ihrem Kern nicht einverstanden sind. Ich bin offen für eine respektvolle Debatte. Teilen Sie Ihre Erkenntnisse daher gerne in den Kommentaren mit.

Vielen Dank, dass Sie das Ende erreicht haben

Meine Inhalte stehen allen offen, also nicht „nur für Mitglieder“

Ich hoffe, dieser Artikel war für Sie von Bedeutung

Bitte betrachten Sie es als Zeichen der Dankbarkeit und Zustimmung, mir zu folgen