Ética = filosofia moral.

Ele define o que é bom e o que é mau.

Por muito tempo, o Google afirmou não ser mau. Até alguns anos atrás, quando retiraram o lema “não seja mau” de seu código de conduta.

Você pode se perguntar. Por que eles mudaram isso? Eles eram muito idealistas quando escreveram o lema?

O Google agora usa “Você pode ganhar dinheiro sem fazer o mal”.

Por que essa frase é melhor do que “não seja mau”? O “pode ganhar dinheiro” dá a eles um pouco mais de espaço de manobra? Pode é opcional. Não é imperativo.

Na justificativa do Google , não fazer maldade significa não exibir “anúncios pop-up chamativos” para o usuário. Claro, isso é bom. Mas administrar um negócio e ser ético envolve muito mais do que publicidade honesta: impostos, lobby, tratamento de funcionários, cadeia de suprimentos, padrões de design, privacidade de dados, sustentabilidade, diversidade, etc., etc.

Os termos mal e ética estão insanamente abertos à interpretação e têm significados diferentes para qualquer indivíduo.

Este artigo não é sobre o Google, mas sobre o mundo da tecnologia em geral. Quão morais somos como uma indústria? Qual é o papel dos designers de UX nos negócios éticos? E quem é responsável pela ética?

mal por design

Recentemente li o livro Evil by Design de Chris Nodder .

O livro me deu um gosto amargo. Em algum momento, o autor fala sobre ética, mas diretamente continua a dar sugestões sobre como ser mau.

O livro praticamente diz: “Bombas são ruins! BTW, aqui está uma receita para um coquetel Molotov!”

Criar consciência de padrões obscuros é valioso. Isso nos ajuda a não cair em armadilhas habilmente projetadas.

Mas, o mal por design não é escrito da perspectiva do usuário. Não é um guia de sobrevivência de tecnologia. É uma instrução para designers. Ele fornece comandos flagrantes sobre como enganar o usuário, como:

Certifique-se de que os olhos dos usuários sejam atraídos para os itens que você deseja que eles vejam e longe dos itens que você prefere que eles não vejam. Mova quaisquer divulgações obrigatórias para longe do caminho de menor resistência. Use texto de baixo contraste em áreas “mortas” da tela (canto superior direito, canto inferior esquerdo) para ocultar informações.

Remova qualquer conversa sobre atividades de exclusão dos pontos transacionais reais. Em vez disso, crie um local separado (um “centro de privacidade”) onde você pode ocultar as verdadeiras atividades com declarações gerais.
Se você for pego fazendo coisas ruins com os dados do usuário, peça desculpas profusamente e adicione mais caixas de seleção, explicações e opções ao seu centro de privacidade, para que seja ainda mais difícil adivinhar as configurações corretas.

Automatize o processo de gastar dinheiro sempre que possível, para que ele não seja percebido pelas pessoas. Use tokens para remover a sensação de gastar dinheiro real. Faça uma declaração clara sobre o valor do item que está sendo leiloado/vendido, mas não mencione os custos associados.

Mantenha as pessoas ignorantes ignorantes. Em outras palavras, não deixe as pessoas cientes do que elas não sabem. Dessa forma, eles continuarão superestimando sua competência.

Você entendeu. Este é apenas um vislumbre. O livro tem 300 páginas de conselhos de design imperativos.

O livro teria sido completamente diferente se não tivesse sido escrito como um conselho do ponto de vista observacional. “Recompensar as pessoas antecipadamente” poderia ter sido formulado como “Cuidado: existem aplicativos que recompensam as pessoas antecipadamente”.

fisgado

Outro livro com objetivo semelhante (manipular) é Hooked , de Nir Eyal . Este livro é frequentemente incluído em listas de livros que todo designer deveria ler.

O livro compartilha modelos psicológicos que nos ajudam a entender como podemos tornar as pessoas viciadas em nossos produtos digitais.

Uma boa parte do livro cobre o modelo Behavior de BJ Fogg. Se você quer que um usuário aja (precisa ser visto como “legal” nos meus 40 anos), precisa haver motivação (quer uma motocicleta), uma habilidade (dinheiro) e um gatilho (divórcio).

Chris Kernaghan explica bem a questão em seu artigo “ Devemos criar produtos viciantes? Explorando o paradoxo de Hooked ”

O livro apresenta uma estrutura para a criação de produtos formadores de hábito , que teoricamente tem o potencial de aumentar o engajamento e a retenção do usuário. Mas a realidade é que isso também pode promover vício e dependência, principalmente para usuários vulneráveis. A criação de produtos intencionalmente projetados para serem viciantes levanta grandes questões.

Sim, projetar para o vício pode ser muito perigoso. Infelizmente, isso pode mudar as pessoas em sua essência, como provavelmente já vimos o suficiente em nossos ambientes pessoais.

Embora haja algumas preocupações justas sobre o livro de Nir Eyal , ele também escreveu um livro antídoto: Indistractable : How to Control Your Attention and Choose Your Life. Justo.

Não é exclusivo do mundo da tecnologia

Conselhos sobre cutucar as pessoas obviamente não são algo apenas da era da tecnologia. Práticas persuasivas e manipulativas fazem parte da sociedade há tempos. É marketing básico. Ou talvez, marketing avançado.

Alguns dos livros essenciais sobre comportamento e influência humana ainda são populares hoje e podem ser facilmente aplicados no mundo da tecnologia.

carnegie

O livro de Dale Carnegie, de 1936, Como fazer amigos e influenciar pessoas, ainda está na lista de leitura de muitas pessoas. Parece que metade do Medium está escrevendo sobre o livro .

George J. Ziogas se perguntou por que o livro é tão popular em seu artigo “ O que é “Como fazer amigos e influenciar pessoas” e por que as pessoas falam sobre isso o tempo todo? ”

O livro de Carnegie há muito é visto como um clássico no campo da persuasão e das táticas de negociação. […] o autor sugere que conseguir o que você quer e precisa é possível ajudando outras pessoas a perceber que você compartilha os mesmos objetivos.

[…] algumas das [táticas] mais importantes são evitar argumentos inúteis (e invencíveis); mostrar respeito pelas opiniões dos outros; admita quando estiver errado; encontre maneiras de ajudar outras pessoas a dizerem “sim” aos seus pedidos ou ideias; tente ver as coisas do ponto de vista dos outros; e dramatize suas ideias. Usando essas técnicas, Carnegie oferece maneiras não conflituosas de persuadir as pessoas a seguirem os cursos de ação que você deseja.

Se um livro escrito há quase um século ainda é tão popular, certamente obriga.

Cialdini

Outro livro icônico sobre persuasão é o livro de Robert Cialdini, Influence: Science and Practice . Este livro tem sido usado como base para muitas práticas de design manipulativo.

Sites como booking.com, Amazon.com e Easyjet.com gritam Cialdini. Eles usam os principais conceitos que Cialdini explora no livro.

Esses conceitos são:

• Reciprocidade — Você dá algo pequeno ao seu usuário para que ele se sinta moralmente obrigado a retribuir (portanto, compre seu produto)
• Escassez - As pessoas querem muito algo que outros não podem obter
• Autoridade — As pessoas seguem sem rumo o conselho de especialistas confiáveis: torne-se um
• Consistência — Quando as pessoas começam com algo pequeno, é provável que continuem com algo maior que se alinhe com o pequeno compromisso original (pé na porta)
• Gostar — Gostamos de pessoas parecidas, gostamos de elogios e gostamos de cooperar para objetivos mútuos: certifique-se de que você e seu usuário estejam emocionalmente alinhados
• Prova social — Se a máfia tem uma opinião, ela deve estar certa

Kahneman

Uma obra monumental no campo da psicologia comportamental é o livro do ganhador do Prêmio Nobel de Economia Daniel Kahneman. Seu livro Thinking, Fast and Slow explica os dois sistemas que orientam nossas decisões.

Kahneman não apresenta truques de como nos manipular. Em vez disso, ele procurou explicar nosso comportamento. Ele mostra que somos intrinsecamente preguiçosos em nossa tomada de decisão e, portanto, fazemos escolhas ruins e irracionais.

Alguns de seus conceitos são amplamente conhecidos. Você pode identificar alguns deles no marketing e na tecnologia contemporâneos:

• Viés de mera exposição — Uma estratégia para estabelecer confiança com seu público é bombardeá-lo com sua marca (Coca-Cola) de uma forma impossível de ignorar. Com o tempo, isso pode criar uma sensação de familiaridade e confiabilidade, potencialmente superando a importância da verdade.
• Priming — Se você constantemente mostra um touro vermelho ao lado de um snowboarder, ou uma Heineken ao lado de um jogador de golfe, você aprende a associar o objeto e a atividade. Da próxima vez que você estiver em um campo de golfe, se for, você subconscientemente quer uma Heineken. Embora eu aconselhe vivamente a tomar qualquer outra marca de cerveja.
• Âncoras - Atualmente estou em Camarões e comi em um restaurante “chique” ontem. Eu tive que pagar 14 euros pela minha refeição. Fiquei chocado. Obviamente, isso não é caro para os padrões suíços aos quais estou acostumado, mas nas últimas semanas paguei menos de 5 euros pela maioria das minhas refeições, então ancorei minhas expectativas nessa realidade, não nos meus padrões europeus.

Mark Looi explica os efeitos de todos esses preconceitos em seu resumo do livro de Kahneman .

Nosso pensamento está repleto de falácias comportamentais. Consequentemente, corremos o risco de manipulação não geralmente do tipo aberto, mas por cutucadas e pequenos incrementos. Na verdade, aprendemos que, ao explorar essas fraquezas na forma como nossos cérebros processam informações, plataformas de mídia social, governos, mídia em geral e líderes populistas são capazes de exercer uma forma de controle coletivo da mente.

Também está claro que os bugs em nossos sistemas de pensamento pessoal estão sendo explorados mais rapidamente do que os patches podem ser aplicados!

Quem é responsável pela ética?

O livro Evil by Design termina com uma justificativa para aplicar todos esses “hacks”:

“Maquiavélico” é usado para descrever alguém que visa enganar e manipular os outros para obter vantagens pessoais. No entanto, Niccolò Machiavelli apenas usou suas observações de assuntos contemporâneos e históricos para sugerir os cursos de ação que provavelmente ajudariam os estadistas do século XVI (“príncipes mercadores”) a ter sucesso. [...] Ele estava interessado em estabelecer os fatos e deixar as ações e julgamentos morais para outra pessoa.

Este livro reúne observações [...] para sugerir os cursos de ação de design com maior probabilidade de ajudar os empreendedores modernos (os príncipes mercadores do Vale do Silício) a serem bem-sucedidos.

Essa é uma maneira de ver isso.

O autor continua seu epílogo ilustrando como podemos ajudar crianças e pessoas com Alzheimer a superar seus medos com mentiras.

Então, talvez as técnicas persuasivas que usam o engano ou apelam para motivações subconscientes possam ter resultados positivos ou mesmo éticos. […]
O que você deve decidir é até que ponto empurrar o benefício em sua direção, e não na de seus usuários.

Nodder termina o livro esboçando as possibilidades que temos. Ser mau (projetar apenas para o ganho da própria empresa), ser comercial (beneficiar a empresa e você), ser motivacional (somente beneficiar o usuário) ou ser caridoso (beneficiar a sociedade).

O modelo é intrigante. No entanto, o autor não descarta a noção de design maligno. Na verdade, o livro é apenas um guia passo a passo sobre como explorar o usuário.

Você se pergunta se a ética não deveria estar intrinsecamente integrada à forma como criamos produtos e servimos a sociedade?

Quem é responsável pela ética?

Esta pergunta é muito provável que cruze muitas de nossas mentes. Vamos explorar as várias possibilidades.

É bom saber: a ética é um conceito amplo que abrange muitas coisas. Mesmo coisas triviais, como imprimir algo privado em uma impressora da empresa, são roubadas.

Neste artigo, focamos apenas na ética da manipulação do usuário, embora muitas das coisas possam ser aplicadas a todo o domínio da ética.

Pessoas de UX?

Não quero dizer isso de forma pedante, mas os designers provavelmente têm as competências humanísticas mais poderosas do mundo da tecnologia. Eles entendem melhor o impacto das escolhas empreendedoras e de produtos no usuário final.

Isso os tornaria adequados para serem responsáveis ​​pela ética, mas o problema é que eles não têm poder de decisão suficiente. Na maioria das organizações, UX é um serviço, não um driver. As decisões de UX sempre serão anuladas pelo produto, que tem mais poder orientado ao desempenho dos negócios e pode, portanto, gravitar mais rapidamente em direção ao “mal”.

Algumas empresas têm equipes éticas inteiras. Essas equipes ainda não são levadas a sério. Vimos recentemente que algumas empresas estão reduzindo significativamente a capacidade dessas equipes. Ou apenas desmontá-los todos juntos.

Nós, profissionais de UX, definitivamente temos a responsabilidade de conscientizar, mas não podemos nos responsabilizar pela ética.

Produto, CEO ou qualquer outra função de liderança?

Seria bom se os responsáveis ​​por todas as operações de uma empresa fossem responsáveis. Seria muito lógico. No entanto, os Chiefs costumam ter um conflito de interesses. Eles trabalham para satisfazer as receitas, os capitalistas de risco ou Wall Street. Normalmente, o resultado final de curto prazo é o mais importante para eles. “ Maximizar o valor para o acionista.” O usuário é quem paga o preço dessa gestão movida a dinheiro, literalmente.

A história está repleta de exemplos em que o C-suite toma decisões conscientes para priorizar o ganho de capital sobre o bem-estar e a segurança dos usuários.

Os últimos debates sobre IA ilustram isso novamente.

A barra de ferramentas de IA do Google foi chamada de “mentirosa patológica” por sua própria equipe. Ele deu respostas sobre mergulho “que provavelmente resultaria em ferimentos graves ou morte”.

No entanto, a liderança do Google queria continuar com o lançamento a todo custo.

Os funcionários responsáveis ​​pela segurança e implicações éticas de novos produtos foram instruídos a não atrapalhar ou tentar matar nenhuma das ferramentas generativas de IA em desenvolvimento [...] Os líderes do Google decidiram que, desde que chamasse novos
produtos “experimentos”, o público pode perdoar suas deficiências.
Gennai (líder de governança de IA do Google) rejeitou uma avaliação de risco enviada por membros de sua equipe afirmando que Bard não estava pronto porque poderia causar danos.

— Bloomberg, a pressa do Google para vencer em IA levou a lapsos éticos, dizem funcionários

Então, sim, a responsabilidade pela ética não deveria estar nas mãos de CEOs e afins. Eles são simplesmente muito pressionados pela concorrência e incentivos financeiros. A ética fica em segundo plano em seu mundo.

O Diretor de Ética?

Algumas empresas introduziram a função de Chief Ethics Officer. Isso soa realmente atraente. A primeira vez que li sobre isso, pensei: quero esse emprego!

No entanto, muitas empresas com esse papel têm uma tonelada de sangue nas mãos. Para eles, é um papel absurdo para a ótica.

Pessoalmente, acredito que esse papel geralmente é apenas uma fachada. Mas se não for, pelo menos não administram bem sua imagem:

A existência de funções como diretor de ética e uso humanitário da Salesforce ou diretor de inovação responsável do Facebook pode criar a aparência de marcar uma caixa que eles abordaram como tecnologia responsável ou a percepção de que a responsabilidade pela ética pertence exclusivamente a eles. E isso seria um erro.

— Sarah Drinkwater , Para construir com responsabilidade, a tecnologia precisa fazer mais do que apenas contratar Diretores de Ética

A função também é chamada de Chief Ethics and Compliance Officer. Aqui, o problema torna-se visível. A ética trata da moral. Compliance é um campo jurídico. Esses dois não vão bem juntos. A maioria desses CEOs são ex-advogados, nomeados em setores como tabaco, petróleo e jogos de azar.

Acredito, e espero, que o papel do Diretor de Ética ocupe um lugar importante na estrutura empresarial de amanhã. Só espero que o título ainda não tenha sido estragado.

Por enquanto, o papel não está maduro o suficiente para poder contar com ele. Talvez um único papel não seja o caminho certo a seguir.

Um diretor de ética estaria muito distante das organizações de produto e design, onde a maioria das decisões éticas são tomadas; suas funções entrariam em conflito com as do CFO, que já está no gancho para a ética financeira; e a antiguidade da função significaria que essa pessoa seria vista como um árbitro ético, um oráculo que emite julgamentos éticos. […]

Um diretor de ética bem-sucedido equiparia as equipes para tomar suas próprias decisões, não para julgar de cima.

— Cennydd Bowles, Pensamentos sobre diretores de ética

Os provedores de pagamento?

Empresas como Mastercard, Visa, Paypal, etc, têm poder suficiente para exigir design ético. Eles rapidamente marcaram alguns pontos de imagem pública quando o escândalo do pornhub se tornou público. Eles pararam de facilitar os pagamentos on-line e basicamente impediram que o site administrasse um negócio lucrativo.

Eles usaram uma cláusula bastante abstrata no contrato que lhes deu espaço de manobra suficiente para suspender os pagamentos. Isso é algo que eles poderiam fazer para empresas que aplicam design maligno. Mas eles não vão.

Eles usaram o Pornhub como exemplo moral. A plataforma foi vítima do debate público e da sensibilidade geral da indústria adulta.

Se os provedores de cartão de crédito fossem consistentes e suspendessem as empresas que usam crianças em sua cadeia de suprimentos, eles deveriam suspender um grande número de empresas.

Isso seria uma ladeira escorregadia.

Os provedores de pagamento obviamente têm alguns requisitos básicos de negócios. Eles estabelecem um padrão, mas não muito alto. Eles teriam, em teoria, o poder de ser nossa bússola moral. Mas eles não estarão ansiosos para ter essa responsabilidade. Provavelmente também não é o papel deles.

Talvez seja esse o papel de…

Os governos?

Provavelmente nosso último recurso. Alguns podem não gostar de ouvir isso, mas devemos usar a palavra R.

Precisamos Regulamentar!

As empresas não vão assumir a responsabilidade pelos danos que estão causando. A história conta isso uma e outra vez. É claro que algumas empresas têm boas intenções, bons produtos e bons líderes.

Mas muitos não o fazem, e não podemos tolerar isso.

Enganar os usuários não é aceitável. Está causando danos financeiros, emocionais e até físicos. O capitalismo de livre mercado não é mais importante do que a dignidade humana.

A União Europeia concorda com isso. Ele vem estabelecendo regulamentos para colocar empresas de tecnologia e produtos digitais sob controle:

• Diretiva de comércio eletrônico, 2000 — obriga as lojas virtuais a serem claras sobre quem são e oferecer procedimentos de reclamação.
• Diretiva de Práticas Comerciais Desleais, 2007 — classifica vários golpes, como publicidade enganosa, taxas ocultas e táticas agressivas de vendas.
• Diretiva de Direitos do Consumidor, 2011 — luta ainda mais contra padrões enganosos, como pré-verificar opções de coisas adicionais que você não deseja. Também inclui direitos de cancelamento e reembolso, demandas transparentes de preços e obrigações de mostrar informações sobre prazos de entrega.
• Diretiva de Acessibilidade na Web, 2016 — exige que sites públicos estejam em conformidade com WCAG 2.1 e requisitos adicionais de acessibilidade.
• Regulamento Geral de Proteção de Dados (GDPR), 2021 — evita que as empresas coletem freneticamente dados de que não precisam e nos dá o direito de obter acesso e excluir os dados que foram coletados.
• A Lei de Serviços Digitais de 2022 - exige que as plataformas expliquem como é possível que você veja um anúncio da Easyjet, 5 segundos depois de enviar uma mensagem de texto para seu irmão dizendo que deseja sair de férias.
• A Lei dos Mercados Digitais de 2022 — várias regras que devem proteger os direitos das pequenas lojas virtuais para evitar que a Amazon deste mundo absorva todas as empresas menores.

Os EUA também têm algumas regulamentações, como a Federal Trade Commission Act (FTC) e a Telemarketing Sales Rule (TSR ).

No entanto, as diferenças culturais entre os continentes são enormes. Nos EUA, muitas vezes espera-se que indústrias ou estados se autorregulam. Na UE, os regulamentos são aplicáveis ​​em todos os países e são mais detalhados e aplicáveis.

A UE tem altas penalidades ou sanções por descumprimento, aplicadas de cima para baixo. Os EUA dependem fortemente de ações legais para fazer cumprir as leis de proteção ao consumidor.

Este artigo não é uma promoção da UE, mas acho que esboçar os regulamentos para contextualizar é essencial.

Por que todo esse absurdo? O usuário não é o único responsável?

“Meu Deus, pare de ser tão europeu. As pessoas não precisam ser tratadas com condescendência. Se eles são estúpidos demais para cair nessas armadilhas, o problema é deles, não da empresa.”

Quem deve ser protegido e quem não deve? Tudo bem enganar uma criança para que ela compre alguma coisa? E quanto a alguém com doença de Alzheimer? E uma pessoa com deficiência cognitiva? Tudo bem enganá-los?

onde nós desenhamos a linha?

Quem pode ser considerado inteligente o suficiente para lidar com o design enganoso?

Alguns produtos digitais são criados por equipes de especialistas em UX, psicólogos e outros vigaristas que projetam padrões para induzir as pessoas a fazer coisas que não desejam.

Esta é uma batalha justa? A responsabilidade de ver esses padrões sombrios deveria estar nas mãos de qualquer indivíduo aleatório?

Você pode pensar que o perigo de cigarros, cassinos ou apartamentos compartilhados é claro para todos. Mas grande parte da nossa população já cai nesses golpes. O mundo da tecnologia é muito mais sutil em sua abordagem e, portanto, ainda mais enganoso.

o que o futuro trará?

Parece que o mundo está sempre em um estado de gato e rato.

Tom, o gato do Twitter, e Jerry, o rato da Jurisdição.

As empresas inventam algo “inteligente” e os governos respondem um pouco depois.

Os regulamentos da UE são um começo, mas são difíceis de digerir para qualquer criador de aplicativo. Trabalhei em produtos digitais com um bom número de especialistas e executivos. Muito poucos sabiam sobre os regulamentos a que estavam sujeitos.

As empresas simplesmente não estão cientes de quais regulamentos devem aplicar. Você pode começar a pensar que Ética e Conformidade estão indo bem juntos no final. Entender o que é um padrão obscuro e o que não é é muito complicado para as empresas.

O mundo da acessibilidade é um pouco mais claro. Possui diretrizes bem definidas ( WCAG ) que todos podem simplesmente aplicar. Mas mesmo essas diretrizes não são suficientes para garantir produtos totalmente acessíveis.

Talvez precisemos de algum tipo de WCAG global para padrões sombrios e ética. WDDG: Diretrizes de design enganoso da Web. Poderíamos definir vários níveis e alocar as várias indústrias aos níveis apropriados. Imagine: os sistemas fiscais, bancários, etc., devem cumprir os regulamentos mais rigorosos.

Como isso ficaria é algo que vale a pena explorar em outro artigo.

Estamos filosofando sobre o futuro.

Podemos escolher ser maquiavélicos. O filósofo italiano acreditava que os líderes deveriam usar todos os meios necessários para manter o poder e o controle, mesmo que isso significasse ser cruel ou imoral.

Ou podemos seguir um sábio holandês que viveu no mesmo período e contemplou desafios semelhantes: Erasmo. Ele acreditava na importância da moralidade. Ele defendia que os governantes fossem virtuosos e governassem com compaixão e sabedoria.

Me chame de holandês, me chame de ingênuo, me chame de idealista, mas definitivamente sou do time Erasmus.

As responsabilidades pela ética não estão definidas. A ética nem está definida.

O que podemos fazer hoje, como praticantes de UX? Para começar, podemos desafiar as demandas de nossos líderes de produtos. Sua empresa quer que você crie algo para enganar o usuário deliberadamente? Examine-o. Descubra como o design pode colocar o usuário em risco. Discuta isso. Fale sobre danos à reputação, taxa de rotatividade, NPS e… escolhas morais. Padrões obscuros podem parecer atraentes para produtos que levam ao crescimento “hackeado”, mas podem prejudicar os negócios e o valor da marca a longo prazo.
Seja o embaixador do usuário, não um escravo cego do design que recebe pedidos.

Boa sorte com o debate sobre as demandas de produtos corporativos malignos. O usuário depende de você.

E se você não consegue vencer o debate... há muitas empresas para as quais você pode trabalhar e que realmente desejam administrar um negócio honesto.

Sei que algumas pessoas que lêem esta reflexão discordam de sua essência. Estou aberto a um debate respeitoso, portanto, sinta-se à vontade para compartilhar suas ideias nos comentários.

Obrigado por chegar ao fim

Meu conteúdo é aberto a todos, então não há "somente membros"

Espero que este artigo tenha sido significativo para você

Por favor, considere seguir-me como um sinal de gratidão e aprovação