Etika = filsafat moral.

Itu mendefinisikan apa yang baik dan apa yang jahat.

Sejak lama, Google mengaku tidak jahat. Sampai beberapa tahun yang lalu, ketika mereka menghilangkan moto “jangan jahat” dari kode etik mereka.

Anda mungkin bertanya-tanya. Mengapa mereka mengubahnya? Apakah mereka terlalu idealis saat menulis moto?

Google sekarang menggunakan "Anda dapat menghasilkan uang tanpa melakukan kejahatan."

Mengapa frasa ini lebih baik daripada "jangan jahat"? Apakah "dapat menghasilkan uang" memberi mereka lebih banyak ruang untuk bermanuver? Bisa adalah opsional. Jangan adalah keharusan.

Dalam pembenaran Google , tidak melakukan kejahatan berarti tidak menampilkan “iklan pop-up yang mencolok” kepada pengguna. Tentu, itu bagus. Namun, menjalankan bisnis, dan bersikap etis, memerlukan lebih dari sekadar iklan yang jujur: pajak, lobi, perlakuan karyawan, rantai pasokan, pola desain, privasi data, keberlanjutan, keragaman, dll., dll.

Istilah kejahatan dan etika sangat terbuka untuk interpretasi dan memiliki arti yang berbeda bagi setiap individu.

Artikel ini bukan tentang Google tetapi tentang dunia teknologi secara umum. Seberapa moral kita sebagai sebuah industri? Apa peran desainer UX dalam bisnis etis? Dan siapa yang bertanggung jawab atas etika?

Jahat dengan desain

Saya baru-baru ini membaca buku Evil by Design oleh Chris Nodder .

Buku itu memberi saya rasa pahit. Pada titik tertentu, penulis berbicara tentang etika tetapi secara langsung terus memberikan saran tentang bagaimana menjadi jahat.

Buku itu secara virtual memberi tahu Anda: “Bom itu buruk! BTW, ini resep bom molotov!”

Menciptakan kesadaran akan pola gelap sangat berharga. Ini membantu kita untuk tidak jatuh ke dalam perangkap yang dirancang dengan cerdik.

Tapi, evil by design tidak ditulis dari sudut pandang pengguna. Ini bukan panduan kelangsungan hidup teknologi. Ini adalah instruksi untuk desainer. Ini memberikan perintah terang-terangan tentang cara menyesatkan pengguna, seperti:

Pastikan mata pengguna tertuju pada item yang ingin mereka lihat, dan jauh dari item yang tidak ingin mereka lihat. Pindahkan pengungkapan wajib apa pun jauh dari jalur yang paling tidak tahan. Gunakan teks dengan kontras rendah di area "mati" di layar (kanan atas, kiri bawah) untuk menyembunyikan informasi.

Hapus semua pembicaraan tentang aktivitas penyisihan dari poin transaksional yang sebenarnya. Alih-alih, buat lokasi terpisah ("pusat privasi") tempat Anda dapat mengaburkan aktivitas sebenarnya dengan pernyataan umum.
Jika Anda ketahuan melakukan hal-hal buruk dengan data pengguna, minta maaf sebesar-besarnya dan kemudian tambahkan lebih banyak kotak centang, penjelasan, dan opsi ke pusat privasi Anda, sehingga semakin sulit untuk mengetahui pengaturan yang benar.

Otomatiskan proses pengeluaran uang sedapat mungkin sehingga terlepas dari kesadaran orang-orang. Gunakan token untuk menghilangkan rasa menghabiskan uang sungguhan. Buat pernyataan yang jelas tentang nilai barang yang dilelang/dijual, tetapi abaikan biaya terkait.

Biarkan orang bodoh tetap bodoh. Dengan kata lain, jangan membuat orang menyadari apa yang tidak mereka ketahui. Dengan begitu mereka akan terus melebih-lebihkan kompetensi mereka.

Anda mengerti maksudnya. Ini hanya sekilas. Buku ini berisi 300 halaman saran desain yang sangat penting.

Buku itu akan terasa sangat berbeda jika tidak ditulis sebagai nasihat dari sudut pandang pengamatan. "Hadiah orang lebih awal" dapat diutarakan seperti "Hati-hati: Ada aplikasi yang menghargai orang lebih awal".

Doyan

Buku lain dengan tujuan (memanipulasi) yang serupa adalah Hooked , oleh Nir Eyal . Buku ini sering dimasukkan dalam daftar buku yang harus dibaca oleh setiap desainer.

Buku ini membagikan model psikologis yang membantu kita memahami bagaimana kita bisa membuat orang kecanduan produk digital kita.

Sebagian besar buku ini mencakup model Perilaku BJ Fogg. Jika Anda ingin pengguna mengambil tindakan (perlu terlihat "keren" di usia 40-an), perlu ada motivasi (ingin sepeda motor), kemampuan (uang), dan pemicu (perceraian).

Chris Kernaghan menjelaskan masalah ini dengan baik dalam artikelnya “ Haruskah kita membuat produk yang membuat ketagihan? Menjelajahi paradoks Hooked ”

Buku ini menyajikan kerangka kerja untuk menciptakan produk yang membentuk kebiasaan , yang secara teoritis berpotensi meningkatkan keterlibatan dan retensi pengguna. Namun kenyataannya hal ini juga dapat meningkatkan kecanduan dan ketergantungan, terutama bagi pengguna yang rentan. Membuat produk yang sengaja dirancang untuk membuat ketagihan menimbulkan pertanyaan besar.

Ya, mendesain untuk kecanduan bisa sangat berbahaya. Sedihnya, itu dapat mengubah orang pada intinya, karena kita mungkin sudah cukup sering melihat di lingkungan pribadi kita.

Meskipun ada beberapa kekhawatiran yang wajar tentang buku Nir Eyal , dia juga menulis buku penawarnya: Indistractable : How to Control Your Attention and Choose Your Life. Cukup adil.

Tidak unik untuk dunia teknologi

Saran untuk menyenggol orang jelas bukan sesuatu dari era teknologi saja. Praktik persuasif dan manipulatif telah menjadi bagian dari masyarakat selama berabad-abad. Ini pemasaran dasar. Atau mungkin, pemasaran tingkat lanjut.

Beberapa buku penting tentang perilaku dan pengaruh manusia masih populer hingga saat ini dan dapat diterapkan dengan mudah di dunia teknologi.

Carnegie

Buku Dale Carnegie tahun 1936 How to win friends and influence people masih ada dalam daftar bacaan banyak orang. Sepertinya setengah dari Medium sedang menulis tentang buku itu .

George J. Ziogas bertanya-tanya mengapa buku itu begitu populer dalam artikelnya “ Apa Itu “Bagaimana Mendapatkan Teman dan Mempengaruhi Orang,” dan Mengapa Orang Selalu Membicarakannya? ”

Buku Carnegie telah lama dipandang sebagai buku klasik dalam bidang persuasi dan taktik negosiasi. [...] penulis menyarankan bahwa mendapatkan apa yang Anda inginkan dan butuhkan adalah mungkin dengan membantu orang lain menyadari bahwa Anda memiliki tujuan yang sama.

[…] beberapa [taktik] terpenting adalah menghindari argumen yang tidak berguna (dan tidak dapat dimenangkan); menunjukkan rasa hormat terhadap pendapat orang lain; akui ketika Anda salah; temukan cara untuk membantu orang lain mengatakan "ya" untuk permintaan atau ide Anda; mencoba melihat sesuatu dari sudut pandang orang lain; dan mendramatisir ide-ide Anda. Dengan menggunakan teknik ini, Carnegie menawarkan cara non-konfrontatif untuk membujuk orang agar mengikuti tindakan yang Anda inginkan.

Jika sebuah buku yang ditulis hampir seabad yang lalu masih sepopuler ini, tentu saja menarik.

Cialdini

Buku persuasi ikonik lainnya adalah buku Robert Cialdini Influence: Science and Practice . Buku ini telah digunakan sebagai dasar dari banyak praktik desain manipulatif.

Situs web seperti booking.com, Amazon.com, dan Easyjet.com berteriak Cialdini. Mereka menggunakan konsep utama yang dieksplorasi Cialdini dalam buku tersebut.

Konsep-konsep itu adalah:

• Timbal Balik — Anda memberikan sesuatu yang kecil kepada pengguna Anda sehingga mereka merasa berkewajiban secara moral untuk memberikan sesuatu kembali (oleh karena itu, belilah produk Anda)
• Kelangkaan - Orang sangat menginginkan sesuatu yang tidak bisa didapatkan orang lain
• Otoritas - Orang-orang tanpa tujuan mengikuti saran dari para ahli yang kredibel: jadilah satu
• Konsistensi — Ketika orang memulai dengan sesuatu yang kecil, kemungkinan besar mereka pada akhirnya akan melanjutkan dengan sesuatu yang lebih besar yang selaras dengan komitmen awal yang kecil (kaki di depan pintu)
• Menyukai — Kami menyukai orang yang mirip, kami menyukai pujian, dan kami senang bekerja sama untuk mencapai tujuan bersama: pastikan Anda dan pengguna selaras secara emosional
• Bukti sosial - Jika massa memiliki pendapat, itu pasti benar

Kahneman

Sebuah karya monumental di bidang psikologi perilaku adalah buku karya pemenang Hadiah Nobel Ekonomi Daniel Kahneman. Bukunya Thinking, Fast and Slow menjelaskan dua sistem yang menggerakkan keputusan kita.

Kahneman tidak menyajikan retasan tentang cara memanipulasi kita. Sebaliknya, dia berusaha menjelaskan perilaku kita. Dia menunjukkan bahwa kita secara intrinsik malas dalam pengambilan keputusan dan karena itu membuat pilihan yang buruk, tidak rasional.

Beberapa konsepnya dikenal luas. Anda mungkin mengidentifikasi beberapa di antaranya dalam pemasaran dan teknologi kontemporer:

• Hanya bias paparan —Salah satu strategi untuk membangun kepercayaan dengan audiens Anda adalah membombardir mereka dengan merek Anda (Coca-Cola) dengan cara yang tidak mungkin diabaikan. Seiring waktu, ini dapat menciptakan rasa keakraban dan keandalan, berpotensi melampaui pentingnya kebenaran.
• Priming — Jika Anda terus-menerus menunjukkan banteng merah di sebelah pemain seluncur salju, atau Heineken di sebelah pemain golf, Anda belajar mengasosiasikan objek dan aktivitasnya. Lain kali Anda berada di lapangan golf, jika pernah, Anda secara tidak sadar menginginkan Heineken. Meskipun saya sangat menyarankan Anda untuk mengambil merek bir lain.
• Jangkar - Saat ini saya berada di Kamerun dan makan di restoran "mewah" kemarin. Saya harus membayar 14 euro untuk makanan saya. Saya terkejut. Jelas, ini tidak mahal untuk standar Swiss yang biasa saya gunakan, tetapi saya telah membayar kurang dari 5 euro untuk sebagian besar makanan saya minggu lalu, jadi saya melabuhkan harapan saya pada kenyataan itu, bukan pada standar Eropa saya.

Mark Looi menjelaskan efek dari semua bias ini dalam ringkasannya tentang buku Kahneman .

Pemikiran kita penuh dengan kekeliruan perilaku. Konsekuensinya, kita berisiko mengalami manipulasi yang biasanya tidak secara terbuka, tetapi dengan dorongan dan peningkatan kecil. Memang kita telah belajar bahwa dengan mengeksploitasi kelemahan ini dalam cara otak kita memproses informasi, platform media sosial, pemerintah, media pada umumnya, dan pemimpin populis, dapat melakukan suatu bentuk pengendalian pikiran kolektif.

Juga jelas bahwa bug dalam sistem pemikiran pribadi kita dieksploitasi lebih cepat daripada tambalan yang dapat diterapkan!

Siapa yang bertanggung jawab atas etika?

Buku Evil by Design diakhiri dengan pembenaran untuk menerapkan semua "peretasan" ini:

"Machiavellian" digunakan untuk menggambarkan seseorang yang bertujuan menipu dan memanipulasi orang lain untuk keuntungan pribadi. Namun Niccolò Machiavelli hanya menggunakan pengamatannya terhadap urusan kontemporer dan sejarah untuk menyarankan tindakan yang paling mungkin membantu negarawan abad ke-16 ("pangeran pedagang") berhasil. […] Dia tertarik untuk menetapkan fakta dan menyerahkan tindakan dan penilaian moral kepada orang lain.

Buku ini mengumpulkan pengamatan […] untuk menyarankan tindakan desain yang paling mungkin membantu pengusaha modern (pangeran pedagang Silicon Valley) berhasil.

Itu salah satu cara untuk melihatnya.

Penulis melanjutkan epilognya dengan mengilustrasikan bagaimana kita dapat membantu anak-anak dan penderita Alzheimer mengatasi ketakutan mereka dengan kebohongan.

Jadi, mungkin teknik persuasif yang menggunakan penipuan atau menarik motivasi bawah sadar dapat memberikan hasil yang positif atau bahkan etis. […]
Yang harus Anda putuskan adalah seberapa jauh untuk mendorong manfaat ke arah Anda daripada ke pengguna Anda.

Nodder mengakhiri bukunya dengan membuat sketsa kemungkinan yang kita miliki. Menjadi jahat (merancang hanya untuk keuntungan perusahaan sendiri), menjadi komersial (menguntungkan perusahaan dan Anda), menjadi motivasi (hanya menguntungkan pengguna), atau menjadi amal (menguntungkan masyarakat).

Modelnya bikin penasaran. Namun, penulis tidak menampik gagasan tentang rancangan jahat. Nyatanya, buku tersebut hanyalah panduan langkah demi langkah untuk mengeksploitasi pengguna.

Anda bertanya-tanya, bukankah seharusnya etika terintegrasi secara intrinsik ke dalam cara kita menciptakan produk dan melayani masyarakat?

Siapa yang bertanggung jawab atas etika?

Pertanyaan ini sangat mungkin terlintas di benak banyak orang. Mari jelajahi berbagai kemungkinan.

Baik untuk diketahui: etika adalah konsep luas yang menyentuh banyak hal. Bahkan hal-hal sepele seperti apakah mencetak sesuatu yang bersifat pribadi di printer perusahaan termasuk mencuri.

Pada artikel ini, kami hanya fokus pada etika manipulasi pengguna, meskipun banyak hal yang dapat diterapkan ke seluruh domain etika.

orang UX?

Saya tidak bermaksud ini dengan cara yang berlebihan, tetapi desainer mungkin memiliki kompetensi humanistik paling kuat di dunia teknologi. Mereka paling memahami dampak dari pilihan kewirausahaan dan produk pada pengguna akhir.

Ini akan membuat mereka cocok untuk bertanggung jawab atas etika, tetapi masalahnya adalah mereka tidak memiliki kekuatan pengambilan keputusan yang cukup. Di sebagian besar organisasi, UX adalah layanan, bukan driver. Keputusan UX akan selalu dikesampingkan oleh produk, yang memiliki lebih banyak kekuatan yang didorong oleh kinerja bisnis dan dengan demikian dapat lebih cepat condong ke arah "jahat".

Beberapa perusahaan memiliki seluruh tim etika. Tim-tim ini masih belum dianggap serius. Kami baru-baru ini melihat bahwa beberapa perusahaan secara signifikan mengurangi kapasitas tim ini. Atau hanya membongkar semuanya bersama-sama.

Kami, profesional UX, pasti memiliki tanggung jawab untuk meningkatkan kesadaran, tetapi kami tidak dapat dimintai pertanggungjawaban atas etika.

Produk, CEO, atau peran kepemimpinan lainnya?

Alangkah baiknya jika mereka yang bertanggung jawab atas seluruh operasi perusahaan akan bertanggung jawab. Itu akan sangat logis. Namun, Chiefs sering memiliki konflik kepentingan. Mereka bekerja untuk memenuhi pendapatan, pemodal ventura, atau wall street. Biasanya, keuntungan jangka pendek adalah yang paling penting bagi mereka. “ Memaksimalkan nilai pemegang saham.” Pengguna adalah orang yang membayar harga untuk manajemen yang digerakkan oleh uang ini, secara harfiah.

Sejarah penuh dengan contoh di mana C-suite membuat keputusan sadar untuk memprioritaskan keuntungan modal atas kesejahteraan dan keamanan pengguna.

Perdebatan AI terbaru menggambarkan hal ini lagi.

Penyair alat AI Google disebut "pembohong patologis", oleh stafnya sendiri. Itu memberi jawaban tentang scuba diving "yang kemungkinan besar akan mengakibatkan cedera serius atau kematian."

Namun demikian, kepemimpinan Google ingin melanjutkan peluncuran dengan segala cara.

Para staf yang bertanggung jawab atas keselamatan dan implikasi etis dari produk baru telah diberitahu untuk tidak menghalangi atau mencoba mematikan salah satu alat AI generatif yang sedang dikembangkan […] Para pemimpin Google memutuskan bahwa selama itu disebut produk
baru "eksperimen," publik mungkin memaafkan kekurangan mereka.
Gennai (pemimpin tata kelola AI Google) menolak evaluasi risiko yang diajukan oleh anggota timnya yang menyatakan Bard belum siap karena dapat menyebabkan bahaya.

— Bloomberg, Ketergesaan Google untuk Menang dalam AI Menyebabkan Penyimpangan Etis, Kata Karyawan

Jadi ya, tanggung jawab etika tidak boleh di tangan CEO dan sejenisnya. Mereka terlalu banyak didorong oleh persaingan dan insentif keuangan. Etika mengambil kursi belakang di dunia mereka.

Kepala Staf Etika?

Beberapa perusahaan telah memperkenalkan peran Chief Ethics Officer. Ini terdengar sangat menarik. Pertama kali saya membacanya, saya berpikir, saya menginginkan pekerjaan itu!

Namun, banyak perusahaan dengan peran seperti itu memiliki banyak darah di tangan mereka. Bagi mereka, itu adalah peran yang tidak masuk akal untuk optik.

Saya pribadi percaya bahwa peran ini seringkali hanya sebagai etalase. Tetapi jika tidak, setidaknya mereka tidak mengelola citra mereka dengan baik:

Keberadaan peran seperti kepala etika dan petugas penggunaan yang manusiawi dari Salesforce atau direktur inovasi yang bertanggung jawab Facebook dapat menciptakan kesan bahwa mereka telah menangani teknologi yang bertanggung jawab, atau persepsi bahwa tanggung jawab terhadap etika hanya dimiliki oleh mereka. Dan itu akan menjadi kesalahan.

— Sarah Drinkwater , Untuk membangun secara bertanggung jawab, teknologi perlu melakukan lebih dari sekadar mempekerjakan Chief Ethics Officer

Peran tersebut juga disebut Chief Ethics and Compliance Officer. Di sini, masalahnya menjadi terlihat. Etika adalah tentang moral. Kepatuhan adalah bidang hukum. Keduanya tidak cocok bersama. Sebagian besar CECO tersebut adalah mantan pengacara, ditunjuk di industri seperti tembakau, minyak, dan perjudian.

Saya percaya, dan berharap, bahwa peran Chief Ethics Officer memiliki tempat yang serius dalam struktur bisnis masa depan. Saya hanya berharap judulnya belum rusak.

Untuk saat ini, perannya belum cukup dewasa untuk bisa diandalkan. Mungkin peran tunggal bukanlah cara yang tepat.

Kepala petugas etika akan terlalu jauh dari organisasi produk dan desain, tempat sebagian besar keputusan etis dibuat; tugas mereka akan berkonflik dengan tugas CFO, yang sudah terlibat dalam etika keuangan; dan senioritas peran berarti orang ini akan dilihat sebagai wasit etis, oracle yang memberikan penilaian etis. […]

Chief Ethics Officer yang sukses akan memperlengkapi tim untuk membuat keputusan sendiri, bukan memberikan penilaian dari atas.

— Cennydd Bowles, Pemikiran tentang kepala petugas etika

Penyedia pembayaran?

Perusahaan seperti Mastercard, Visa, Paypal, dll, memiliki kekuatan yang cukup untuk menuntut desain yang etis. Mereka dengan cepat mencetak beberapa poin citra publik ketika skandal pornhub menjadi publik. Mereka berhenti memfasilitasi pembayaran online dan pada dasarnya memblokir situs web dari menjalankan bisnis yang menguntungkan.

Mereka menggunakan klausul yang cukup abstrak dalam kontrak yang memberi mereka ruang gerak yang cukup untuk menangguhkan pembayaran. Ini adalah sesuatu yang berpotensi mereka lakukan untuk perusahaan yang menerapkan rancangan jahat. Tapi mereka tidak akan melakukannya.

Mereka menggunakan Pornhub sebagai contoh moral. Platform tersebut menjadi korban debat publik dan sensitivitas umum industri dewasa.

Jika penyedia kartu kredit konsisten dan menangguhkan perusahaan yang menggunakan anak-anak dalam rantai pasokan mereka, mereka harus menangguhkan sejumlah besar perusahaan.

Itu akan menjadi lereng yang licin.

Penyedia pembayaran jelas memiliki beberapa persyaratan bisnis dasar. Mereka menetapkan standar, tetapi tidak terlalu tinggi. Secara teori, mereka memiliki kekuatan untuk menjadi kompas moral kita. Tetapi mereka tidak akan bersemangat untuk memiliki tanggung jawab ini. Itu mungkin juga bukan peran mereka.

Mungkin itu peran…

Pemerintah?

Mungkin pilihan terakhir kami. Beberapa mungkin tidak suka mendengarnya, tapi kita harus menggunakan kata-R.

Kita perlu Mengatur!

Perusahaan tidak akan bertanggung jawab atas kerugian yang mereka timbulkan. Sejarah menceritakan hal ini berkali-kali. Tentu saja, beberapa perusahaan memiliki niat yang baik, produk yang baik, dan pemimpin yang baik.

Tetapi banyak yang tidak, dan kami tidak dapat mentolerir ini.

Menyesatkan pengguna tidak diperbolehkan. Itu menyebabkan kerugian finansial, emosional, dan bahkan fisik. Kapitalisme pasar bebas tidak lebih penting daripada martabat manusia.

Uni Eropa setuju dengan ini. Telah menerapkan peraturan untuk mengikat perusahaan teknologi dan produk digital:

• e-Commerce Directive, 2000 — mewajibkan toko web untuk memperjelas siapa mereka dan menawarkan prosedur pengaduan.
• Petunjuk Praktik Komersial yang Tidak Adil, 2007 — memilah berbagai penipuan seperti iklan yang menyesatkan, biaya tersembunyi, dan taktik penjualan yang agresif.
• Petunjuk Hak Konsumen, 2011 — melawan lebih lanjut pola yang menipu seperti memeriksa opsi barang tambahan yang tidak Anda inginkan. Ini juga mencakup hak pembatalan dan pengembalian uang, permintaan harga yang transparan, dan kewajiban untuk menunjukkan informasi waktu pengiriman.
• Arahan Aksesibilitas Web, 2016 —menuntut situs web publik untuk mematuhi WCAG 2.1 dan persyaratan aksesibilitas tambahan.
• Peraturan Perlindungan Data Umum (GDPR), 2021 —mencegah perusahaan mengambil data yang tidak mereka perlukan secara membabi buta dan memberi kami hak untuk mendapatkan akses dan menghapus data yang telah dikumpulkan.
• Undang-Undang Layanan Digital, 2022 — menuntut platform untuk menjelaskan bagaimana Anda bisa melihat iklan Easyjet, 5 detik setelah Anda mengirim pesan kepada saudara Anda bahwa Anda ingin pergi berlibur.
• Undang-Undang Pasar Digital, 2022 — berbagai aturan yang harus melindungi hak toko web kecil untuk menghindari Amazon di dunia ini menyerap semua perusahaan kecil.

AS juga memiliki beberapa peraturan, Undang-Undang Komisi Perdagangan Federal (FTC) dan Aturan Penjualan Telemarketing (TSR ).

Namun, perbedaan budaya antar benua sangat besar. Di AS, industri atau negara bagian sering diharapkan mengatur sendiri. Di UE, peraturan berlaku di semua negara dan lebih rinci serta dapat ditegakkan.

UE memiliki hukuman atau sanksi yang tinggi untuk ketidakpatuhan, diterapkan dari atas ke bawah. AS sangat bergantung pada tindakan hukum untuk menegakkan undang-undang perlindungan konsumen.

Artikel ini bukan promosi UE, tapi menurut saya membuat sketsa peraturan demi konteks itu penting.

Mengapa semua omong kosong ini? Bukankah pengguna hanya bertanggung jawab?

“Ya Tuhan, berhentilah menjadi orang Eropa. Orang tidak perlu dilindungi. Jika mereka terlalu bodoh untuk jatuh ke dalam perangkap itu, itu masalah mereka sendiri, bukan masalah perusahaan.”

Siapa yang harus dilindungi, dan siapa yang tidak? Bolehkah mengelabui anak agar membeli sesuatu? Bagaimana dengan seseorang dengan penyakit Alzheimer? Dan orang yang mengalami gangguan kognitif? Apakah OK untuk menyesatkan mereka?

Di mana kita menarik garis?

Siapa yang bisa dianggap cukup pintar untuk bisa menangani desain yang menipu?

Beberapa produk digital dibuat oleh tim spesialis UX, psikolog, dan penipu lainnya yang merancang pola untuk mendorong orang melakukan hal yang tidak mereka inginkan.

Apakah ini pertarungan yang adil? Haruskah tanggung jawab melihat pola-pola gelap ini berada di tangan setiap individu secara acak?

Anda mungkin berpikir bahwa bahaya rokok, kasino, atau flat berbagi waktu sudah jelas bagi semua orang. Tapi sebagian besar populasi kita sudah tertipu oleh penipuan ini. Dunia teknologi jauh lebih halus dalam pendekatannya, dan, karenanya, bahkan lebih menyesatkan.

Apa yang akan terjadi di masa depan?

Sepertinya dunia selalu dalam keadaan kucing-dan-tikus.

Tom, si kucing Twitter, dan Jerry, si tikus Yurisdiksi.

Perusahaan menghasilkan sesuatu yang "pintar", dan pemerintah merespons beberapa saat kemudian.

Peraturan UE adalah permulaan, tetapi sulit dicerna oleh pembuat aplikasi mana pun. Saya mengerjakan produk digital dengan cukup banyak spesialis dan eksekutif. Sangat sedikit yang tahu tentang peraturan yang harus mereka patuhi.

Perusahaan hanya tidak menyadari peraturan apa yang harus mereka terapkan. Anda mungkin mulai berpikir bahwa Etika dan Kepatuhan pada akhirnya berjalan dengan baik. Memahami apa itu pola gelap, dan apa yang tidak, terlalu rumit bagi perusahaan.

Dunia aksesibilitas sedikit lebih jelas. Ini memiliki pedoman yang terdefinisi dengan baik ( WCAG ) yang dapat diterapkan oleh semua orang. Tetapi pedoman ini pun tidak cukup untuk memastikan produk dapat diakses sepenuhnya.

Mungkin kita membutuhkan semacam WCAG global untuk pola dan etika gelap. WDDG: Panduan desain web yang menipu. Kita dapat menentukan beberapa level dan mengalokasikan berbagai industri ke level yang sesuai. Bayangkan: sistem perpajakan, perbankan, dll., harus mematuhi peraturan yang paling ketat.

Bagaimana ini akan terlihat adalah sesuatu yang perlu ditelusuri di artikel lain.

Kami berfilsafat tentang masa depan.

Kita bisa memilih untuk menjadi Machiavellian. Filsuf Italia percaya bahwa pemimpin harus menggunakan segala cara yang diperlukan untuk mempertahankan kekuasaan dan kontrol, bahkan jika itu berarti kejam atau tidak bermoral.

Atau kita bisa mengikuti orang Belanda bijak yang hidup di masa yang sama dan merenungkan tantangan serupa: Erasmus. Dia percaya akan pentingnya moralitas. Dia menganjurkan para penguasa untuk berbudi luhur dan memerintah dengan kasih sayang dan kebijaksanaan.

Sebut saya Belanda, sebut saya naif, sebut saya idealis, tapi saya pasti tim Erasmus.

Tanggung jawab untuk etika tidak didefinisikan. Etika bahkan tidak didefinisikan.

Apa yang bisa kita lakukan hari ini, sebagai praktisi UX? Sebagai permulaan, kami dapat menantang tuntutan pemimpin produk kami. Apakah perusahaan Anda ingin Anda mendesain sesuatu untuk menyesatkan pengguna dengan sengaja? Cermati itu. Cari tahu bagaimana desain dapat membahayakan pengguna. Diskusikan itu. Bicara tentang kerusakan reputasi, tingkat churn, NPS, dan… pilihan moral. Pola gelap mungkin terdengar menarik untuk produk yang mengarah pada pertumbuhan "peretasan", tetapi pola tersebut dapat merusak nilai bisnis dan merek dalam jangka panjang.
Jadilah duta bagi pengguna, bukan budak desain pengambil pesanan buta.

Semoga berhasil memperdebatkan tuntutan produk korporat yang jahat. Pengguna mengandalkan Anda.

Dan Jika Anda tidak dapat memenangkan perdebatan… ada banyak perusahaan tempat Anda dapat bekerja yang benar-benar ingin menjalankan bisnis yang jujur.

Saya tahu bahwa beberapa orang yang membaca refleksi ini tidak setuju dengan intinya. Saya terbuka untuk debat yang terhormat, jadi silakan bagikan wawasan Anda di komentar.

Terima kasih telah mencapai akhir

Konten saya terbuka untuk semua orang, jadi tidak ada "khusus anggota"

Saya harap artikel ini bermakna bagi Anda

Harap pertimbangkan untuk mengikuti saya sebagai tanda terima kasih dan persetujuan