Pada AI Antropomorfisme
oleh Ben Shneiderman (University of Maryland, AS) dan Michael Muller (IBM Research, AS)
Perkenalan
Antropomorfisme adalah tindakan memproyeksikan kualitas atau perilaku mirip manusia ke entitas non-manusia, seperti ketika orang memberikan hewan, benda, atau fenomena alam karakteristik atau emosi mirip manusia. Ada perdebatan lama tentang penggunaan desain antropomorfik untuk sistem berbasis AI, merentang kembali (setidaknya) ke panel awal di ACM Computer-Human Interaction Conference berjudul, "Anthropomorphism: from ELIZA to Terminator 2" (Don et al., 1992).
Masalah desain seputar antropomorfisme meliputi apakah:
- karakter seperti agen manusia harus ditampilkan di layar,
- komputer harus menampilkan dirinya sebagai aktor sosial mirip manusia dengan antarmuka pengguna teks atau suara,
- prompt komputer atau respon harus menggunakan kata ganti orang pertama, misalnya, "Saya akan senang untuk membantu Anda", dan
- pengguna lebih memilih alternatif, desain manipulasi langsung yang memungkinkan mereka mengklik, menyeret, memperbesar, atau menyentuh.
Michael dan Ben terus bertukar catatan selama Maret dan April 2023, dan Eds. Chenhao Tan, Justin Weisz, dan Werner Geyer menyarankan agar argumen mereka dipublikasikan. Artikel ini mewakili versi pertukaran email yang diedit ringan, tersegmentasi menjadi empat bagian:
- Bagian I — Tentang antropomorfisme
- Bagian II — Sistem komputasi antropomorfik
- Bagian III — Cerdas, tidak cerdas, atau kontinum?
- Bagian IV — Tentang penggunaan “I”
Selama pertukaran, orang tambahan dibawa ke percakapan untuk menambahkan komentar dan perspektif. Kami akan menerbitkan perspektif mereka dalam artikel mendatang ( lihat di bawah untuk daftar ). Jika Anda ingin menambahkan suara Anda ke dalam campuran, hubungi Chenhao Tan .
Debat
Bagian I — Tentang antropomorfisme
Ben Shneiderman : Kekhawatiran khusus yang saya miliki adalah cara keluaran GPT-4 menggunakan kata ganti orang pertama, menyarankan itu adalah manusia, misalnya: "Maafkan saya, tetapi saya tidak dapat membantu Anda dengan permintaan itu." Alternatif sederhana "GPT-4 telah dirancang oleh OpenAI sehingga tidak menanggapi permintaan seperti ini" akan memperjelas tanggung jawab dan menghindari penggunaan kata ganti orang pertama yang menipu. Di duniaku, mesin bukanlah "aku" dan tidak boleh berpura-pura menjadi manusia.
Michael Muller : Pertama, kita manusia telah menganggap artefak dan entitas alam sebagai makhluk yang mirip manusia sejak lama. Demetrius dari Phelerum menulis tentang prosopopoeia (personifikasi) sebelum 280 SM. Entri Wikipedia tentang prosopopoeia memberikan contoh dari Kitab Sirakh, di mana "Kebijaksanaan menyanyikan pujiannya sendiri, / di antara bangsanya sendiri dia memproklamirkan kemuliaannya." Ada banyak kisah tentang makhluk ciptaan yang mengambil bentuk kesadaran atau agensi, dari golem sejarah (bukan golem Tolkien, yang disebut "gollum") hingga Mary Wollstonecraft Shelley dan kembali ke mitos Pygmalion dan Galatea.
Jadi saya pikir ada banyak preseden bagi kita untuk menyebut benda-benda buatan memiliki kualitas seperti manusia. Reeves dan Nass (1996) mengejar konsep ini sebagai program penelitian, khususnya tentang komputer sebagai aktor sosial. Lihat juga kritik saya terhadap posisi mereka dalam Berinteraksi dengan Komputer (Muller, 2004), di mana saya mengulas sejarah personifikasi yang lebih panjang.
Kedua, kami baru saja mengeksplorasi apa artinya algoritme menjadi mitra percakapan yang tidak pasti. LLM adalah, saya setuju, burung beo stokastik, dan karenanya "kurang pikiran". Meskipun demikian, mereka memiliki kehadiran sosial yang meyakinkan. Kami belum tahu apa yang bisa kami lakukan dengan kehadiran sosial itu. (Saya mengatakan "lakukan" dalam arti pragmatisme tentang "untuk apa kita dapat menggunakannya.") Di luar semua sensasi AI yang menjengkelkan (dan terkadang berbahaya), ada pertanyaan penelitian di sini tentang entitas seperti apa yang sedang kita bangun, dan tentang bagaimana kita akan berhubungan dengan mereka. IMHO, kami belum tahu.
Saya menduga bahwa kita perlu memecah biner manusia/non-manusia kita menjadi satu dimensi, atau menjadi beberapa dimensi. Dalam cara berpikir EuroWestern konvensional, kita sudah melakukan ini dalam hubungan kita dengan hewan. Bagi sebagian besar dari kita, batu hanyalah batu (tetapi perhatikan bahwa beberapa filosofi Pribumi dan Aborigin akan menantang pernyataan itu). Demikian pula, beberapa hewan - kadal air, misalnya - memiliki kepribadian yang menarik hanya dalam karya Capek (Capek et al., 1996), tetapi tidak dalam interaksi kita dengan mereka (dan saya ingat bahwa rekan Capek bekerja tentang hubungan yang salah, adalah tentang robot (Capek, 2004)). Elizabeth Phillips dan rekan (2016) telah mengeksplorasi hubungan yang lebih dalam yang kita miliki dengan beberapa hewan, dengan anjing sebagai contoh utama kehadiran sosial. Lihat juga konsep Haraway (2003) tentang spesies pendamping, dan karya Fijn (2011) yang menggelitik tentang hubungan manusia dengan kuda kutub laso Mongolia. Jadi, ada gradasi yang perlu dipertimbangkan, daripada pembedaan manusia/non-manusia sederhana yang terkait dengan hewan.
Phillips dkk. (2016) menggunakan hubungan manusia-hewan untuk memikirkan hubungan manusia-AI. Saya pikir, seperti hewan, ada derajat sosialitas, atau derajat kehadiran sosial, yang mungkin berlaku untuk hal-hal komputasi. Saya rasa kita belum cukup tahu untuk menutup kemungkinan ini.
Jika Anda bertanya kepada saya tentang tema di postingan Anda tentang penipuan dan manipulasi, saya berada tepat di samping Anda tentang melindungi orang, dan saya akan mendukung peraturan ketat untuk melindungi orang dari AI yang berpura-pura menjadi manusia untuk membodohi orang. Bagi saya, itu adalah perhatian terpisah dari cara kami mengeksplorasi teknologi baru, teknologi yang baru dipublikasikan, dan teknologi yang baru ditafsirkan ulang (yang semuanya dapat digunakan untuk merenungkan kemungkinan masa depan), selama eksplorasi kami jujur, sepenuhnya- diungkapkan, dan tanpa niat jahat.
Bagian II — Sistem komputasi antropomorfik
Ben Shneiderman: Ya, saya setuju bahwa kepribadian telah digunakan untuk artefak dari Aristoteles dan akan terus digunakan. Saya tidak berpikir bahwa saya dapat membunuh ide zombie ini.
Namun, ide zombie bisa berdampak bermasalah. Adalah satu hal bagi pengguna artefak biasa untuk membuat referensi seperti manusia untuk kapal, mobil, atau Roombas, tetapi saya melihatnya sebagai masalah ketika desainer menggunakan bahasa itu, menghasilkan produk yang buruk. Sejarah panjang kegagalan sistem antropomorfik kembali bahkan sebelum Microsoft BOB dan Clippie, tetapi terus menghasilkan kegagalan bernilai miliaran dolar. Kesalahan desain mematikan yang paling serius baru-baru ini adalah desakan Elon Musk bahwa karena pengemudi manusia hanya menggunakan mata, Tesla miliknya hanya akan menggunakan video. Dengan mencegah penggunaan radar atau LIDAR, atas keberatan para insinyurnya, dia telah merancang sistem suboptimal yang menghasilkan hasil yang mematikan.
Bagi saya, metafora penting (Lakoff & Johnson, 2006), jadi desainer harus waspada terhadap bagaimana keyakinan mereka bahwa komputer harus berkomunikasi dalam bahasa alami, seperti yang dilakukan manusia, menyebabkan kegagalan mereka untuk menggunakan kemampuan komputer seperti tampilan informasi visual yang melimpah. informasi.
Dukungan lebih lanjut untuk beralih dari antropomorfisme ke desain yang memberi pengguna kendali lebih besar datang dari sosiolog Lewis Mumford. Saya sangat dipengaruhi oleh buku klasiknya, Technics and Civilization (1936) ,yang menawarkan analisis yang jelas dalam bab “Hambatan Animisme.” Mumford menjelaskan bagaimana desain awal berdasarkan model manusia atau hewan merupakan kendala yang perlu diatasi dalam mengembangkan teknologi baru: “jenis mesin yang paling tidak efektif adalah tiruan mekanis yang realistis dari seorang pria[/ wanita] atau hewan lain.” Maksud Mumford adalah bahwa kemampuan khas teknologi, seperti roda, mesin jet, atau layar komputer beresolusi tinggi dapat diabaikan jika desainer tetap berpegang pada gagasan "terinspirasi bio", seperti antarmuka percakapan. Oleh karena itu, dapat dipahami bahwa ungkapan antropomorfik akan ditawarkan sebagai desain awal untuk sistem AI, tetapi melampaui tahap ini akan memungkinkan desainer untuk memanfaatkan algoritme canggih, database besar, sensor manusia super, tampilan informasi yang melimpah, dengan lebih baik,
Michael Muller : Bagi saya, pertanyaan intinya adalah: “Bagaimana Manusia Bisa Berkaitan dengan Kecerdasan Non-Manusia?” Antropomorfisme adalah salah satu tanggapan yang mungkin, tetapi bukan satu-satunya, dan bukan satu-satunya topik yang relevan.
Anda dan saya setuju bahwa kata-kata itu penting, dan metafora itu penting. Itu sebabnya saya sangat tertarik dengan karya Phillips et al. (2016). Mereka mencari metafora (jamak) yang berguna untuk AI (jamak) dengan melihat hubungan manusia dengan hewan. Itu benar, dengan cara yang berbeda, di sebagian besar karya Haraway (2003).
Seperti yang saya tulis sebelumnya, bahasa saya untuk pertanyaan kita bersama adalah: "Bagaimana Manusia Bisa Berhubungan dengan Kecerdasan Non-Manusia?" Bagi saya, itu lebih dekat dengan masalah inti, dan antropomorfisme adalah sub-pertanyaan di antara banyak kemungkinan eksplorasi entitas non-manusia yang aneh. Antropomorfisme adalah salah satu pendekatan metaforis untuk ide-ide baru dan entitas baru. Dalam pandangan saya, metafora menjadi kiasan pemikiran, yang melaluinya kita dapat mengartikulasikan sebagian dari keanehan itu. (Mengikuti teori retoris kontemporer, saya menulis "kiasan pemikiran" (misalnya, Lakoff, 1986; Lakoff & Johnson, 2008) bukan hanya "kiasan dan pidato," dan sekali lagi saya pikir kita setuju.) Saya ingin kita mengeksplorasi metafora tentang LLM, untuk membantu kita berpikir tentang "apa" mereka "," tetapi juga akan menjadi apa mereka, atau akan menjadi apa.
Diungkapkan dengan cara itu, saya berharap penggunaan bahasa (manusia) kita dapat membantu kita membuka ruang konseptual tentang sifat dari hal-hal komputasi yang kita buat dan berinteraksi dengannya. Saya pikir metafora akan berguna, begitu juga kategori analogi yang lebih luas. Hal-hal ini sekarang SANGAT berlapis. Misalnya, ketika semua orang berbicara tentang LLM dan FM, beberapa dari kita (termasuk Anda dan saya) berpikir keras tentang UI untuk LLM tersebut.
Lapisan LLM mungkin adalah "kita" — lagipula, lapisan ini berisi materi yang diambil secara tidak senonoh dari ratusan ribu manusia. Atau mungkin saya seharusnya mengatakan "materi yang ditangkap". Atau ”suara yang dicuri”.
Lapisan UI mungkin adalah "I", karena itulah gaya interaksi yang tampaknya cocok untuk kita manusia. Saya pikir Anda lebih suka bahwa lapisan UI adalah "itu" - atau mungkin itu harus merujuk pada dirinya sendiri sebagai orang ketiga, seperti tambahan yang terluka (prajurit cyborg) dalam buku Imperial Radch Ann Leckie (Leckie, 2013) yang mencoba untuk menghalangi upaya penyelamatan dengan mengatakan, "Kapten Armada ... dengan segala hormat, cedera ini terlalu parah untuk diperbaiki."
Secara karakteristik, saya lebih tertarik membuka kemungkinan, daripada mencegah kegagalan. Ya, Clippy dan BOB gagal, tapi itu tidak berarti bahwa semua personifikasi akan gagal. Eksperimen kami dengan personifikasi UI ke LLM cukup berhasil. Tidak seorang pun yang menggunakan prototipe Asisten Programmer kami (Ross et al. 2023) bingung tentang status ontologisnya. Tidak ada yang salah mengartikannya sebagai apa pun selain pemanggang roti yang cerdas, tetapi ternyata pemanggang roti yang cerdas dan bermanfaat secara transformatif. (Bukan "pintar secara transformatif", hanya "membantu secara transformatif".) Jadi sekarang kami memiliki Clippie dan BOB sebagai contoh kegagalan, tetapi kami juga memiliki Asisten Programmer kami sebagai contoh kesuksesan (dan mungkin beberapa Nass dan Reeves yang lebih tua). percobaan juga). Antropomorfisme tidak serta merta menimbulkan masalah.
IMHO, UI hingga LLM adalah ruang desain yang benar-benar baru. Kami belum tahu apa faktor penting dari ruang ini. Saya menduga bahwa faktor-faktor tersebut akan berinteraksi satu sama lain. Misalnya, kapan antropomorfisme bermanfaat, dan kapan berbahaya? (yakni, faktor lain apa yang berinteraksi dengan personifikasi?) Saat kita menulis pesan HCXAI (dan pesan tersirat), atribut mana yang penting, dan kapan, dan untuk siapa? Lihat misalnya makalah Upol Ehsan dan Samir Passi tentang XAI dengan dua kelompok pengguna dan tiga genre pesan (Ehsan et al., 2021). Dan "alat berpikir" apa (misalnya, figur pemikiran) yang dapat membantu kita menjelajahi ruang desain baru ini?
Bagian III — Cerdas, tidak cerdas, atau kontinum?
Ben Shneiderman: Michael menyarankan bahwa pertanyaan kita bersama adalah "Bagaimana Manusia Bisa Berhubungan dengan Kecerdasan Non-Manusia?" Tapi saya tidak setuju bahwa mesin harus digambarkan cerdas. Saya menyimpan kata-kata tertentu seperti berpikir, mengetahui, memahami, kecerdasan, pengetahuan, kebijaksanaan, dll. untuk manusia, dan menemukan kata lain untuk menjelaskan apa yang dilakukan mesin. Saya telah melakukan ini di keenam edisi Merancang Antarmuka Pengguna (2016) dan menurut saya ini adalah keputusan produktif yang penting.
Membaca buku Simone Natale (2021) akan sangat membantu. Dia mengatakan bahwa robot antropomorfik dan humanoid adalah ide yang menarik, tetapi mereka secara historis menyebabkan produk gagal. Dia menjelaskan "penipuan dangkal" dari banyak aplikasi dan "penipuan yang disengaja secara langsung", yang keduanya "sebagai inti dari fungsi AI sebagai sirkuit, perangkat lunak, dan data yang membuatnya berjalan." Natale memiliki wawasan yang luar biasa tentang kesediaan orang untuk ditipu.
Saya menghormati Michael dan pengabdiannya yang panjang pada desain partisipatif dan menghargainya sebagai kolega, jadi saya sangat berharap dapat menjauhkan Michael dari kepercayaan bermasalah pada kecerdasan non-manusia.
Ingatlah bahwa sekitar seperempat populasi takut pada komputer, terutama ketika desainnya menunjukkan bahwa komputer itu seperti manusia (Liang dan Lee, 2017; Sprinkle, 2017; Strait et al., 2017). Yang lain juga menyarankan bahwa "sistem antropomorfisasi dapat menyebabkan ketergantungan berlebihan atau penggunaan yang tidak aman" (Weidinger et al., 2022).
Dengan mengangkat mesin ke kemampuan manusia, kita mengurangi keistimewaan manusia. Saya ingin mempertahankan perbedaan dan mengklarifikasi tanggung jawab. Jadi menurut saya mesin tidak harus menggunakan kata ganti orang pertama, tetapi harus menjelaskan siapa yang bertanggung jawab atas sistem atau sekadar merespons dengan cara seperti mesin. Terkadang dibutuhkan sedikit imajinasi untuk mendapatkan ungkapan yang tepat, tetapi yang terbaik adalah jika lebih ringkas.
Pada hari-hari awal mesin perbankan, permainan sosial berulang kali dicoba dengan “Tillie the Teller”, “Harvey Wallbanker”, dll. Yang cerewet, misalnya, “Selamat Pagi. Apa yang bisa saya lakukan untuk Anda hari ini?” tetapi ini gagal, memberi jalan untuk "Apakah Anda ingin menyetor atau menarik?" atau bahkan lebih kompak hanya memberikan tombol untuk disentuh untuk apa yang diinginkan pelanggan. Pengguna beralih ke desain yang memungkinkan mereka menyelesaikan tugas mereka secepat mungkin, sambil memberi mereka perasaan bahwa mereka sedang mengoperasikan mesin.
Masalahnya BUKAN jika manusia bisa berhubungan dengan mesin sosial yang menipu - tentu saja bisa. Masalahnya adalah “Apakah kita menyadari bahwa manusia dan mesin adalah kategori yang berbeda?” atau "Akankah kita menghormati martabat manusia, dengan merancang mesin efektif yang meningkatkan kemampuan dan tanggung jawab diri manusia?" 2M+ aplikasi di Apple Store sebagian besar didasarkan pada manipulasi langsung. Aplikasi utama seperti belanja Amazon, pencarian Google, navigasi, dll. Hindari desain yang mirip manusia karena mereka telah memahami bahwa mereka kurang optimal dan tidak populer. Bisakah Michael menunjukkan 3 aplikasi yang banyak digunakan yang memiliki antarmuka seperti manusia?
Michael Muller: Sebagian dari posisi saya didasarkan pada hubungan manusia-hewan. Ada semacam kecerdasan pada seekor anjing, dan khususnya pada anjing yang sangat terlatih seperti anjing pemandu atau anjing gembala (Phillips et al., 2016) atau kuda poni tiang laso (Fjin, 2011). Ada jenis kecerdasan yang berbeda dan jauh lebih dingin pada elang (Soma, 2013). Dan jenis kecerdasan lain pada seekor lembu (Phillips et al., 2016). Kami memang memiliki hubungan dengan hewan-hewan itu.
Saya pikir anjing gembala dan anjing pemburu menyajikan kasus yang menarik. Kami (manusia, bukan Michael) mengirim mereka untuk melakukan sesuatu (Kaminski dan Nitzschner, 2013). Kami mengoordinasikan tindakan kami dengan mereka — terkadang dari jarak jauh. Mereka mengoordinasikan tindakan mereka dengan kami.
Lalu ada amuba dan paramecia, yang dapat merasakan dan merespon, tetapi tidak memiliki banyak hal yang kita anggap sebagai otak, apalagi pikiran.
Tapi anjing adalah kasus perantara. Mereka memiliki kehadiran sosial. Mereka memiliki sesuatu seperti pikiran. Mereka memiliki tujuan mereka sendiri, dan terkadang tujuan mereka dan tujuan kita mungkin sejalan, dan terkadang tidak. Terkadang kita bisa mengubah pikiran mereka. Terkadang mereka bisa mengubah pikiran kita. Saya pikir itu membuat mereka tampak seperti kecerdasan non-manusia.
Karena itu, saya tidak melihat LLM (atau, lebih tepatnya, UI ke LLM) memiliki tujuan, niat, dan tentu saja bukan pikiran. UI yang kami bangun memang memiliki kehadiran sosial. Kita dapat mendesainnya sedemikian rupa sehingga tampak memiliki kepribadian yang berbeda — meskipun kita tahu bahwa pemanggang roti yang cerdas tidak memiliki kepribadian. Burung beo memiliki kepribadian yang mirip, tetapi bukan burung beo stokastik (Bender et al., 2021). Tetapi burung beo stokastik dapat memiliki semacam kehadiran sosial. Itu membuat mereka aneh dan baru, karena mereka memadukan atribut pemanggang roti dan makhluk sosial. Orang-orang telah menulis tentang "lembah luar biasa". Ketika saya mengatakan "aneh", saya bisa saja mengatakan "aneh". Saya pikir mereka berguna, aneh secara produktif. Mereka membantu kita memikirkan pemikiran eksperimental yang baru.
Saya masih menganggap kecerdasan sebagai sebuah kontinum, bukan biner. Kita bisa menambatkan kontinum itu dengan amuba di satu ujung dan manusia di ujung lainnya. Itu adalah wilayah keruh di antara yang menarik minat saya. Itu karena saya menganggapnya sebagai wilayah hibriditas atau "ruang ketiga". Ruang yang aneh. Dalam makalah Aarhus 1995 saya (Muller, 1995), dan sekali lagi dalam bab Handbook bersama Allison Druin (Muller dan Druin, 2012), kami mengklaim bahwa ruang antar-percampuran budaya ini adalah tempat subur bagi pemahaman baru dan pengetahuan yang berbeda, tepatnya karena mereka aneh. Saya pikir hubungan manusia-AI juga bisa menjadi ruang hibrida kebaruan.
Jika Anda mengatakan bahwa baik hewan maupun algoritme tidak memiliki kecerdasan khusus manusia, maka saya siap membantu Anda. Sejauh ini, kita manusia masih istimewa - meskipun makalah etologi baru-baru ini menunjukkan bahwa kita tidak seistimewa yang dulu kita pikirkan.
Bagi saya, ini bukan masalah metafora. Ini masalah kemungkinan, dan di antaranya yang suram tapi menarik.
Saya menerima bahwa Anda menolak gagasan kecerdasan non-manusia. Saya pikir di situlah “perdebatan” kita mungkin terfokus. Kita tidak harus setuju. Namun, kita perlu menyepakati sebuah judul. Jika Anda tidak menginginkan judul tentang kecerdasan non-manusia, mungkin kami dapat mencoba judul yang kurang spesifik, seperti "Hubungan manusia dan AI"?
Ben Shneiderman : Terima kasih atas balasan dan diskusi lebih lanjut tentang hewan sebagai kasus perantara. Bagi saya masalah yang membedakan adalah tanggung jawab, jadi penting untuk diingat bahwa pemilik hewan peliharaan bertanggung jawab secara hukum dan moral atas apa yang dilakukan hewan peliharaan mereka.
Pembahasan menjadi lebih kompleks jika kita mempertimbangkan manusia yang tidak sepenuhnya bertanggung jawab atas tindakannya, seperti yang telah mengonsumsi alkohol atau obat-obatan yang mengganggu kecerdasan, ingatan, persepsi, kognitif, dan kemampuan motoriknya.
Jadi bisa dibilang kecerdasan adalah sebuah kontinum, tapi tanggung jawab lebih bersifat biner dan merupakan faktor penting dalam desain. Menurut saya pembahasannya tidak bisa dibatasi pada inteligensi, tetapi harus mencakup memori, perseptual, kognitif, dan kemampuan motorik.
Saya tertarik untuk menekankan desain yang mengklarifikasi bahwa alat AI dirancang oleh manusia dan organisasi, yang secara hukum bertanggung jawab atas apa yang mereka lakukan dan atas apa yang dilakukan alat tersebut, meskipun alat dapat disalahgunakan, dll.
Perdebatan kami menarik, tetapi pilihan judul pun memisahkan kami. Anda menyarankan "Hubungan manusia dan AI"? Saya kira masuk akal untuk membahas "Hubungan manusia dan mobil/perahu/buldoser/bola lampu", tetapi kata "hubungan" menunjukkan sesuatu seperti hubungan sesama, memberikan terlalu banyak kepada AI. Saya akan lebih senang dengan "Merancang sistem AI masa depan untuk melayani kebutuhan manusia." Bagi saya, kebutuhan manusia mencakup pelestarian lingkungan dan keanekaragaman hayati serta Tujuan Pembangunan Berkelanjutan PBB .
Bagian IV — Tentang penggunaan “I”
Michael Muller: Saya lupa menanggapi tentang chatbot komersial yang merespons dalam bentuk orang pertama tunggal. Tentu banyak contoh dari LLM saat ini. Apakah layanan ini layak secara ekonomi saat ini, perusahaan yang membuatnya bertaruh pada kelayakan komersial dan kompetitif mereka : Bard, Bing, HuggingFace Open Assistant, dan seterusnya.
Namun, itu adalah UI yang Anda tolak. Berikut adalah contoh dari beberapa tahun sebelumnya. Suhel dkk. (2020) mendeskripsikan chatbot perbankan yang menggunakan orang pertama tunggal. Bank saya memiliki fitur serupa. Solusi IGT menawarkan chatbot untuk reservasi maskapai penerbangan dan FAQ. SABA Hospitality memiliki penawaran serupa untuk reservasi hotel dan layanan tamu. Ini adalah penawaran komersial yang menggunakan chatbots tunggal orang pertama.
Para peneliti telah menggunakan paradigma semacam ini (yaitu, AI mengacu pada dirinya sendiri sebagai "I" atau "saya") dalam pekerjaan yang berkaitan dengan program penelitian Nass dan Reeve '"Komputer adalah Aktor Sosial" (misalnya, Reeves dan Nass, 1996). Saya dapat menemukan sebuah contoh pada awal tahun 1998 (Elliott dan Brzezinski, 1998), dan saya menduga bahwa beberapa makalah dekade sebelumnya juga memiliki dialog semacam ini. Saya pikir Anda akan lebih keberatan dengan deskripsi Strommen tentang mainan anak-anak yang menyebut diri mereka sebagai "Saya" (Bergman (ed.), 2000).
Saya setuju bahwa ada riwayat orang yang menolak chatbots. Dalam pengalaman kami, masalah penerimaan adalah tentang kecocokan yang buruk antara permintaan pengguna dengan kumpulan maksud chatbot (yaitu, memetakan permintaan ke tanggapan). Kami telah melihat bahwa LLM saat ini tampaknya memberikan tanggapan yang lebih tepat, mungkin justru karena mereka tidak menggunakan pemetaan ucapan-ke-maksud generasi sebelumnya. Saya tidak yakin orang menolak chatbot yang menggunakan kata ganti. Saya pikir mereka menolak chatbots yang menyediakan layanan yang buruk. Kita mungkin perlu melakukan analisis yang lebih sistematis terhadap faktor-faktor yang menyebabkan penerimaan dan faktor-faktor yang menyebabkan kegagalan.
Ben Shneiderman: Terima kasih telah kembali ke masalah kata ganti. Anda benar bahwa ada chatbots komersial, yang berhasil dengan penggunaan "Saya". Namun, seperti yang Anda tunjukkan, banyak chatbot layanan pelanggan tekstual telah gagal karena tidak begitu membantu.
Contoh lebih lanjut yang menguntungkan Anda adalah kesuksesan Alexa dan Siri, yang merupakan antarmuka pengguna berbasis suara (VUI) yang menggunakan kata ganti "Saya". Dengan presentasi kompak VUI dan desain cerdas telah membuat "I" dapat diterima, tetapi kalkulus berubah dengan antarmuka pengguna visual.
Namun, sistem respons suara berbasis telepon yang memandu pengguna melalui pohon menu tampaknya telah beralih dari penggunaan awal kata ganti "saya" ke "Anda" dalam contoh yang telah saya lihat, misalnya "Anda dapat mengetik atau mengatakan 1 untuk mendengar jam buka …” (berlawanan dengan canggung “Jika Anda mengetik atau mengatakan 1, saya akan memberi Anda jam buka…”).
Satu komentar lebih lanjut adalah Anda menulis "ada riwayat orang yang menolak chatbots". Saya pikir diskusi kita akan lebih konkret jika kita membedakan komunitas pengguna yang berbeda. Sebagian besar pengguna tidak memperhatikan apakah antarmukanya adalah "Saya" atau "Anda", tetapi beberapa pengguna sangat tidak menyukai penipuan "Saya" sementara beberapa pengguna sangat menyukai rasa pemberdayaan yang mereka peroleh dengan desain "Anda". Saya berharap saya tahu persentase di setiap kategori, terutama dipisahkan berdasarkan jenis kelamin, usia, pengalaman komputer, dll. Pertanyaan menarik lainnya adalah apakah preferensi kata ganti berubah selama bertahun-tahun.
Poin terakhir saya adalah tentang teori CASA Reeves dan Nass (1996). Saya menikmati argumen saya dengan Cliff Nass tentang masalah ini, meskipun saya memenangkan taruhan tahun 1995 tentang masa depan Microsoft BOB, yang dia konsultasikan, tetapi saya berharap untuk gagal — saya hanya tidak berharap bahwa itu akan gagal total sehingga ada tidak ada versi 2, itu hanya dihapus dari pasar dalam waktu satu tahun. Sementara penelitian Reeves & Nass menunjukkan bahwa pengguna akan merespons komputer secara sosial, mereka tidak mempertimbangkan hipotesis alternatif, yaitu bahwa pengguna lebih memilih antarmuka manipulasi langsung yang tetap dominan di Toko Apple dan Android serta desain laptop berbasis web.
Kesimpulannya, sementara ada situasi di mana komputer dapat menjadi sukses komersial dengan berpura-pura menjadi manusia, desain yang dominan tetap layar sentuh perangkat seluler dan klik mouse berbasis web yang membuat pengguna tetap memegang kendali dan menghindari desain antropomorfik (menurut saya perangkap!). Saya pikir ada alternatif yang jelas untuk antropomorfisme. Masalahnya lebih besar dari kata ganti.
Saat kami mengakhiri diskusi ini, muncul diskusi online, seperti posting blog dari Paola Bonomo (2023) ini.
Ringkasan Debat
oleh Chenhao Tan dan Justin D. Weisz
Sebagai editor publikasi Human-Centered AI Medium , kami berterima kasih karena Michael dan Ben berbagi wawasan berharga mereka tentang masalah antropomorfisme. Secara khusus, kami menemukan diskusi mereka membangkitkan pemikiran dan mengklarifikasi beberapa masalah inti. Berikut adalah tiga takeaways utama dari debat ini:
- Baik Michael maupun Ben setuju bahwa pilihan untuk menggunakan "I" (yaitu, antropomorfisme) dapat berdampak signifikan pada pengguna.
- Ben mengambil sikap yang jelas tentang perbedaan biner antara kecerdasan manusia dan non-manusia dan menyoroti pentingnya tanggung jawab: desainer & pengembang harus bertanggung jawab atas alat yang diinfuskan AI.
- Michael, sebagai perbandingan, merangkul sikap yang lebih cair terhadap kecerdasan sebagai sebuah kontinum dengan menghadirkan banyak analogi dengan hubungan manusia-hewan. Dia berpendapat bahwa ada "wilayah keruh di antara" kecerdasan manusia dan kecerdasan yang ditunjukkan oleh amuba, yang menarik dan kurang dieksplorasi sebagai ruang desain.
Bagikan perspektif Anda
Di mana Anda berdiri tentang masalah antropomorfisme dalam sistem AI? Argumen siapa yang lebih meyakinkan Anda? Apakah Anda memiliki perspektif yang berbeda? Kami akan senang mendengar sudut pandang Anda! Silakan hubungi Chenhao Tan jika Anda ingin komentar Anda yang lengkap disertakan dalam diskusi ini.
Berikut adalah komentar yang dibagikan oleh orang lain di komunitas.
- Pattie Maes (MIT Media Lab, AS) — 10 April 2023
- Susan Brennan (Universitas Stony Brook, AS) — 10 April 2023
- Ron Wakkary (Universitas Simon Frasier, Kanada) — 18 April 2023
- Mary Lou Maher (Universitas Carolina Utara, Charlotte, AS) — 26 April 2023
- Bender, EM, Gebru, T., McMillan-Major, A., & Mitchell, S. (2021, Maret). Tentang Bahaya Stochastic Parrots: Bisakah Model Bahasa Menjadi Terlalu Besar?. Dalam Prosiding konferensi ACM 2021 tentang keadilan, akuntabilitas, dan transparansi (hlm. 610–623).
- Bergman, E. (Ed.). (2000). Peralatan informasi dan seterusnya: desain interaksi untuk produk konsumen . Morgan Kaufmann.
- Bonomo, P., (25 Maret 2023). AI Etis Tidak Pernah Mengatakan "Aku".https://livepaola.substack.com/p/an-ethical-ai-never-says-i
- Capek, K. (2004). RUR (robot universal Rossum) . Pinguin.
- Capek, K., Weatherall, M., & Weatherall, R. (1996). Perang dengan Kadal air . Pers Universitas Northwestern.
- Don, A., Brennan, S., Laurel, B., & Shneiderman, B. (1992, Juni). Antropomorfisme: dari ELIZA ke Terminator 2. Dalam Prosiding Konferensi SIGCHI tentang Faktor Manusia dalam Sistem Komputasi (hlm. 67–70).
- Elliott, C., & Brzezinski, J. (1998). Agen otonom sebagai karakter sintetik. Majalah AI , 19 (2), 13–13.
- Fijn, N. (2011). Hidup dengan ternak: koeksistensi manusia-hewan di Mongolia . Pers Universitas Cambridge.
- Haraway, DJ (2003). Manifesto spesies pendamping: Anjing, manusia, dan hal lain yang signifikan (Vol. 1, hlm. 3–17). Chicago: Pers Paradigma Berduri..
- Kaminski, J., & Nitzschner, M. (2013). Apakah anjing mengerti maksudnya? Tinjauan tentang kemampuan komunikasi anjing-manusia. Pembelajaran dan Motivasi , 44 (4), 294–302.
- Lakoff, G. (1986). Sosok pemikiran. Metafora dan simbol , 1 (3), 215–225.
- Lakoff, G., & Johnson, M. (2008). Metafora tempat kita hidup. Universitas Chicago Press.
- Leckie, A. (2013). Trilogi Kotak Imperial Radch . Orbit.
- Liang, Y. dan Lee, SA (2017). Takut Robot Otonom dan Kecerdasan Buatan: Bukti dari Data Perwakilan Nasional dengan Probability Sampling. Jurnal Internasional Robotika Sosial, 9(3): 379–84.
- Müller, MJ (1995). Heuristik Etnokritik untuk HCI Bekerja dengan Pengguna dan Pemangku Kepentingan Lainnya. In Proceedings of Computers in Context: Joining Forces in Design , hlm. 10–19 (Aarhus Denmark, 1995).
- Muller, M. (2004). Berbagai paradigma dalam komputasi afektif. Berinteraksi dengan Komputer 16.4 (2004): 759–768.
- Muller, MJ, & Druin, A. (2012). Desain partisipatif: Ruang ketiga dalam interaksi manusia-komputer. Dalam J. Jacko (ed), Buku Pegangan Interaksi Manusia-Komputer (hlm. 1125–1153). CRC Tekan.
- Mumford, L. (1936, 2010). Teknik dan peradaban . Universitas Chicago Press.
- Natale. S. (2021). Media yang menipu: Kecerdasan buatan dan kehidupan sosial setelah tes Turing . Oxford University Press, AS.
- Phillips, E., Schaefer, KE, Billings, DR, Jentsch, F., & Hancock, PA (2016). Tim manusia-hewan sebagai analog untuk tim manusia-robot di masa depan: Mempengaruhi desain dan menumbuhkan kepercayaan. Jurnal Interaksi Manusia-Robot , 5 (1), 100–125.
- Reeves, B., & Nass, C. (1996). Persamaan media: Bagaimana orang memperlakukan komputer, televisi, dan media baru seperti orang sungguhan . Cambridge, Inggris.
- Ross, SI, Martinez, F., Houde, S., Muller, M., & Weisz, JD (2023, Maret). Asisten pemrogram: Interaksi percakapan dengan model bahasa besar untuk pengembangan perangkat lunak. Dalam Prosiding Konferensi Internasional ke-28 tentang Antarmuka Pengguna Cerdas (hlm. 491–514).
- Shneiderman, B., Plaisant, C., Cohen, MS, Jacobs, S., Elmqvist, N., & Diakopoulos, N. (2016). Merancang antarmuka pengguna: strategi untuk interaksi manusia-komputer yang efektif . Pearson.
- Soma, T. (2013, April). Etnoarkeologi elang kuno di Asia Timur. Dalam The Asian Conference on Cultural Studies 2013: Risalah konferensi resmi (hlm. 81–95).
- Suhel, SF, Shukla, VK, Vyas, S., & Mishra, VP (2020, Juni). Percakapan untuk otomatisasi di perbankan melalui chatbot menggunakan bahasa kecerdasan mesin buatan. Pada tahun 2020 Konferensi Internasional ke-8 tentang Keandalan, Teknologi Infokom, dan Pengoptimalan (Tren dan Arah Masa Depan)(ICRITO) (hlm. 611–618). IEEE.
- Taburkan, T. (2017). Robophobia: Menjembatani Lembah Luar Biasa . Perhimpunan Insinyur Mekanik Amerika.
- Selat, MK, Aguillon, C., Contreras, V. dan Garcia, N. (2017). Persepsi Publik tentang Robot Mirip Manusia: Komentar Sosial Online Mencerminkan Lembah Luar Biasa Berbasis Penampilan, Ketakutan Umum akan "Pengambilalihan Teknologi", dan Seksualisasi Robot Berjenis Perempuan yang Tidak Malu. Proses Simposium Internasional IEEE ke-26 tentang Robot dan Komunikasi Interaktif Manusia (RO-MAN). IEEE, 1418–23.
- Weidinger, L., Uesato, J., Rauh, M., Griffin, C., Huang, PS, Mellor, J., … & Gabriel, I. (2022, Juni). Taksonomi risiko yang ditimbulkan oleh model bahasa. Pada Konferensi ACM 2022 tentang Keadilan, Akuntabilitas, dan Transparansi (hlm. 214–229).

![Apa itu Linked List? [Bagian 1]](https://post.nghiatu.com/assets/images/m/max/724/1*Xokk6XOjWyIGCBujkJsCzQ.jpeg)



































