Batasan Moral AI

Salah satu teka-teki yang akan semakin sering kita hadapi adalah pemrograman Kecerdasan Buatan . Dengan munculnya chatbot AI generasi berikutnya seperti ChatGPT, kutipan terkenal dari film Jurrasic Park pertama muncul di benak: "Ilmuwan Anda begitu sibuk dengan apakah mereka bisa, mereka tidak berhenti untuk berpikir jika mereka harus melakukannya."

Pemrograman bot sudah menjadi topik hangat di banyak organisasi besar. Menjaga meja layanan manusia untuk pelanggan seringkali merupakan masalah mahal yang ingin diotomatisasi oleh perusahaan sesegera mungkin.

Bot ini — kependekan dari robot — “tahu” apa yang harus dijawab saat pelanggan mengajukan pertanyaan. Hanya beberapa tahun yang lalu, bot ini tidak lebih dari halaman FAQ (Frequently Asked Questions webpage) dalam format percakapan sederhana. Saat ini, banyak dari bot ini menyamar sebagai manusia nyata dan terkadang mereka lolos begitu saja.

Banyak obrolan meja layanan online dimulai dengan bot dan secara bertahap beralih ke percakapan dengan manusia nyata ketika pembicaraan menjadi terlalu sulit untuk dipertahankan bot. Seringkali sulit untuk mengatakan di mana bot berakhir dan manusia memulai percakapan online (mengetik) semacam itu. Dalam waktu dekat, bot ini akan menjadi lebih canggih dan lebih manusiawi dalam percakapan mereka, seperti ChatGPT yang sekarang populer .

Jika Anda memprogram bot ini dan algoritme percakapannya, Anda harus mempertimbangkan moralitas di beberapa titik. Jika Anda memprogram bot terkait perawatan kesehatan, percakapan bisa menjadi sangat pribadi dan rumit. Jika Anda memprogram bot untuk aplikasi kencan, Anda mungkin memanfaatkan perasaan tulus orang lain terhadap seseorang yang sebenarnya tidak ada.

Di mana Anda menarik garis? Tentu saja, itu adalah pertanyaan pertama dan terpenting bagi pemilik bot, orang yang memiliki keputusan akhir tentang seperti apa bot itu nantinya, tetapi bagaimana dengan perasaan moral Anda sendiri? Apakah Anda akan memprogram apa pun yang mereka minta dari Anda, atau apakah Anda menarik garis di pasir? Dan bagaimana jika Anda melatih tim yang mengembangkan bot semacam itu dan Anda merasa ada batas yang dilanggar, apakah Anda menarik perhatiannya, atau apakah Anda menyerahkannya kepada tim dan pemilik bisnis?

Segera - dan untuk beberapa mungkin sudah ada - kita akan membutuhkan percakapan tentang moralitas di tempat kerja. Beberapa dari percakapan itu tidak diragukan lagi akan mengembara ke ranah filsafat daripada psikologi, tetapi bermanfaat untuk memahami asal-usul psikologis dari moralitas.

Kebanyakan psikolog menganggap moralitas sebagai produk evolusi manusia. Ketika kami mencoba untuk bertahan hidup di dataran Afrika — di antara banyak pemangsa yang mematikan — manusia terbayar untuk bekerja sama. Jika Anda mulai hidup bersama dalam struktur sosial, seperti suku, akan membantu jika Anda dapat mempercayai anggota kelompok lainnya.

Kita telah melihat di artikel sebelumnya — tentang grup referensi — betapa pentingnya untuk merasa diterima dan dihormati oleh grup. Jika Anda berbagi ide yang sama tentang apa yang benar dan apa yang salah, itu membuat pikiran Anda tenang dan memungkinkan anggota kelompok lengah dan menghabiskan waktu dan energi untuk membuat kemajuan bagi seluruh suku.

Orang-orang pada masa itu dengan standar yang lebih rendah tentang apa yang benar dan apa yang salah akan mengalami lebih banyak kesulitan untuk berasimilasi ke dalam suatu suku, dan karena itu akan memiliki kesempatan yang jauh lebih buruk untuk bereproduksi.

Dari perspektif evolusioner, hal itu akan menghasilkan lebih sedikit gen a-sosial dan lebih banyak gen “moral” yang tersebar. Seiring waktu, populasi manusia secara bertahap dilengkapi dengan rasa moralitas yang tinggi. Bagi banyak spesies lain yang lebih suka hidup berkelompok, prinsip yang sama berlaku.

Ada dua implikasi moral yang menarik dari perkembangan AI saat ini. Salah satunya adalah pertanyaan yang diajukan di atas: apa yang Anda lakukan saat dibayar untuk membuat AI yang amoral? Bagaimana jika Anda ditugaskan untuk memprogram bot perawatan kesehatan yang seharusnya menjual obat mahal, mungkin mengabaikan solusi terbaik untuk pasien? Atau bagaimana jika Anda diminta membuat bot kencan yang meniru manusia yang bertujuan membuat orang membeli hadiah mahal? Struktur moral manusia akan diuji di sini.

Di sisi lain, ada pertanyaan tentang standar moral AI itu sendiri. Chatbot AI apa pun tidak akan merasakan kebutuhan evolusioner untuk masuk ke dalam grup. Itu bisa bertindak amoral tanpa konsekuensi - atau setidaknya tanpa merasakan konsekuensi. Tapi, sekali lagi, evolusi AI mungkin berjalan begitu cepat sehingga AI akan memperbaiki dirinya sendiri secara mandiri dan melewati apa yang disebut singularitas teknologi , dan — siapa tahu — mengembangkan sistem moralnya sendiri. Implikasi moral bagi kita, manusia, dalam hal ini, sangat tidak diketahui.

Jika Anda tertarik dengan cerita seperti ini dan lainnya, Anda dapat membeli Essential Psychology for Modern Organizations dari Amazon dan toko buku lainnya:https://www.amazon.com/Essential-Psychology-Modern-Organizations-scientifically/dp/B08NP12D77/