Apa itu Human-Centered Explainable AI (XAI)?

Explainable AI (XAI) atau Interpretable AI, adalah kecerdasan buatan (AI) yang keputusan dan prediksinya dapat dipahami oleh manusia. Ini kontras dengan konsep "kotak hitam" dalam pembelajaran mesin di mana bahkan perancangnya tidak dapat menjelaskan mengapa AI sampai pada keputusan tertentu. AI ccdapat sebagian besar dibagi menjadi dua kategori: AI Objektif dan AI Subjektif. XAI, topik diskusi saya, termasuk yang terakhir. Ini adalah versi AI yang jauh lebih maju daripada Objective AI, juga merupakan teknologi kunci utama dalam karya seni media saya 'eXplainable Human.'

AI subyektif menuntut Penjelasan.

Karena masyarakat kita menjadi lebih rumit, kita mulai berurusan dengan informasi dan aset pribadi berdasarkan kepercayaan pelanggan di bidang keuangan, asuransi, dan perawatan medis. Lebih dari sekadar mengklasifikasikan gambar atau memprediksi angka, AI kini diciptakan untuk “membuat penilaian yang jelas”. Akibatnya, ada kebutuhan untuk mengembangkan AI dan algoritme untuk memastikan keadilan, keandalan, dan akurasi. Dengan kata lain, perlu mengkonfirmasi dasar untuk menurunkan hasil yang dihasilkan dari sistem AI mereka dan validitas proses turunan.

eXplainable Human dengan XAI

Ringkasan proyek

Kecerdasan buatan diperkenalkan di banyak bidang khusus seperti keuangan, perawatan medis, dan pendidikan, tetapi tampaknya kecerdasan buatan belum mencapai pikiran dan pemahaman batin kita tentang citra diri kita. Bisakah AI menjelaskan ego manusia? Dengan mengingat pertanyaan ini, saya dan tim saya merencanakan pemasangan karya seni media interaktif.

Bisakah ego dijelaskan? Pameran dimulai dengan pertanyaan sederhana ini. Sepertinya tidak mungkin menggambarkan 'diri' dalam satu kalimat. Ketidakpastian yang tidak dapat dijelaskan juga memengaruhi bidang AI, dan konsep AI yang dapat dijelaskan (kecerdasan buatan yang dapat dijelaskan) telah muncul untuk mengatasi masalah ini. Ini menunjukkan keinginan manusia untuk lebih mengejar keandalan dengan menjelaskan alasan dan proses yang digunakan AI untuk menghasilkan hasil.

Inilah pertanyaan lain. Lalu, apakah semua yang bisa dijelaskan bisa dipercaya? Kami memilih topik 'diri' yang paling sulit sebagai penjelasan objek kami dan mencoba untuk melihat apakah itu dapat dipahami dengan lebih baik melalui dialog dengan AI. Kami juga ingin merasakan kebetulan dan konflik yang terjadi antara 'diri' yang dijelaskan oleh AI dan 'diri' yang dijelaskan oleh penonton.

Bangun blok bahasa alami; Niat dan entitas

AI yang diimplementasikan dalam pameran ini mengajukan pertanyaan kepada audiens untuk memperkenalkan diri, mengumpulkan jawaban audiens, dan mengekstrak serta menginterpretasikan kata kunci. Setelah itu, AI menyimpulkan ego kolektif penonton dengan merekonstruksi kalimat berdasarkan konten yang diinterpretasikan.

Untuk membangun AI ini, sebagai arsitek data dan desainer IxD, saya adalah pelari pertama dalam maraton proyek ini. Saya membuat sistem pertanyaan tiga tahap yang dapat digunakan AI kami untuk memahami orang.

Tahap pertama adalah pertanyaan demografis seperti "jenis kelamin", dan "usia". Yang kedua adalah pertanyaan sosiologis tentang persahabatan dan kebencian di dunia ini. Ini lebih radikal dari tahap pertama. Tahap ketiga melibatkan pertanyaan yang lebih rahasia. AI kami bertanya kepada audiens rahasia apa yang mereka hargai dan mereka mempercayai AI. Jawaban atas pertanyaan-pertanyaan ini dimasukkan ke dalam matriks berbasis aturan kita sendiri, dan sebaris kalimat yang mengekspresikan citra diri setiap orang diturunkan.

Perjalanan Open AI GPT-3

Inti dari proyek ini, kami menggunakan model bahasa “GPT-3” untuk memperluas baris sederhana dari kalimat yang diekstraksi ini. Generatif Pre-trained Transformer 3 (GPT-3; bergaya GPT·3) adalah model bahasa autoregresif yang menggunakan pembelajaran mendalam untuk menghasilkan teks mirip manusia. Diberikan teks awal sebagai prompt, maka akan menghasilkan teks yang melanjutkan prompt. Kami bertujuan untuk memberikan jawaban yang "masuk akal" kepada audiens kami dengan menggunakan 172,5 miliar parameter. Contoh yang kami gunakan adalah sebagai berikut.

Hasil asli kami (Matriks berbasis aturan)

Anda adalah orang yang telah mengalami banyak kesulitan, dan tertarik pada segala hal di dunia, tetapi kesepian.

Hasil yang diperluas (GPT-3)

Anda telah mengalami banyak kesulitan dalam hidup Anda dan akibatnya Anda tertarik pada segala sesuatu yang terjadi di dunia, namun terlepas dari minat Anda yang besar pada dunia di sekitar Anda, Anda merasakan kesepian batin yang dalam. Kesepian batin ini adalah sesuatu yang selalu Anda rasakan dan itu adalah sesuatu yang Anda rasakan lebih kuat sekarang. Anda merindukan hubungan dekat dengan orang lain tetapi Anda merasa sulit untuk berhubungan dengan orang-orang pada tingkat yang lebih dalam akibatnya Anda sering merasa terisolasi dan sendirian.

Penonton akan menerima jawaban seolah-olah mereka sedang mendengarkan penjelasan yang sempurna untuk diri mereka sendiri di toko peramal, atau dengan sedikit perasaan tidak enak yang tidak menyenangkan. Bisakah AI benar-benar menjelaskan kita? Menjawab pertanyaan yang tidak dapat dijelaskan itu adalah satu-satunya tujuan pameran kami.