Penggila Bahasa

Ketakutan GPT dan kepanikan moral benar-benar tentang kekuatan bahasa.

Ini bukan tentang AI; AI ada di sekitar kita, dan kita berinteraksi dengan teknologi di belakangnya (apakah jaringan saraf, pemfilteran kolaboratif, regresi linier, dll.) sepanjang hari, baik kita mengetahuinya atau tidak.

Setiap kali kita memotret atau masuk ke dalam mobil, saat kita berbelanja, saat kita menggesek kartu kredit kita, kita bersinggungan dengan manipulasi algoritme melalui kecerdasan manusia yang disimulasikan. Juga dikenal sebagai pembelajaran mesin atau kecerdasan buatan.

Masalah sebenarnya adalah bahwa bahasa memiliki bobot, dan selama manusia memiliki cara untuk membuat pikiran menjadi aural, kita telah bergulat dengan kekuatan bahasa yang melekat untuk mengubah dan memanipulasi pikiran orang lain. Contoh kanonis adalah penyebab genosida Rwanda, dan bahasa peran yang dimainkan melalui siaran radio RTLM untuk menghasut dan mengkatalisasi satu bagian populasi melawan yang lain, serta peristiwa 6 Januari.

Bahasa itu berbahaya, dan juga bawaan manusia. Tetapi kerumitan bahasa adalah bahwa manusia secara normal dapat dimanipulasi melaluinya. Kemampuan kita untuk membedakan maksud yang sebenarnya pada awalnya tidak terlalu bagus, dan hanya berkurang dengan abstraksi berbasis mesin, apalagi jika speaker itu sendiri adalah mesin.

Jika manusia begitu mudah dimanipulasi oleh bahasa dalam bentuk yang berasal dari manusia, kemampuan kita untuk mencegahnya tidak akan lebih baik ketika mesin secara eksplisit mencari sinyal keberhasilan manipulasi. Jadi, kerentanan kita terhadap manipulasi melalui bahasa — kurangnya kesadaran atau kepedulian kita terhadap asal usul — bukanlah komplikasi bagi ChatGPT; itu secara aktif memanfaatkannya. Itu membutuhkannya.

Masalahnya adalah: bahasa memiliki kekuatan, dan kekuatannya meningkat dengan abstraksi, sementara kemampuan kita untuk membedakan niat menurun. Pada titik tertentu, bahasa memiliki begitu banyak abstraksi — dan kekuatan — sehingga sumber kepenulisan tidak lagi penting, atau tidak dapat dilihat.

Itu memiliki begitu banyak kekuatan potensial sehingga kemanusiaan penulisnya tidak ada bedanya.

Dan disitulah letak bahayanya.

Mesin bukanlah masalahnya: kita. Kami selalu begitu.