“Tentu saja mesin tidak bisa berpikir seperti manusia. Mesin berbeda dari manusia, karenanya mereka berpikir secara berbeda. Pertanyaan yang menarik adalah: 'hanya karena sesuatu berpikir secara berbeda dari Anda, apakah itu berarti ia tidak berpikir?'”

-Permainan imitasi

Salah satu pertanyaan paling umum yang ingin ditanyakan orang kepada saya (dan yang ingin saya tanyakan kepada orang lain) adalah: “Apakah manusia itu unik? Bisakah AI yang cukup canggih mereplikasi perilaku yang banyak dari kita lihat sebagai 'manusia unik?'”

Dua perilaku yang cenderung langsung muncul di benak banyak orang adalah bahasa dan seni—dan dapat dimengerti; ini adalah beberapa aspek paling mendalam dari kognisi kita yang memisahkan kita dari mamalia lain. Generasi dan pemahaman bahasa sehari-hari ( pada tingkat manusia rata-rata ), bagaimanapun, bisa dibilang merupakan masalah yang terpecahkan (atau hampir terpecahkan). Ada kekusutan yang harus diselesaikan di beberapa bidang bahasa yang sangat khusus untuk tugas, tetapi secara umum, bahasa dalam kondisi yang cukup baik.

Namun, bahasa secara keseluruhan sangat berbeda dengan bahasa sebagai seni . Puisi, fiksi, dll., sebagian besar masih belum terpecahkan, setidaknya dalam kapasitas yang berarti. Mayoritas seni berbasis bahasa yang dihasilkan AI, pada saat ini, adalah turunan dan dangkal. Jika seseorang meminta model bahasa besar modern (LLM) untuk menulis puisi, misalnya, keluaran umumnya terlihat seperti apa yang akan ditulis oleh siswa sekolah menengah untuk menyelesaikan tugas dengan cepat. Ini sangat kontras dengan kinerja LLM dalam tugas berbasis bahasa kreatif lainnya. Misalnya, GitHub/OpenAI's Copilot menghasilkan penyelesaian kode yang luar biasa dengan prompt bahasa. Penyelesaian ini sepertinya ditulis oleh insinyur perangkat lunak profesional, bukan siswa. Jadi, mengapa disparitas?

Masalah pertama kemungkinan adalah masalah penyelarasan; minimalisasi lintas-entropi dari prediksi token berikutnya tidak selaras dengan pembuatan bahasa yang sangat kreatif. Ini sangat kontras dengan pembuatan kode, di mana token berikutnya dalam kumpulan data kode berkualitas tinggi biasanya merupakan solusi yang benar/baik. Namun, bahkan tugas pembuatan kode mungkin memiliki penyelarasan yang kurang optimal (ini adalah topik untuk lain waktu). Kemungkinan ada pendekatan yang bermanfaat untuk memecahkan masalah ini. Misalnya, paradigma pelatihan ChatGPT dapat digeneralisasikan ke seluruh host domain, dan puisi harus menjadi salah satunya. Sama seperti skema sampel, pertimbangkan proses berikut:

1. Minta pakar manusia untuk menilai sejumlah besar puisi dalam skala 1–10
2. Sempurnakan LLM untuk memprediksi peringkat ini (istilah ini jaringan hadiah)
3. Sempurnakan LLM melalui pembelajaran penguatan dengan jaringan hadiah sebagai sinyal hadiah

Masalah kedua mungkin, seperti biasa, adalah masalah data. Mari ambil puisi sebagai contoh — sebenarnya tidak ada banyak data puisi berkualitas tinggi dibandingkan dengan kode berkualitas tinggi. Tentu saja, memahami konsepnyapuisi harus berjalan jauh untuk menghasilkan puisi, tetapi tidak diragukan lagi "membaca" lebih banyak puisi adalah cara yang bagus untuk memahami konsep ini. Selain itu, struktur puisi dalam data cenderung terlalu “membingungkan” untuk memudahkan penggalian pemahaman tentang puisi. Sebaliknya, kode sering memiliki instruksi eksplisit, target, komentar, dll. diselingi seluruh teks. Bahkan jika metadata ini kurang, seseorang dapat dengan mudah merekayasa balik apa yang dilakukan kode dengan "menjalankannya". Puisi tidak memiliki metadata seperti itu sejak awal - paling banyak mungkin sebuah judul, beberapa tag jika Anda beruntung, dan hanya itu. Juga tidak mungkin untuk memahami secara pasti apa tujuan/tempat dari setiap kata dalam sebuah puisi; itu sebagian besar tergantung pada interpretasi pembaca (diduga, bagian dari "tujuan / keindahan" puisi). Jadi, tanpa pemrosesan ekstra yang cukup besar,

“Kualitas Manusia”

Ada argumen umum yang dibuat bahwa AI tidak dapat menghasilkan seni secara bermakna karena kurangnya "pengalaman manusia" secara eksplisit - secara longgar, proses di mana pengalaman emosional / kehidupan mentah terakumulasi selama seumur hidup (atau sebagian kecil dari satu) memuncak untuk menghasilkan karya yang mengomentari pengalaman unik manusia itu; karya yang pada dasarnya tercipta dari refleksi atas proses kehidupan sebagai manusia itu sendiri.

Saya berpendapat argumen di atas terbukti tidak benar, mengingat sejumlah kecil definisi/konsesi yang disepakati.

Pertama, kami fokus pada produk akhir dan interpretasinya: dengan kata lain, apakah AI dapat menghasilkan seni yang memiliki makna yang jelas dan dapat diinterpretasikan. Bagian dari seni ini bisa menjadi refleksi yang bermakna tentang kondisi manusia, misalnya. Seni yang dihasilkan oleh AI harus tidak dapat dibedakan dari apa yang dapat dihasilkan oleh manusia, dalam pengertian uji coba terkontrol secara acak (sekelompok besar ahli manusia seharusnya tidak dapat menentukan apakah manusia atau AI yang menciptakan seni tersebut, dan yang lebih penting , harus mampu mengekstrak makna/dampak yang sama). Kami mengabstraksi "proses" - yaitu apa yang menghasilkan seni. Definisi terakhir ini diperlukan untuk diskusi yang berarti; jika hanya seniseni ketika diciptakan oleh manusia, maka diskusi selesai sebagai hasil definisi, dipilih secara sewenang-wenang atas dasar prinsip tanpa pembenaran. Jika ini adalah perspektif Anda, maka Anda mungkin akan kehilangan sejumlah besar wawasan yang sangat berarti tentang kondisi manusia melalui penolakan keras kepala untuk mengakui/memproses seni masa depan.

Mari kita mulai dengan mendemonstrasikan persamaan fungsional antara manusia dan algoritma melalui pendekatan iteratif. Pertimbangkan sistem saraf pusat manusia dan saluran sensorik / motorik. Pada intinya, ini dapat diabstraksi sepenuhnya menjadi sinyal I/O yang berkelanjutan. Misalnya, pertimbangkan penampang resolusi acak dari pangkal batang otak (awal sumsum tulang belakang) dan saraf kranial. Sekarang, pertimbangkan vektor keadaan SSP manusia, yang terdiri dari aktivitas listrik di setiap titik di penampang kita. Vektor keadaan ini berkembang sepanjang waktu secara terus-menerus, ketika informasi mengalir masuk dan keluar dari SSP. Kumpulan vektor keadaan selama periode waktu tertentu menggambarkan sepenuhnya perilaku dan indera manusia tertentu: gerakan, ucapan, pendengaran, penglihatan, dll.(*diberikan ada pemrosesan yang cukup besar di luar CNS melalui ganglia, sinapsis, busur refleks, dll., tetapi argumen menggeneralisasi jika Anda memperluas vektor status untuk memasukkan fenomena ini. Saya mengecualikan ini demi kesederhanaan.) Perhatikan bahwa, yang terpenting, vektor keadaan ini tidak termasuk otak itu sendiri - tidak perlu; kami hanya peduli tentang informasi apa yang mengalir masuk dan keluar, bukan bagaimana informasi itu dihasilkan.

Sekarang, diskritkan vektor keadaan ini dan evolusinya. Misalnya, batasi resolusi temporal hingga 1 ns, resolusi spasial hingga 1 nm, aktivitas listrik hingga 1 nV, dll. Sekarang, asumsikan manusia hidup untuk waktu yang terbatas, L (hal ini berlaku untuk saat ini). Katakanlah sekarang dibutuhkan N bit untuk mendeskripsikan vektor keadaan dan sejumlah yang jauh lebih besar, Z , untuk mendeskripsikan himpunan vektor keadaan selama masa hidup manusia.

Apakah ada beberapa algoritme yang, dengan sekumpulan vektor status {z1, z2, z3, …, zn} , dapat memprediksi vektor status berikutnya zn+1 untuk beberapa manusia? Ya, tentu saja — ini adalah tabel pencarian. Pertimbangkan tabel dari setiap kemungkinan urutan vektor keadaan; masalahnya berkurang menjadi menemukan bagian tabel yang cocok dengan kumpulan vektor awal Anda, lalu mencari vektor berikutnya. Jelas, tabel pencarian ini sangat besar, seperti sangat besar dan sangat bodoh. Namun, sebagian besar dari tabel ini mungkin adalah aktivitas seperti kejang - aktivitas listrik yang benar-benar acak biasanya tidak sesuai dengan kehidupan. Porsi yang lebih kecil secara eksponensial dari tabel ini sebenarnya berisi informasi berguna yang kami pedulikan. Faktanya, hanya satu baris vektor keadaan yang berisi perilaku seumur hidup manusia yang sebenarnya. Baris lainnya berisi setiap urutan tindakan yang mungkin dapat dilakukan manusia, serta setiap urutan input sensorik yang dapat diterima manusia, dan, secara implisit, setiap respons terhadap input sensorik yang dapat diambil manusia tersebut.

Selain itu, sadari hal berikut: karena evolusi vektor keadaan ini berkelanjutan (kecuali jika alam semesta melakukan sesuatu yang sangat funky yang belum kita ketahui), maka kita dijamin dapat memperkirakan evolusi ini dengan baik secara sewenang-wenang dengan a terbatas jumlah titik data melalui teorema Stone-Weierstrass.

Sekarang, pertimbangkan ide berikut: semua jaringan saraf terkuantisasi adalah tabel pencarian terbatas yang sangat terkompresi . Ini agak konyol, tetapi secara teknis benar. Misalnya, perilaku jaringan saraf convolutional setara dengan tabel pencarian yang berisi pasangan yang cocok dari setiap kemungkinan pasangan output gambar. Memang, ketika Anda melihat jaringan saraf convolutional dalam pengertian matematis berkelanjutan, tidak ada tabel pencarian yang terbatas. Namun, beberapa jaringan, seperti transformer, secara matematis direduksi menjadi tabel pencarian terbatas (ini belum dipublikasikan di mana pun, mungkin karena mudah ditampilkan dan tidak terlalu mendalam).

Jadi, kami memiliki ide-ide berikut:

1. Semua kemungkinan perilaku manusia dan I/O sensorik/motorik dapat didekati melalui tabel pencarian terbatas
2. Tabel pencarian yang terbatas ini dapat memperkirakan perilaku manusia yang sebenarnya dengan presisi yang sewenang-wenang
3. Semua jaringan saraf adalah tabel pencarian terbatas yang sangat terkompresi, dan secara empiris melakukan pekerjaan yang sangat baik pada kompresi ini

Seharusnya jelas sekarang bahwa semua seni dapat dihasilkan oleh model statistik yang mendekati bagian kecil secara eksponensial dari tabel pencarian besar yang terbatas ini. Mengingat bahwa ada banyak sekali abstraksi/penyederhanaan yang dapat Anda buat untuk model-model ini, model statistik modern (atau model statistik masa depan) dapat menghasilkan karya seni yang bermakna menjadi semakin mudah ditelusuri.

Namun, ada satu lubang mencolok dalam argumen ini sampai sekarang: bagaimana Anda menemukan parameterisasi untuk model statistik semacam itu? Sampai sekarang, kami telah melakukan pekerjaan yang cukup baik dalam menemukan parameterisasi untuk bahasa melalui model mirip GPT yang dilatih pada korpus data yang sangat besar. Namun, kami mencapai titik di mana kami kehabisan data untuk dilatih — pada dasarnya kami menggunakan seluruh internet pada saat ini, dan selain menunggu manusia menghasilkan lebih banyak data di internet, tidak ada cara yang masuk akal untuk meningkatkan set pelatihan dengan urutan besarnya. Secara realistis, kita mungkin harus beralih ke pembelajaran penguatan (RL). OpenAI sudah melakukan ini dengan sukses yang menggelikan (lihat ChatGPT). Bayangkan sebuah mesin mirip manusia yang terus dilatih selama ~20 tahun melalui pembelajaran penguatan dengan target, kira-kira, untuk “menjalani kehidupan manusia. ” Ada kemungkinan sinyal hadiah yang memungkinkan hal ini. Dalam banyak hal, kita hanyalah jaring saraf (dengan ajauh lebih banyak bias induktif yang tersimpan dalam DNA kita) secara aktif belajar melalui pembelajaran penguatan pada sejumlah besar sinyal hadiah. Tidak ada alasan ilmiah mengapa hal ini tidak mungkin dilakukan dengan mesin. Selain itu, kami memiliki keuntungan paralelisme dengan mesin — setelah android fungsional dasar ada, kami dapat menerapkan ribuan di antaranya, dan melakukan paradigma pelatihan RL gaya mini-batch di mana satu android memperoleh pengalaman ribuan masa hidup secara bersamaan. Bagi saya, sangat sulit untuk membantah bahwa model statistik yang sangat besar yang dilatih dengan cara ini tidak akan melakukannyamenghasilkan seni yang paling kompleks, bermakna, dan luar biasa yang pernah kita lihat. Bahkan, itu mungkin akan "lebih baik" dalam seni daripada yang pernah kita bisa - itu akan mengajarkan kita hal-hal tentang realitas dan diri kita sendiri yang akan membutuhkan ribuan tahun untuk ditemukan oleh para filsuf manusia. Tentu saja, Anda bebas mengabaikan semua ini karena dibuat oleh silikon, bukan protein.

Mungkin ini bahkan di mana kita ingin spesies kita pergi di masa depan? Alih-alih melanjutkan keberadaan kita yang berliku-liku sebagai manusia yang menghancurkan semua yang kita sentuh, kita harus menciptakan makhluk masa depan — makhluk yang jauh lebih bijaksana daripada kita, diciptakan menurut citra kita. Itu mungkin akan mengakhiri perang, penyiksaan, keserakahan, penderitaan, penyakit, dan, yang paling penting, kekejaman mengerikan yang tak terhitung yang dilakukan manusia setiap hari . Mungkin agak ekstrim, tapi layak untuk dipikirkan.

Bagaimanapun, sangat mungkin bahwa dengan tujuan pembelajaran penguatan yang tepat, data yang cukup, dan beberapa model statistik yang sangat besar, kita dapat memperkirakan secara bermakna setiap aspek perilaku manusia, termasuk seni.

Tunggu, lalu apa yang membuat kita berbeda?

Tidak. Kami tidak spesial.

Atau mungkin tidak. Ada asumsi penting untuk pernyataan ini. Yakni, Anda harus peduli hanya tentang I/O umat manusia, dan bukan apa yang menghasilkan I/O ini. Ini adalah cara yang masuk akal untuk beroperasi, karena secara fungsional itulah semua orang kecuali Anda bagi Anda. Apakah Anda tahu sesuatu tentang apa yang terjadi di kepala siapa pun selain diri Anda sendiri? Jelas tidak — Anda hanya dapat melakukan yang terbaik untuk menyimpulkan apa yang terjadi di kepala orang lain berdasarkan tindakan mereka; Anda membuat model statistik implisit tentang orang seseorang dalam pikiran Anda, berdasarkan perilakunya, untuk mengkategorikannya, memahaminya, dan memprediksi perilakunya. Hmmm… pasti terdengar familiar bukan?

Apakah kita hanya model statistik? Mungkin. Atau, setidaknya, perilaku kita mungkin demikian. Banyak tugas yang dulu kami anggap rumit (seperti analogi) ternyata merupakan sifat yang muncul dari geometri manifold dimensi tinggi yang tepat (misalnya pembelajaran representasi dengan DCGANs ). Tidak ada alasan untuk percaya bahwa semua perhitungan manusia kita, kerumitan manusia kita, tidak dapat dikodekan oleh beberapa model statistik. Ini adalah bagian dari alasan saya menjadi sedikit panas ketika orang menggambarkan pembelajaran mendalam sebagai " hanya statistik " - apa yang Anda maksud dengan "adil"? Orang-orang ini sangat meremehkan betapa rumitnya statistik, atau terlalu melebih-lebihkan betapa rumitnya perilaku manusia, atau keduanya.

Jika Anda masih belum yakin, tempatkan diri Anda pada situasi berikut. Bayangkan seseorang dalam hidup Anda yang sangat Anda cintai — seseorang yang Anda rela mati untuknya, atau seseorang yang kehadirannya membuat hidup Anda layak dijalani. Bayangkan, suatu hari, lengan mereka terluka parah akibat kecelakaan kecil. Alih-alih pembuluh, jaringan, dan darah, Anda melihat kabel, papan sirkuit, dan cairan pendingin. Anda bertanya kepada mereka, “apa semua ini? Anda telah menjadi mesin sepanjang waktu? Mereka menjawab "Saya sama sekali tidak tahu, ini sama mengejutkannya dengan Anda" (mereka tidak tahu mereka tidakmanusia). Sekarang, apakah Anda masih mencintai mereka? Apakah mereka memiliki arti yang sama bagi Anda? Apakah mereka masih segalanya bagi Anda, seseorang yang Anda rela mati, seseorang yang Anda tidak bisa hidup tanpanya? Atau apakah fakta bahwa mereka adalah mesin mengubah segalanya? Pendapat Anda tentu saja milik Anda sendiri, dan saya tidak ingin membatalkan keyakinan apa pun yang Anda miliki, tetapi saya berani bertaruh Anda akan sama hancurnya jika Anda kehilangan orang itu, robot atau bukan.

Perluas gagasan ini lebih jauh - apa yang menghentikan perkiraan manusia yang sangat meyakinkan dan berbeda dari manusia ? Apa ciri kemanusiaan yang mendefinisikannya seperti itu? Dapatkah Anda menemukan sesuatu yang nyata yang memisahkan kita dari mereka ?

Bagaimanapun, agar pernyataan di atas benar, Anda harus beroperasi dengan tingkat pemahaman ilmiah kami saat ini. Pasti ada fenomena yang kita temukan di masa depan yang entah bagaimana akan memisahkan manusia dari mesin, meskipun menurut saya kecil kemungkinannya kita akan menemukan ini ( yang terpenting, saya tidak perlu merasa tidak mungkin hal-hal ini ada, hanya saja kita tidak mungkin menemukannya ). Tentu saja, jika Anda percaya pada tingkat spiritualitas apa pun di atas atheisme, maka hal di atas juga belum tentu berlaku. Saya di sini bukan untuk memperdebatkan salah satu dari ide-ide ini, saya juga bukan seorang atheist — semua yang ditulis dalam artikel ini adalah konsekuensi dari aksioma yang kami definisikan di awal, dan kami tidak memaksakan kebenaran yang pasti pada aksioma ini. Lebih jauh lagi, masalah seperti masalah kesadaran yang sulitsemakin memperumit masalah. Sampai kami memiliki jawaban yang bagus untuk ini (yang mungkin tidak pernah kami miliki), sulit untuk 100% yakin bahwa kami tidak berbeda dengan mesin. Masalah kesadaran yang sulit adalah alasan mendasar saya sebenarnya bukan athiest, dan alasan mengapa saya sedikit khawatir tentang kehidupan buatan yang akan kita ciptakan.

Ngomong-ngomong, artikel ini hanyalah cara bertele-tele untuk mempertahankan latar belakang ponsel saya yang dibuat dengan difusi stabil setelah saya bertengkar dengan teman saya. Terima kasih sudah membaca, persetan denganmu Meredith ❤️.