Metasains Model Neural

Ringkasan informal kritik formal terhadap metodologi dalam ilmu saraf komputasi, “ Tentang inferensi logis atas otak, perilaku, dan jaringan saraf tiruan ” (2021) oleh Olivia Guest dan Andrea Martin

Saya sering bolak-balik ketika memikirkan peran pemodelan komputasi dalam menjelaskan cara kerja otak. Saya terpengaruh oleh emosi dan bias, preferensi untuk realisme bergulat dengan preferensi untuk utilitas. Di satu sisi, sebagian besar algoritme jaringan saraf agak terinspirasi oleh pengamatan biologi, jadi mereka seharusnya ada hubungannya dengan itu, tetapi di sisi lain, jaringan saraf biasanya dirancang oleh insinyur yang bekerja dengan basis data untuk insinyur lain yang bekerja dengan basis data. . Jaringan saraf mungkin lebih mencerminkan yang terakhir daripada yang pertama, tetapi saya melihat kecenderungan orang yang ingin percaya bahwa mereka benar-benar artefak otak.

Kami melihat gambar robot humanoid digunakan dalam banyak tutorial ML di Medium, semakin banyak perangkat kami yang disebut "pintar", dan kata-kata dari ilmu kognitif dan psikologi seperti "belajar" digunakan secara bergantian antara mesin dan makhluk hidup.

Beberapa di antaranya mungkin hanya inspirasi sci-fi, sedikit hype, sesuatu untuk membuat orang tertarik (dan mendanai) ilmu komputer/penelitian statistik terapan komputasi. Mungkin yang lebih bermasalah adalah jika orang yang menggunakan komputer untuk memahami otak, ahli saraf komputasi, terjebak dalam mempercayai hal itu. Inilah tepatnya yang terjadi, dan tentang makalah Guest dan Martin tahun 2021.

Ketika seorang ahli saraf komputasi ingin mengetahui sesuatu tentang cara kerja otak, mereka cenderung membuat modelnya menggunakan Artificial Neural Net (ANN). Karena ada sejumlah besar data yang dikumpulkan tentang dan dari otak, seseorang dapat dengan mudah memasukkan data tersebut ke dalam model jaringan saraf, dan jika hasilnya terlihat seperti data otak, maka model tersebut harus memberikan wawasan tentang otak itu sendiri. , Baik?

Para penulis menunjukkan bahwa, tidak, mereka tidak setara. Disebabkan oleh fenomena “multiple realability”, banyak hal yang berbeda dapat menghasilkan jenis tindakan yang sama. Itu tidak berarti keduanya sama, atau yang satu menjelaskan yang lain. Ini sebenarnya adalah kekeliruan logis yang disebut dengan menegaskan konsekuensinya .

Contoh klasik dalam logika klasik dari argumen yang valid adalah Modus Ponens, atau “menegaskan anteseden”:

Seperti yang Anda duga, menegaskan konsekuensinya adalah membingungkan P dan Q di sisi kanan persamaan.

“Jika seseorang tinggal di San Diego, maka mereka tinggal di California. Joe tinggal di California. Oleh karena itu, Joe tinggal di San Diego” (contoh Wikipedia)

atau, dari hal. 6 makalah:

“Jika model melakukan apa yang dilakukan orang, maka model tersebut mendekati data perilaku manusia dan/atau neuroimaging. (Q → P).”

Ini tidak logis, tetapi, seperti yang penulis tunjukkan, ini hampir ada di mana-mana dalam pemodelan komputasi otak. Sedemikian rupa sehingga para peneliti tampaknya benar-benar mempercayainya, padahal sebenarnya mereka menggabungkan "kekuatan prediksi" dengan "kebajikan penjelas"

Ahli saraf komputasi banyak menggunakan model. Sebagai contoh, kita dapat melihat buklet program dari konferensi COmputational and SYstems NEuroscience ( COSYNE ) 2021 dan melihat berapa banyak baris yang berisi kata "model" yang dikembalikan dengan menjalankan pdf melalui alat pencarian grep dan alat penghitung kata wc :

lesspipe Cosyne2021_program_book.pdf | grep [M,m]odel | wc

Model masih berguna! Mereka adalah dasar dari sebagian besar ilmu pengetahuan. Namun, interpretasi adalah aspek penting lain dari sains. Siapa pun yang "melakukan sains" harus dapat menganalisis metode, teori, dan interpretasi kami secara meta-ilmiah untuk memastikan bahwa pernyataan kami valid, dan tidak hanya membuang analogi perasaan yang sebenarnya di luar sana. Dalam ilmu saraf komputasi kognitif, Guest dan Martin menunjukkan, ada godaan besar untuk melakukan ini, karena masih belum ada konsensus tentang apa yang sebenarnya dilakukan oleh gumpalan lemak dan listrik di kepala kita. Orang-orang menggenggam kebenaran ketika yang kita miliki hanyalah data.

“Data dari otak pada dasarnya tidak informatif secara mekanis.”

Teori pasti bisa, dan seharusnya, berdasarkan data, tetapi data tidak cukup untuk membuat teori tentang bagaimana sesuatu bekerja. Jika ini diasumsikan, maka ada risiko menyatakan sesuatu sebagai benar padahal itu hanya asumsi, yang bukan sains. Sains terlihat menjelaskan, membantu orang memahami dunia. Prediksi tidak sama dengan pemahaman , meskipun merupakan alat yang ampuh jika digunakan dengan benar, sebagai alat eksplorasi bukan penjelasan.

Karena, seperti yang ditunjukkan oleh penulis, kita belum tahu apa artinya sesuatu yang "layak secara biologis", mungkin kita dapat mundur dari mencoba memadukan konsep NN Biologis dan NN Buatan, sampai lebih banyak dipelajari tentang sebelumnya, dan gunakan yang terakhir untuk melakukan yang terbaik: memproses data dalam jumlah besar secara komputasi.

Ada sejumlah aplikasi JST untuk data ilmu saraf yang tidak dibingkai sebagai penjelasan. Analisis deret waktu EEG untuk memprediksi hal-hal seperti kejang, mengurai data MRI secara otomatis untuk menemukan lesi yang sulit ditemukan, menemukan pola temporal tersembunyi dalam ritme kereta lonjakan, dll. Dengan cara itu ilmu saraf teoretis dapat kembali ke teori dan pembuatan model dengan “masuk akal neurokognitif ” dalam pikiran sejak awal, alih-alih model yang lahir dari “tujuan rekayasa”.

Apakah rekayasa robot ramping merupakan tujuan mendasar dari ilmu saraf komputasi? Saya tidak berpikir itu harus. Saya berharap tujuannya adalah untuk memahami otak, pikiran, dan kehidupan yang menggunakannya. Karya metascientific seperti makalah ini sangat penting untuk menjaga para ilmuwan tetap selaras dengan tujuan tersebut. Sains* cenderung menjadi praktik “pembentukan kebenaran” di masyarakat, jadi memastikan bahwa itu memang benar dan bukan sekadar representasi keren yang terkesan benar, harus menjadi prioritas utama.

(*termasuk ilmu data)