Metanauka modeli neuronowych

Nieformalne podsumowanie formalnej krytyki metodologii neuronauki obliczeniowej „ O wnioskowaniu logicznym nad mózgiem, zachowaniem i sztucznymi sieciami neuronowymi ” (2021) autorstwa Olivii Guest i Andrei Martin

Często zastanawiam się nad rolą modelowania komputerowego w wyjaśnianiu, jak działa mózg. Kierują mną emocje i uprzedzenia, preferencje realizmu walczące z preferencjami użyteczności. Z jednej strony większość algorytmów sieci neuronowych była w pewnym stopniu inspirowana obserwacjami biologicznymi, więc powinny mieć z tym coś wspólnego, ale z drugiej strony sieci neuronowe są zwykle projektowane przez inżynierów pracujących z bazami danych dla innych inżynierów pracujących z bazami danych . Sieci neuronowe mogą odzwierciedlać więcej tego drugiego niż pierwszego, ale zauważam tendencję ludzi, którzy chcą wierzyć, że są naprawdę podobnymi do mózgu artefaktami.

Widzimy obrazy humanoidalnych robotów używane w wielu samouczkach ML na Medium, coraz więcej naszych urządzeń nazywa się „inteligentnymi”, a słowa z kognitywistyki i psychologii, takie jak „uczenie się”, są używane zamiennie między maszynami i żywymi istotami.

Niektóre z nich mogą być po prostu inspiracją science-fiction, odrobiną szumu reklamowego, czymś, co ma zainteresować ludzi (i sfinansować) badania w zakresie informatyki/obliczeniowej statystyki stosowanej. Być może bardziej problematyczne byłoby, gdyby ludzie używający komputerów do zrozumienia mózgu, neuronaukowcy obliczeniowi, dali się w to wciągnąć. Właśnie to się dzieje i o czym jest artykuł Guesta i Martina z 2021 roku.

Kiedy neuronaukowiec zajmujący się obliczeniami chce dowiedzieć się czegoś o tym, jak działa mózg, ma tendencję do tworzenia jego modelu za pomocą sztucznej sieci neuronowej (ANN). Ponieważ zebrano ogromną ilość danych o mózgach iz mózgów, można po prostu wrzucić te dane do modelu sieci neuronowej, a jeśli wyniki wyglądają jak dane dotyczące mózgu, to model musi zapewniać pewien wgląd w sam mózg , prawo?

Autorzy pokazują, że nie, nie są one równoważne. Ze względu na zjawisko „wielokrotnej realizacji” wiele różnych rzeczy może wywołać ten sam rodzaj działania. Nie oznacza to, że oba są takie same lub że jeden wyjaśnia drugi. W rzeczywistości jest to błąd logiczny zwany potwierdzaniem następnika .

Klasycznym przykładem w logice klasycznej ważnego argumentu jest Modus Ponens, czyli „potwierdzenie poprzednika”:

Jak można się domyślić, potwierdzanie następnika jest myleniem P i Q po prawej stronie równania.

„Jeśli ktoś mieszka w San Diego, to mieszka w Kalifornii. Joe mieszka w Kalifornii. Dlatego Joe mieszka w San Diego” (przykład z Wikipedii)

lub ze str. 6 artykułu:

„Jeśli model robi to, co robią ludzie, to model przybliża ludzkie dane behawioralne i/lub neuroobrazowe. (Q → P).”

Nie jest to logiczne, ale, jak podkreślają autorzy, jest niemal wszechobecne w komputerowym modelowaniu mózgu. Tak bardzo, że naukowcy naprawdę w to wierzą, podczas gdy w rzeczywistości mylą „moc przewidywania” z „cnotą wyjaśniającą”

Neurobiolodzy obliczeniowi często używają modeli. Na przykład możemy spojrzeć na broszurę programową z konferencji COmputational and SYstems NEuroscience ( COSYNE ) 2021 i zobaczyć, ile wierszy zawierających słowo „model” zostało zwróconych, uruchamiając plik pdf za pomocą narzędzia wyszukiwania grep i narzędzia do liczenia słów wc :

lesspipe Cosyne2021_program_book.pdf | grep [M,m]odel | wc

Modele są nadal przydatne! Są podstawą większości tego, czym jest nauka. Interpretacja jest jednak kolejnym istotnym aspektem nauki. Każdy, kto „zajmuje się nauką”, musi być w stanie metanaukowo przeanalizować nasze metody, teorie i interpretacje, aby mieć pewność, że nasze stwierdzenia są ważne, a nie po prostu rzucać prawdziwymi odczuciami. W neuronauce poznawczo-obliczeniowej, zauważają Guest i Martin, istnieje ogromna pokusa, aby to zrobić, ponieważ wciąż nie ma zgody co do tego, co tak naprawdę robi tłusta, naelektryzowana plama w naszych głowach. Ludzie chwytają się prawdy, podczas gdy wszystko, co mamy, to dane.

„Dane z mózgu nie są same w sobie mechanistycznie pouczające”.

Teorie z pewnością mogą i powinny opierać się na danych, ale dane nie wystarczą, aby stworzyć teorię tego, jak coś działa. Jeśli się to przyjmie, istnieje ryzyko stwierdzenia, że ​​coś jest prawdziwe, podczas gdy tak naprawdę było to tylko założenie, które nie jest nauką. Nauka stara się wyjaśniać, pomagać ludziom zrozumieć świat. Przewidywanie to nie to samo, co rozumienie , chociaż jest potężnym narzędziem, gdy jest właściwie używane, jako narzędzie eksploracji, a nie wyjaśnienia.

Ponieważ, jak podkreślają autorzy, nie wiemy jeszcze, co to znaczy, że coś jest „biologicznie wykonalne”, być może możemy zrezygnować z prób łączenia koncepcji biologicznego NN i sztucznego NN, dopóki nie dowiemy się więcej o pierwszy, a drugi wykorzystuje do robienia tego, co robi najlepiej: przetwarzania ogromnych ilości danych obliczeniowo.

Istnieje wiele zastosowań SSN w danych neurologicznych, które nie są przedstawiane jako wyjaśnienia. Analiza szeregów czasowych EEG w celu przewidywania napadów padaczkowych, automatyczne analizowanie danych MRI w celu znajdowania trudnych do wykrycia zmian chorobowych, znajdowanie ukrytych wzorców czasowych w rytmach pociągów szczytowych itp. W ten sposób neuronauka teoretyczna może wrócić do teorii i tworzenia modeli z „wiarygodnością neurokognitywną” ” w głowie od samego początku, zamiast modeli zrodzonych z „celów inżynierskich”.

Czy projektowanie eleganckich robotów jest podstawowym celem neuronauki obliczeniowej? Nie sądzę, że tak powinno być. Mam nadzieję, że celem byłoby zrozumienie mózgu, umysłu i życia, które ich używają. Prace metanaukowe, takie jak ten artykuł, są bardzo ważne, aby utrzymać naukowców w zgodzie z tym celem. Nauka* jest zwykle praktyką „tworzenia prawdy” w społeczeństwie, więc upewnienie się, że jest to rzeczywiście prawda, a nie tylko fajne przedstawienia, które wydają się prawdziwe, powinno być najwyższym priorytetem.

(*w tym nauka o danych)