Метанаука нейронных моделей

Неофициальное резюме формальной критики методологии вычислительной нейронауки « О логическом выводе о мозге, поведении и искусственных нейронных сетях » (2021 г.) Оливии Гест и Андреа Мартин.

Я часто возвращаюсь назад, когда думаю о роли вычислительного моделирования в объяснении того, как работает мозг. На меня влияют эмоции и предубеждения, предпочтение реализма борется с предпочтением полезности. С одной стороны, большинство алгоритмов нейронных сетей были вдохновлены наблюдениями над биологией, поэтому они должны иметь какое- то отношение к ней, но, с другой стороны, нейронные сети обычно разрабатываются инженерами, работающими с базами данных, для других инженеров, работающих с базами данных. . Нейронные сети могут отражать больше второго, чем первого, но я замечаю склонность людей верить, что они действительно мозгоподобные артефакты.

Мы видим изображения роботов-гуманоидов, используемые во многих учебниках по машинному обучению на Medium, все больше и больше наших устройств называют «умными», а слова из когнитивной науки и психологии, такие как «обучение», используются взаимозаменяемо между машинами и живыми существами.

Что-то из этого может быть просто вдохновением для научной фантастики, немного шумихи, чем-то, что заинтересует людей (и профинансирует) исследования в области компьютерных наук/вычислительной прикладной статистики. Возможно, более проблематичным было бы, если бы люди, использующие компьютеры для изучения мозга, вычислительные нейробиологи, увязли в вере в это. Именно это и происходит, и о чем статья Гест и Мартин за 2021 год.

Когда вычислительный нейробиолог хочет узнать что-то о том, как работает мозг, он, как правило, создает его модель с помощью искусственной нейронной сети (ИНС). Поскольку о мозге и из него собирается огромное количество данных, можно просто добавить эти данные в модель нейронной сети, и если результаты будут похожи на данные о мозге, то модель должна давать некоторое представление о самом мозге. , Правильно?

Авторы показывают, что нет, они не эквивалентны. Из-за явления «множественной реализуемости» несколько разных вещей могут производить один и тот же тип действия. Это не значит, что они одинаковы или что одно объясняет другое. На самом деле это логическая ошибка, называемая утверждением следствия .

Классический пример в классической логике действительного аргумента — это Modus Ponens, или «подтверждение антецедента»:

Как вы можете догадаться, утверждение следствия означает смешение P и Q в правой части уравнения.

«Если кто-то живет в Сан-Диего, то он живет в Калифорнии. Джо живет в Калифорнии. Поэтому Джо живет в Сан-Диего» (пример из Википедии).

или, со стр. 6 бумаги:

«Если модель делает то, что делают люди, то она аппроксимирует данные человеческого поведения и/или данные нейровизуализации. (Q → P)».

Это нелогично, но, как отмечают авторы, почти повсеместно используется в вычислительном моделировании мозга. Настолько, что исследователи, кажется, действительно верят в это, когда на самом деле они смешивают «предсказательную силу» с «объяснительной добродетелью».

Вычислительные нейробиологи часто используют модели. Например, мы можем посмотреть программный буклет с конференции COMputational and SYstems NEuroscience ( COSYNE ) 2021 года и посмотреть, сколько строк, содержащих слово «модель», возвращается при запуске pdf через инструмент поиска grep и инструмент подсчета слов wc. :

lesspipe Cosyne2021_program_book.pdf | grep [M,m]odel | wc

Модели пригодятся еще! Они лежат в основе большей части того, чем является наука. Интерпретация, однако, является еще одним жизненно важным аспектом науки. Любой, кто «занимается наукой», должен иметь возможность метанаучно анализировать наши методы, теории и интерпретации, чтобы быть уверенным в том, что наши утверждения верны, а не просто разбрасывать истинные аналогии. В когнитивной вычислительной нейробиологии, отмечают Гест и Мартин, существует огромное искушение сделать это, потому что до сих пор нет единого мнения о том, что на самом деле делает жирный наэлектризованный шарик в наших головах. Люди хватаются за правду, когда все, что у нас есть, — это данные.

«Данные из мозга сами по себе не являются механистически информативными».

Теории, безусловно, могут и должны быть основаны на данных, но данных недостаточно, чтобы создать теорию того, как что-то работает. Если это предполагается, то есть риск объявить что-то истинным, хотя на самом деле это было просто предположение, которое не является наукой. Наука стремится объяснить, помочь людям понять мир. Предсказание — это не то же самое, что понимание , хотя при правильном использовании это мощный инструмент, как инструмент исследования, а не объяснения.

Поскольку, как отмечают авторы, мы еще не знаем, что значит быть «биологически осуществимым», возможно, мы можем отступить от попыток смешать концепции биологической НС и искусственной НС до тех пор, пока не узнаем больше о первое и использовать второе для того, что у него получается лучше всего: для вычислительной обработки огромных объемов данных.

Существует ряд применений ИНС к данным нейронауки, которые не оформлены как объяснения. Анализ временных рядов ЭЭГ для прогнозирования таких вещей, как припадки, автоматический анализ данных МРТ для обнаружения трудноопределяемых поражений, обнаружение скрытых временных паттернов в ритмах спайков и т. д. Таким образом, теоретическая неврология может вернуться к теории и созданию моделей с «нейрокогнитивной достоверностью». ” с самого начала, а не модели, рожденные из “инженерных целей”.

Является ли создание гладких роботов основной целью вычислительной нейронауки? Я не думаю, что это должно быть. Я надеюсь, что цель будет состоять в том, чтобы понять мозг, разум и жизни тех, кто их использует. Метанаучная работа, подобная этой статье, очень важна для того, чтобы ученые шли к этой цели. Наука*, как правило, является практикой «установления истины» в обществе, поэтому главным приоритетом должно быть обеспечение того, чтобы она была действительно правдой , а не просто крутыми представлениями, которые кажутся правдой .

(*включая науку о данных)