ИИ сошел с ума?

На моем первом академическом занятии по ИИ профессор подходит к доске и пишет два слова: «Наука» и «Инженерия». Это, по его словам, две стороны ИИ — научный проект заключается в использовании вычислительного моделирования для понимания механизмов человеческого интеллекта — компьютерных программ, которые сами по себе являются научными теориями. Из этого естественным образом выросла бы инженерия. По мере развития научных идей естественным образом будут появляться инженерные возможности для приложений ИИ.

Это был конец 1980-х годов, и профессором был Митч Маркус, уже известный своей докторской диссертацией, в которой он написал программу для разбора предложений. Парсер Маркуса был разработан таким образом, что он, казалось, улавливал загадочную, но фундаментальную особенность языка: «островные ограничения». Это связано с тем, что текст — это не просто последовательность слов. Скорее, слова зависят друг от друга по-разному. И слово может зависеть от другого слова, даже если они очень далеко друг от друга. Но эта большая свобода словесных отношений уравновешивается удивительным фактом — в некоторых конструкциях, называемых «островками», два слова не могут относиться друг к другу. Это интригующее ограничение, которое, по-видимому, ускользало от внимания лингвистов в течение тысячелетий, пока не было обнаружено Джоном Россом в 1960-х годах.

Гениальность парсера Маркуса заключалась в том, что он показал, как (некоторые аспекты) островных ограничений могут быть своего рода побочным эффектом внутренней работы программы синтаксического анализа, работающей в головах людей. И именно эту ментальную программу Маркус намеревался эмулировать с помощью своего синтаксического анализатора. Это был классический пример ИИ как науки — программой была научная теория: простая, элегантная и поучительная.

Я думал об этом, когда читал о мучительном опыте Кевина Руза с чат-ботом Bing , который за двухчасовой разговор
выявил темные импульсы и опасные желания, оставив технического журналиста «глубоко неустроенным, даже напуганным». Генеральный директор Microsoft не смог объяснить поведение своего разрекламированного продукта, выдвинув неубедительное предположение, что Рузу следует сократить свои разговоры. Нам удалось создать впечатляющую языковую машину. Но мы не можем объяснить, почему он делает то, что делает, потому что не понимаем, как он работает.

Исследования ИИ в значительной степени превратились в занятие инженерией в отсутствие науки. Современные чат-боты обладают впечатляющими языковыми и логическими способностями, и многое известно о механизмах, лежащих в основе этих человеческих способностей, в таких областях, как лингвистика, логика и психология. Тем не менее, чат-боты построены таким образом, что полностью игнорируют эти своды знаний. Например, наблюдается неуклонный рост объема данных, необходимых для обучения этих систем чат-ботов, которые известны как большие языковые модели. Модель GPT3, обученная примерно 500 миллиардам слов, по-видимому, в значительной степени овладела грамматикой, хотя точную степень ее грамматических способностей установить трудно. И совершенно непонятно, как эти грамматические способности появились в процессе обучения. Почему, например, нужны ли сотни миллиардов слов? Что бы ни происходило, это должно быть чрезвычайно грубым по сравнению с человеческим обучением, поскольку дети овладевают грамматикой после того, как столкнулись с очень небольшой частью объема данных, необходимых для GPT3.

Какой, в конце концов, смысл заниматься инженерией, не привязанной к научному пониманию? Проект ИИ — это великая научная задача нашего времени. Возможно, наука никогда не сможет осветить внутреннее пространство человеческого разума так, как она это сделала с планетами, звездами и галактиками космического пространства. Но я, например, настроен оптимистично.

Технологические гиганты, такие как Microsoft и Google, используют огромные ресурсы для создания все более крупных языковых моделей в проектах, которые вполне можно назвать лунными выстрелами. Но это как если бы мы начали отправлять ракеты на Луну, не разобравшись сначала с теорией относительности или даже с законами движения Ньютона. При достаточном усилии грубой силы можно было бы поразить Луну. Но это потребовало бы ошеломляющей траты ресурсов и, несомненно, привело бы ко всем видам непредвиденного вреда. Но самое главное, это было бы не очень интересно.