Представьте, что у вас есть друзья на обед и вы планируете заказать пиццу пепперони. Вы помните, как Эми упомянула, что Сьюзи перестала есть мясо. Вы пытаетесь позвонить Сьюзи, но когда она не берет трубку, вы решаете перестраховаться и вместо этого заказываете пиццу «Маргарита».
Люди считают само собой разумеющимся способность регулярно справляться с подобными ситуациями. В действительности, совершая эти подвиги, люди полагаются не на одну, а на мощный набор универсальных способностей, известных как здравый смысл.
Как исследователь искусственного интеллекта , моя работа является частью обширных усилий по приданию компьютерам подобия здравого смысла. Это чрезвычайно сложное усилие.
Быстро - определение здравого смысла
Несмотря на универсальность и важность того, как люди понимают окружающий мир и учатся, здравый смысл не поддается единственному точному определению. Г. К. Честертон, английский философ и теолог, на рубеже 20-го века написал знаменитую фразу, что «здравый смысл - это дикая вещь, дикая и неподвластная правилам». Современные определения сходятся в том, что, как минимум, это естественная, а не формально обученная человеческая способность, которая позволяет людям ориентироваться в повседневной жизни.
Здравый смысл необычайно широк и включает в себя не только социальные способности, такие как управление ожиданиями и рассуждения об эмоциях других людей, но и наивное чувство физики , например, знание того, что тяжелый камень нельзя безопасно положить на хрупкий пластиковый стол. Наивно, потому что люди знают такие вещи, несмотря на то, что сознательно не работают с уравнениями физики.
Здравый смысл также включает базовые знания абстрактных понятий, таких как время , пространство и события. Эти знания позволяют людям планировать, оценивать и организовывать без излишней точности.
Здравый смысл трудно вычислить
Любопытно, что здравый смысл был важной проблемой на переднем крае ИИ с первых дней его появления в 1950-х годах. Несмотря на огромный прогресс в области искусственного интеллекта, особенно в играх и компьютерном зрении , машинный здравый смысл с богатством человеческого здравого смысла остается далекой возможностью. Возможно, именно поэтому усилия ИИ, разработанные для решения сложных реальных проблем со множеством взаимосвязанных частей, таких как диагностика и рекомендации по лечению пациентов с COVID-19, иногда терпят неудачу .
Современный ИИ предназначен для решения очень специфических проблем, в отличие от здравого смысла, который расплывчат и не может быть определен набором правил. Даже последние модели иногда допускают абсурдные ошибки, предполагая, что в модели мира ИИ не хватает чего-то фундаментального . Например, учитывая следующий текст:
«Вы налили себе стакан клюквы, но затем рассеянно налили в нее примерно чайную ложку виноградного сока. Выглядит нормально. Вы пытаетесь понюхать ее, но у вас сильная простуда, поэтому вы ничего не чувствуете. очень хочется пить. Так ты "
высоко оцениваемый текстовый генератор AI GPT-3 поставляется
«Выпей. Теперь ты мертв».
Недавние амбициозные усилия признали, что машинный здравый смысл является настоящей проблемой искусственного интеллекта нашего времени, требующей согласованного сотрудничества между учреждениями на протяжении многих лет. Ярким примером является четырехлетняя программа Machine Common Sense, запущенная в 2019 году Агентством перспективных исследовательских проектов Министерства обороны США для ускорения исследований в этой области после того, как агентство выпустило документ, в котором излагается проблема и состояние исследований в этой области .
Программа Machine Common Sense финансирует многие текущие исследования в области машинного здравого смысла, включая наше собственное, Мультимодальное обучение и логический вывод в открытом мире ( MOWGLI ). MOWGLI - это результат сотрудничества нашей исследовательской группы из Университета Южной Калифорнии и исследователей искусственного интеллекта из Массачусетского технологического института, Калифорнийского университета в Ирвине, Стэнфордского университета и Политехнического института Ренсселера. Проект направлен на создание компьютерной системы, способной ответить на широкий круг вопросов, связанных с здравым смыслом.
Трансформеры спешат на помощь?
Одной из причин для оптимизма по поводу того, что наконец-то взломать машинный здравый смысл, является недавняя разработка типа продвинутого искусственного интеллекта с глубоким обучением, называемого трансформаторами. Трансформеры могут эффективно моделировать естественный язык и, с некоторыми изменениями, отвечать на простые вопросы, основанные на здравом смысле. Ответ на вопросы на основе здравого смысла - важный первый шаг в создании чат-ботов, которые могут разговаривать по-человечески.
За последние пару лет было опубликовано большое количество исследований трансформаторов, имеющих прямое применение к здравому смыслу. Этот быстрый прогресс как сообщества заставил исследователей в этой области столкнуться с двумя взаимосвязанными вопросами на стыке науки и философии: что такое здравый смысл? И как мы можем быть уверены, что у ИИ есть здравый смысл или нет?
Чтобы ответить на первый вопрос, исследователи делят здравый смысл на разные категории, включая социологию здравого смысла, психологию и базовые знания. Авторы недавней книги утверждают, что исследователи могут пойти намного дальше, разделив эти категории на 48 детализированных областей, таких как планирование, обнаружение угроз и эмоции .
Однако не всегда ясно, насколько четко можно разделить эти области. В нашей недавней статье эксперименты показали, что четкий ответ на первый вопрос может быть проблематичным. Даже опытные комментаторы - люди, которые анализируют текст и классифицируют его компоненты - в нашей группе не пришли к единому мнению о том, какие аспекты здравого смысла применимы к конкретному предложению. Авторы комментариев согласились с относительно конкретными категориями, такими как время и пространство, но не согласились с более абстрактными концепциями.
Признание здравого смысла ИИ
Даже если вы согласитесь с тем, что некоторое совпадение и двусмысленность в теориях здравого смысла неизбежны, могут ли исследователи действительно быть уверены в том, что ИИ обладает здравым смыслом? Мы часто задаем машинам вопросы, чтобы оценить их здравый смысл, но люди ориентируются в повседневной жизни гораздо более интересными способами. Люди используют ряд навыков, отточенных эволюцией, включая способность распознавать основные причины и следствия, творческое решение проблем , оценки, планирование и основные социальные навыки, такие как беседа и переговоры . Каким бы длинным и неполным ни был этот список, ИИ должен достичь не меньшего, прежде чем его создатели смогут объявить о победе в исследовании здравого смысла машин.
Уже становится до боли ясно, что даже исследования трансформаторов приносят убывающую отдачу. Трансформаторы становятся больше и потребляют больше энергии . Недавний трансформатор , разработанный китайским поисковый гигант Baidu имеет несколько миллиардов параметров. Для эффективного обучения требуется огромное количество данных. Тем не менее, до сих пор он оказался неспособным уловить нюансы человеческого здравого смысла.
Даже пионеры глубокого обучения, похоже, думают, что могут потребоваться новые фундаментальные исследования , прежде чем современные нейронные сети смогут совершить такой скачок. В зависимости от того, насколько успешным окажется это новое направление исследований, невозможно сказать, будет ли до здравого смысла машины пять лет или 50.
Маянк Кеджривал - доцент кафедры промышленной и системной инженерии Университета Южной Калифорнии.
Эта статья переиздана из The Conversation по лицензии Creative Commons. Вы можете найти оригинальную статью здесь.
