Wyobraź sobie, że masz znajomych na lunch i planujesz zamówić pizzę pepperoni. Pamiętasz, jak Amy wspominała, że Susie przestała jeść mięso. Próbujesz zadzwonić do Susie, ale kiedy nie odbiera, decydujesz się zachować ostrożność i po prostu zamawiasz pizzę margherita.
Ludzie przyjmują za pewnik umiejętność regularnego radzenia sobie z takimi sytuacjami. W rzeczywistości, dokonując tych wyczynów, ludzie polegają nie na jednym, ale potężnym zestawie uniwersalnych zdolności znanych jako zdrowy rozsądek.
Jako badacz sztucznej inteligencji moja praca wpisuje się w szeroko zakrojony wysiłek nadania komputerom pozorów zdrowego rozsądku. To niezwykle trudny wysiłek.
Szybki – Zdefiniuj zdrowy rozsądek
Pomimo tego, że jest zarówno uniwersalny, jak i niezbędny do tego, jak ludzie rozumieją otaczający ich świat i uczą się, zdrowy rozsądek przeciwstawił się jednej precyzyjnej definicji. GK Chesterton, angielski filozof i teolog, napisał na przełomie XIX i XX wieku, że „zdrowy rozsądek to rzecz dzika, dzika i poza regułami”. Współczesne definicje są zgodne, że przynajmniej jest to naturalna, a nie formalnie wyuczona ludzka zdolność, która pozwala ludziom poruszać się w codziennym życiu.
Zdrowy rozsądek jest niezwykle szeroki i obejmuje nie tylko umiejętności społeczne, takie jak radzenie sobie z oczekiwaniami i wnioskowanie o emocjach innych ludzi, ale także naiwne poczucie fizyki , takie jak świadomość, że ciężkiego kamienia nie można bezpiecznie umieścić na cienkim plastikowym stole. Naiwny, ponieważ ludzie wiedzą takie rzeczy, mimo że nie pracują świadomie z równaniami fizyki.
Zdrowy rozsądek obejmuje również podstawową wiedzę na temat pojęć abstrakcyjnych, takich jak czas , przestrzeń i zdarzenia. Ta wiedza pozwala ludziom planować, szacować i organizować bez konieczności zbytniej precyzji.
Zdrowy rozsądek jest trudny do obliczenia
Co ciekawe, zdrowy rozsądek był ważnym wyzwaniem na pograniczu sztucznej inteligencji od najwcześniejszych dni tej dziedziny w latach pięćdziesiątych. Pomimo ogromnych postępów w sztucznej inteligencji, zwłaszcza w grach i wizji komputerowej , maszynowy zdrowy rozsądek z bogactwem ludzkiego zdrowego rozsądku pozostaje odległą możliwością. Być może dlatego wysiłki AI zaprojektowane z myślą o złożonych, rzeczywistych problemach z wieloma przeplatającymi się elementami, takimi jak diagnozowanie i zalecanie leczenia pacjentów z COVID-19, czasami kończą się niepowodzeniem .
Nowoczesna sztuczna inteligencja ma na celu rozwiązywanie bardzo specyficznych problemów, w przeciwieństwie do zdrowego rozsądku, który jest niejasny i nie można go zdefiniować za pomocą zestawu zasad. Nawet najnowsze modele czasami popełniają absurdalne błędy, co sugeruje, że w światowym modelu AI brakuje czegoś fundamentalnego . Na przykład, biorąc pod uwagę następujący tekst:
„Nalałeś sobie szklankę żurawiny, ale potem z roztargnieniem nalałeś do niej łyżeczkę soku winogronowego. Wygląda dobrze. Próbujesz go powąchać, ale masz silne przeziębienie, więc nic nie czujesz. bardzo spragniony. Więc ty"
silnie reklamowany AI generator tekst GPT-3 dostarczane
"Wypij to. Jesteś teraz martwy."
Niedawne ambitne wysiłki uznały zdrowy rozsądek maszyn za problem związany ze sztuczną inteligencją w naszych czasach, który wymaga skoordynowanej współpracy między instytucjami przez wiele lat. Godnym uwagi przykładem jest czteroletni program Machine Common Sense uruchomiony w 2019 r. przez amerykańską Agencję Zaawansowanych Projektów Badawczych Obrony w celu przyspieszenia badań w tej dziedzinie po tym, jak agencja opublikowała dokument opisujący problem i stan badań w tej dziedzinie .
Program Machine Common Sense finansuje wiele bieżących wysiłków badawczych w zakresie zdrowego rozsądku maszynowego, w tym nasze własne, multimodalne, oparte na otwartym świecie, ugruntowane uczenie się i wnioskowanie ( MOWGLI ). MOWGLI to efekt współpracy między naszą grupą badawczą z Uniwersytetu Południowej Kalifornii a naukowcami zajmującymi się sztuczną inteligencją z Massachusetts Institute of Technology, University of California w Irvine, Stanford University i Rensselaer Polytechnic Institute. Projekt ma na celu zbudowanie systemu komputerowego, który będzie w stanie odpowiedzieć na wiele zdroworozsądkowych pytań.
Transformatory na ratunek?
Jednym z powodów, aby optymistycznie podejść do ostatecznego złamania zdrowego rozsądku maszynowego, jest niedawny rozwój zaawansowanej sztucznej inteligencji do głębokiego uczenia się zwanej transformatorami. Transformatory są w stanie modelować język naturalny w potężny sposób i, z pewnymi poprawkami, są w stanie odpowiedzieć na proste, zdroworozsądkowe pytania. Zdroworozsądkowe odpowiadanie na pytania jest niezbędnym pierwszym krokiem do budowania chatbotów, które potrafią rozmawiać w sposób podobny do ludzkiego.
W ciągu ostatnich kilku lat opublikowano wiele badań dotyczących transformatorów, mających bezpośrednie zastosowanie w zdroworozsądkowym rozumowaniu. Ten szybki postęp jako społeczności zmusił badaczy w tej dziedzinie do stawienia czoła dwóm powiązanym pytaniom z pogranicza nauki i filozofii: Czym jest zdrowy rozsądek? A jak możemy być pewni, że sztuczna inteligencja ma zdrowy rozsądek, czy nie?
Aby odpowiedzieć na pierwsze pytanie, naukowcy dzielą zdrowy rozsądek na różne kategorie, w tym zdroworozsądkową socjologię, psychologię i wiedzę podstawową. Autorzy niedawnej książki twierdzą, że badacze mogą pójść znacznie dalej, dzieląc te kategorie na 48 szczegółowych obszarów, takich jak planowanie, wykrywanie zagrożeń i emocje .
Jednak nie zawsze jest jasne, jak czysto można oddzielić te obszary. W naszym ostatnim artykule eksperymenty sugerowały, że jednoznaczna odpowiedź na pierwsze pytanie może być problematyczna. Nawet doświadczeni adnotatorzy – ludzie, którzy analizują tekst i kategoryzują jego elementy – w naszej grupie nie zgadzali się co do tego, które aspekty zdrowego rozsądku mają zastosowanie do konkretnego zdania. Adnotatorzy zgodzili się na stosunkowo konkretne kategorie, takie jak czas i przestrzeń, ale nie zgodzili się na bardziej abstrakcyjne koncepcje.
Rozpoznawanie AI Common Sense
Nawet jeśli zaakceptujesz, że pewne nakładanie się i niejednoznaczność w teoriach zdrowego rozsądku jest nieuniknione, czy badacze kiedykolwiek będą naprawdę pewni, że sztuczna inteligencja ma zdrowy rozsądek? Często zadajemy maszynom pytania, aby ocenić ich zdrowy rozsądek, ale ludzie poruszają się w codziennym życiu w znacznie ciekawszy sposób. Ludzie wykorzystują szereg umiejętności udoskonalonych przez ewolucję, w tym umiejętność rozpoznawania podstawowych przyczyn i skutków, kreatywne rozwiązywanie problemów , szacowanie, planowanie i podstawowe umiejętności społeczne, takie jak rozmowa i negocjacje . Choć ta lista może być długa i niekompletna, sztuczna inteligencja powinna osiągnąć nie mniej, zanim jej twórcy będą mogli ogłosić zwycięstwo w badaniach nad maszynami.
Już teraz staje się boleśnie jasne, że nawet badania nad transformatorami przynoszą coraz mniejsze zyski. Transformatory stają się coraz większe i coraz bardziej energochłonne . Niedawny transformator opracowane przez chińskie wyszukiwarki Baidu gigant ma kilka miliardów parametry. Efektywne szkolenie wymaga ogromnej ilości danych. Jednak jak dotąd okazało się, że nie jest w stanie uchwycić niuansów ludzkiego zdrowego rozsądku.
Wydaje się, że nawet pionierzy głębokiego uczenia się sądzą, że zanim dzisiejsze sieci neuronowe będą w stanie dokonać takiego skoku, potrzebne mogą być nowe badania podstawowe . W zależności od tego, jak udana jest ta nowa linia badań, nie można powiedzieć, czy zdrowy rozsądek maszyny jest oddalony o pięć lat, czy 50.
Mayank Kejriwal jest adiunktem naukowym inżynierii przemysłowej i systemowej na Uniwersytecie Południowej Kalifornii.
Ten artykuł został ponownie opublikowany z The Conversation na licencji Creative Commons. Można znaleźć oryginalny artykuł tutaj.
