Czy AI postradała zmysły?

Na moich pierwszych zajęciach akademickich na temat sztucznej inteligencji profesor podchodzi do tablicy i pisze dwa słowa: „Nauka” i „Inżynieria”. Mówi, że to są dwie strony sztucznej inteligencji — projekt naukowy polega na wykorzystaniu modelowania komputerowego do zrozumienia mechanizmów ludzkiej inteligencji — programów komputerowych, które same są teoriami naukowymi. Inżynieria wyrosłaby z tego naturalnie. W miarę rozwoju wiedzy naukowej w naturalny sposób pojawią się możliwości inżynieryjne dla zastosowań sztucznej inteligencji.

To był koniec lat 80., a profesorem był Mitch Marcus — znany już z pracy doktorskiej, w której napisał program do analizowania zdań. Marcus Parser został zaprojektowany w taki sposób, że wydawał się uchwycić zagadkową, ale fundamentalną cechę języka: „ograniczenia wyspowe”. Wiąże się to z faktem, że tekst nie jest tylko prostym ciągiem słów. Przeciwnie, słowa są zależne od siebie na różne sposoby. A słowo może zależeć od innego słowa, nawet jeśli są bardzo daleko od siebie. Ale tę wielką swobodę w stosunkach słownych równoważy zaskakujący fakt — w pewnych konstrukcjach, zwanych „wyspami”, dwa słowa nie mogą się ze sobą odnosić. To intrygujące ograniczenie, które najwyraźniej umykało uwadze lingwistów przez tysiąclecia, aż do odkrycia go przez Johna Rossa w latach sześćdziesiątych.

Geniusz Marcusa Parsera polegał na tym, że pokazał, jak (niektóre aspekty) ograniczeń wyspowych może być rodzajem efektu ubocznego wewnętrznego działania programu analizującego działającego w ludzkich głowach. I to właśnie ten program mentalny Marcus zamierzał naśladować za pomocą swojego parsera. To był klasyczny przykład sztucznej inteligencji jako nauki — program był teorią naukową: prostą, elegancką i pouczającą.

Myślałem o tym, czytając o wstrząsającym doświadczeniu Kevina Roose'a z Bing Chatbotem , który podczas dwugodzinnej rozmowy
ujawnił mroczne impulsy i niebezpieczne pragnienia, pozostawiając dziennikarza technicznego „głęboko zaniepokojonego, a nawet przestraszonego”. Dyrektor generalny Microsoftu nie był w stanie wyjaśnić zachowania ich szeroko reklamowanego produktu, oferując kiepską sugestię, że Roose powinien skrócić swoje rozmowy. Udało nam się zbudować imponującą maszynę językową. Ale nie możemy wyjaśnić, dlaczego robi to, co robi, ponieważ nie rozumiemy, jak to działa.

Badania AI stały się w dużej mierze pogonią za inżynierią pod nieobecność nauki. Obecne chatboty mają imponujące zdolności językowe i rozumowania, a wiele wiadomo o mechanizmach leżących u podstaw tych ludzkich zdolności w takich dziedzinach, jak językoznawstwo, logika i psychologia. Jednak chatboty są zbudowane w sposób, który całkowicie ignoruje te zasoby wiedzy. Na przykład stale rośnie ilość danych wymaganych do szkolenia tych systemów chatbotów, które są znane jako duże modele językowe. Wydaje się, że model GPT3, najwyraźniej wyszkolony na około 500 miliardach słów, w dużej mierze opanował gramatykę, chociaż dokładny zakres jego zdolności gramatycznych jest trudny do ustalenia. I jest całkiem niejasne, w jaki sposób te zdolności gramatyczne wynikają z procesu szkolenia. Dlaczego np. czy potrzebuje setek miliardów słów? Cokolwiek się dzieje, musi to być niezwykle prymitywne w porównaniu z uczeniem się człowieka, ponieważ dzieci opanowują gramatykę po wystawieniu na działanie bardzo małej części ilości danych potrzebnych przez GPT3.

Jaki jest ostatecznie sens zajmowania się inżynierią, oderwaną od naukowego zrozumienia? Projekt AI jest wielkim naukowym wyzwaniem naszych czasów. Być może nauka nigdy nie będzie w stanie oświetlić wewnętrznej przestrzeni ludzkiego umysłu w sposób, w jaki tak spektakularnie zrobiła to z planetami, gwiazdami i galaktykami w przestrzeni kosmicznej. Ale ja, na przykład, jestem optymistą.

Giganci technologiczni, tacy jak Microsoft i Google, wykorzystują ogromne zasoby do tworzenia coraz większych modeli językowych w projektach, które z powodzeniem można nazwać strzałami w księżyc. Ale to tak, jakbyśmy zaczęli wysyłać rakiety na Księżyc bez uprzedniego zrozumienia teorii względności, a nawet praw ruchu Newtona. Przy wystarczającym wysiłku brutalnej siły możliwe byłoby uderzenie w Księżyc. Wymagałoby to jednak oszałamiającego marnotrawstwa zasobów i niewątpliwie spowodowałoby wszelkiego rodzaju nieprzewidziane szkody. Ale co najważniejsze, nie byłoby to zbyt interesujące.