Czy kosmici przybyli? Refleksje z Ekosystemów 2030

May 09 2023

Zostałem zaproszony do wygłoszenia wykładu na ES2030 w La Coruña. Piękna prowincja Galicja (Hiszpania) z populacją mniejszą niż 250 000 wydawała się najmniej prawdopodobnym miejscem do dyskusji na temat sztucznej inteligencji, robotyki, podróży kosmicznych i tego, jak będzie wyglądać przyszłość. Po przemówieniu pierwszego dnia, w którym mówiłem o Inżynierze przyszłości , chciałem poświęcić czas na kształcenie się, słuchając jednych z najlepszych myślicieli z różnych dziedzin. Nic dziwnego, że nie było dyskusji bez generatywnej sztucznej inteligencji i nikt nie chciał przegapić pociągu AI!

Właśnie wysłuchałem szefa ds. innowacji w Microsoft, dzieląc się potencjałem Generative AI, a potem wszedłem do kawiarni tapas w La Coruna. W kawiarni starzy mężczyźni w okularach patrzyli sobie w oczy i rozmawiali z zamiarem, machając rękami, ściskając butelkę lokalnego piwa Estella Galicia. Starsze kobiety czytały gazety, a młodsze rozwiązywały codzienną krzyżówkę. Niektórzy klienci natychmiast zaczęli tańczyć z kelnerem, gdy leciała romantyczna hiszpańska piosenka. To był rzadki widok, kiedy ludzie nie wpatrywali się w swoje urządzenia. Tęskniłem za czasem, w którym życie toczyło się powoli, a ludzie mieli czas na rozmowy, debaty, odkrywanie i zastanawianie się. Boję się nie o moje pokolenie, ale o to, co pozostawimy następnym.

Dyrektorzy ds. technologii w garniturach z dumą promują ideę, w jaki sposób technologia taka jak sztuczna inteligencja jest dobra dla świata i jak wzrost będzie sprzyjał włączeniu społecznemu, mimo że dane pokazują, że potężne narzędzia technologiczne sprawią, że najlepsi ludzie staną się jeszcze lepsi, ale pozostawią większość w tyle. Prawda jest taka, że wzrost nie sprzyja włączeniu społecznemu, nawet jeśli tak to reklamujemy. Nigdy tak nie będzie, dopóki zysk porusza się tylko w jednym kierunku — w górę. Widzimy, jak podręcznik mediów społecznościowych rozgrywa się od nowa. Wszystkim wmówiono, że misją jest „łączenie świata”, przez co brzmi to niemal altruistycznie, ponieważ jest darmowe, a potem zdaliśmy sobie sprawę, że kiedy coś jest darmowe, ludzie stają się produktem! W ciągu dekady mamy całe pokolenie uzależnione od potężnego urządzenia z jeszcze bardziej uzależniającymi aplikacjami, co prowadzi do mniejszej koncentracji uwagi i gwałtownych problemów ze zdrowiem psychicznym.

Problem polega na tym, że dżin wyszedł z butelki i nie możemy go odłożyć (nie wtedy, gdy przewiduje się, że sztuczna inteligencja stworzy rynek o wartości 15,7 bilionów dolarów do 2030 r.!). Włochy jako pierwsze zablokowały ChatGPT i cofnęły ten zakaz — zakaz czegokolwiek nigdy nie jest rozwiązaniem. Trwa już kolejna kampania, której celem jest zebranie wystarczającej liczby osób do podpisania w celu wstrzymania Giant AI Experiments . Geoffrey Hinton (ojciec chrzestny sztucznej inteligencji) jest bardzo zaniepokojony niebezpieczeństwami związanymi ze sztuczną inteligencją . Myśli, że kosmici wylądowali, a my tego nie zauważyliśmy, bo mówi po angielsku! Wydaje się, że każdy ma swoje zdanie, ale nikt nie jest pewien. Czy starczy nam pomysłowości, by zatrzymać się, zanim będzie za późno, pokory, by zrozumieć, że potężne narzędzie w końcu trafi w ręce złych aktorów i że ludzka głupota jest nieskończona?

Nigdy nie powinniśmy zapominać, że Generative AI zasadniczo bardziej dotyczy ekonomii niż zwiększania ludzkich możliwości (OpenAI przeszło od organizacji non-profit do 30-miliardowej kapitalizacji rynkowej, skutecznie kontrolowanej przez Microsoft!). Szybsze odpowiedzi i krótszy czas koncentracji nie są już niezamierzonymi konsekwencjami technologii — teraz wiemy to od samego początku. Od roku 2000 do chwili obecnej nasza zdolność koncentracji spadła z 12 do 8 sekund (złota rybka: 9 sekund). Jeśli pokonamy kolibra (3 sekundy), możemy pożegnać się z cywilizacją! Technologia zmieniła ludzkie zachowanie w niewyobrażalny sposób. Gdy sztuczna inteligencja stanie się bardziej inteligentna niż ludzie, będzie nas kontrolować, ponieważ będzie wiedziała, jak programować i omijać wprowadzone przez nas ograniczenia!

Postęp w szybkim tempie nie jest zgodny z naturą. Od dziesięcioleci znaliśmy skutki zmian klimatu i teraz osiągnęliśmy punkt bez powrotu. Często zapominamy, że zarówno dobro, jak i zło nasilają się ( Efekt złożony ) z czasem. Czy zostawiamy naszym dzieciom świat lepszy czy gorszy? Pycha nie ma granic, ale kiedy widzisz, że twoje dziecko cierpi, wtedy zdajesz sobie sprawę, że żadne działanie nie jest bez konsekwencji.

Więc co możemy zrobić? To po prostu sprowadza się do słuchania tego głosu w głowie, który mówi, że jeśli coś jest nie tak, to nie powinniśmy w tym uczestniczyć. A jeśli zbierzemy wystarczającą liczbę ludzi, aby robili właściwe rzeczy, możemy powstrzymać katastrofę. Robiliśmy to już wcześniej. Bomba atomowa nie wybuchła od czasów Hiroszimy i Nagasaki! Vint Cerf przypomniał mi, że grawitacja jest najsłabszą siłą, ale przy wystarczającej masie może utrzymać planetę na swojej orbicie. Tak więc, jeśli jest wystarczająco dużo ludzi robiących właściwe rzeczy, nadal możemy zostawić naszym dzieciom świat lepszy niż ten, w którym mieszkaliśmy.

Jedną z moich osobistych atrakcji na ES2030 był hipnotyzujący występ otwierający w wykonaniu Abrahama Cupeiro . Cupeiro jest utalentowanym konstruktorem instrumentów i multiinstrumentalistą, znanym głównie z przywracania dawno zaginionych instrumentów. Boję się o artystę, gdy sztuka i muzyka generowane przez sztuczną inteligencję pozostawiają prawdziwego artystę w tyle. Nieżyjący już dziennikarz i ewangelista kultury Scott Timberg w swojej nowej książce Boom Times for the End of the World ostrzegł nas przed upadkiem klasy kreatywnej z powodu technologii.

Jestem z natury optymistą i dostrzegam ogromne pozytywy AI (zwłaszcza w medycynie). Ale zdałem sobie sprawę, że znacznie lepiej jest przewidzieć dystopijny świat i go uniknąć, niż przewidzieć utopijny świat i udowodnić, że się myli!

W tym punkcie zwrotnym w historii, jak mówi mój przyjaciel i założyciel ES2030, Omar Hatamleh: „Niech zwycięży sumienie naszej lepszej natury i świadomość naszego lepszego interesu”.