Jaka jest osobliwość technologiczna?

To powszechny temat w science fiction — ludzkość walczy o przetrwanie w dystopijnym futurystycznym społeczeństwie. Naukowcy zbyt późno odkrywają, że ich maszyny są zbyt potężne, by je kontrolować. Komputery i roboty zmuszają ludzkość do niewoli. Ale ta popularna fabuła może nie zawsze należeć do królestwa fikcji. Ten pomysł, omawiany przez filozofów, informatyków i kobiety o imieniu Sarah Connor, z roku na rok zyskuje coraz większą wiarygodność.

Czy maszyny mogą zastąpić ludzi jako dominująca siła na planecie? Niektórzy mogą argumentować, że już osiągnęliśmy ten punkt. W końcu komputery pozwalają nam komunikować się ze sobą, śledzić złożone systemy, takie jak rynki globalne, a nawet kontrolować najniebezpieczniejszą broń na świecie. Co więcej, roboty sprawiły, że automatyzacja stała się rzeczywistością w różnych zadaniach, od budowy samochodów po konstruowanie chipów komputerowych .

Ale teraz te maszyny muszą odpowiadać przed ludźmi. Brakuje im umiejętności podejmowania decyzji poza ich programowaniem lub korzystania z intuicji. Bez samoświadomości i umiejętności ekstrapolacji na podstawie dostępnych informacji maszyny pozostają narzędziami.

Jak długo to potrwa? Czy zmierzamy w przyszłość, w której maszyny zyskują formę świadomości? Jeśli tak, co się z nami stanie? Czy wejdziemy w przyszłość, w której komputery i roboty wykonują całą pracę, a my cieszymy się owocami ich pracy? Czy zostaniemy zamienieni na nieefektywne baterie w stylu „Matrix”? A może maszyny wytępią rasę ludzką z powierzchni Ziemi?

Przeciętnemu człowiekowi te pytania mogą wydawać się dziwaczne. Ale niektórzy uważają, że teraz musimy wziąć pod uwagę takie pytania. Jedną z takich osób jest Vernor Vinge, były profesor matematyki na Uniwersytecie Stanowym w San Diego. Vinge sugeruje, że ludzkość zmierza w kierunku nieodwołalnego przeznaczenia, w którym będziemy ewoluować poza nasze zrozumienie dzięki wykorzystaniu technologii. Nazywa to osobliwością .

Czym jest osobliwość i jak może do niej dojść?

Vernor Vinge przedstawia interesującą – i potencjalnie przerażającą – przepowiednię w swoim eseju zatytułowanym „Nadchodząca osobliwość technologiczna: jak przetrwać w erze postludzkiej”. Twierdzi, że ludzkość rozwinie nadludzką inteligencję przed 2030 r. Esej określa cztery sposoby, w jakie może się to wydarzyć:

Spośród tych czterech możliwości, pierwsze trzy mogą doprowadzić do przejęcia kontroli przez maszyny. Podczas gdy Vinge omawia wszystkie możliwości w swoim eseju, spędza najwięcej czasu na omawianiu pierwszego. Przyjrzyjmy się jego teorii.

Technologia komputerowa rozwija się szybciej niż wiele innych technologii. Komputery mają tendencję do podwajania mocy co mniej więcej dwa lata. Tendencja ta jest związana z prawem Moore'a , które mówi, że tranzystory podwajają moc co 18 miesięcy. Vinge mówi, że w tym tempie to tylko kwestia czasu, zanim ludzie zbudują maszynę, która będzie mogła „myśleć” jak człowiek.

Ale sprzęt to tylko część równania. Zanim sztuczna inteligencja stanie się rzeczywistością, ktoś będzie musiał stworzyć oprogramowanie, które pozwoli maszynie analizować dane, podejmować decyzje i działać autonomicznie. Jeśli tak się stanie, możemy spodziewać się, że maszyny zaczną projektować i budować jeszcze lepsze maszyny. Te nowe maszyny mogłyby budować szybsze, mocniejsze modele.

Postęp technologiczny będzie postępował w zawrotnym tempie. Maszyny wiedziałyby, jak się poprawić. Ludzie staliby się przestarzali w świecie komputerów. Stworzylibyśmy nadludzką inteligencję. Postępy nadejdą szybciej, niż moglibyśmy je rozpoznać. Krótko mówiąc, dotarlibyśmy do osobliwości.

Co by się wtedy stało? Vinge mówi, że nie da się tego powiedzieć. Świat stałby się tak odmiennym krajobrazem, że możemy jedynie domyślać się. Vinge przyznaje, że choć sugerowanie możliwych scenariuszy prawdopodobnie nie jest owocne, to wciąż jest to świetna zabawa. Może będziemy żyć w świecie, w którym świadomość każdej osoby łączy się z siecią komputerową. A może maszyny wykonają za nas wszystkie nasze zadania i pozwolą nam żyć w luksusie. Ale co, jeśli maszyny uznają ludzi za zbędnych — lub gorzej? Kiedy maszyny osiągną punkt, w którym mogą się naprawiać, a nawet tworzyć lepsze wersje samych siebie, czy mogą dojść do wniosku, że ludzie są nie tylko niepotrzebni, ale i niechciani?

Z pewnością wydaje się to przerażającym scenariuszem. Ale czy wizja przyszłości Vinge'a jest pewna? Czy jest jakiś sposób, żeby tego uniknąć? Dowiedz się w następnej sekcji – zanim będzie za późno.

Nie wszyscy myślą, że jesteśmy skazani – lub skazani – na osiągnięcie osobliwości opisanej w eseju Vinge'a. Może nawet nie być fizycznie możliwe osiągnięcie postępów niezbędnych do stworzenia efektu osobliwości. Aby to zrozumieć, musimy wrócić do prawa Moore'a.

W 1965 Gordon E. Moore, inżynier ds. półprzewodników , zaproponował to, co obecnie nazywamy prawem Moore'a. Zauważył, że w miarę upływu czasu ceny komponentów półprzewodnikowych i koszty produkcji spadały. Zamiast produkować układy scalone o takiej samej mocy jak wcześniejsze za połowę kosztów, inżynierowie postanowili upakować więcej tranzystorów w każdym obwodzie. Trend stał się cyklem, który według Moore'a będzie trwał, dopóki nie osiągniemy fizycznych granic tego, co możemy osiągnąć za pomocą obwodów scalonych.

Pierwotna obserwacja Moore'a była taka, że ​​liczba tranzystorów na cal kwadratowy układu scalonego podwaja się każdego roku. Dziś mówimy, że gęstość danych w układzie scalonym podwaja się co 18 miesięcy. Producenci budują teraz tranzystory w nanoskali . Najnowsze mikroprocesory firm Intel i AMD mają tranzystory o szerokości 45 nanometrów – ludzki włos może mieć średnicę do 180 000 nanometrów.

Inżynierowie i fizycy nie są pewni, jak długo może to potrwać. Gordon Moore powiedział w 2005 roku, że zbliżamy się do fundamentalnych granic tego, co możemy osiągnąć, budując mniejsze tranzystory. Nawet jeśli znajdziemy sposób na zbudowanie tranzystorów w skali zaledwie kilku nanometrów, niekoniecznie zadziałają. To dlatego, że zbliżając się do tej małej skali, musisz wziąć pod uwagę fizykę kwantową .

Okazuje się, że kiedy zajmujesz się rzeczami na skalę subatomową, zachowują się one w sposób pozornie sprzeczny ze zdrowym rozsądkiem. Na przykład fizycy wykazali, że elektrony mogą przechodzić przez niezwykle cienki materiał, tak jakby materiału tam nie było. Zjawisko to nazywają tunelowaniem elektronowym lub kwantowym . Elektron nie robi fizycznej dziury w materiale – po prostu pozornie zbliża się z jednej strony i kończy z drugiej. Ponieważ tranzystory kontrolują przepływ elektronów jak zawór, staje się to problemem.

Jeśli osiągniemy ten fizyczny limit, zanim będziemy mogli stworzyć maszyny, które będą myśleć tak samo lub lepiej niż ludzie, możemy nigdy nie osiągnąć osobliwości. Chociaż istnieją inne możliwości, które możemy zbadać – takie jak budowanie chipów w pionie, używanie optyki i eksperymentowanie z nanotechnologią – nie ma gwarancji, że będziemy w stanie nadążyć za prawem Moore'a. To może nie zapobiec pojawieniu się osobliwości, ale może potrwać dłużej niż przewidywania Vinge'a.

Innym sposobem zapobiegania osobliwości jest wbudowanie funkcji bezpieczeństwa, zanim maszyny staną się samoświadome. Cechy te mogą nawet przypominać trzy prawa robotyki zaproponowane przez Isaaca Asimova. Ale Vinge przeciwstawia się temu argumentowi, wskazując jeden szczegół: jeśli maszyny są mądrzejsze od nas, czy nie będą w stanie znaleźć sposobów obejścia tych zasad?

Nawet Vinge nie posuwa się do stwierdzenia, że ​​osobliwość jest nieunikniona. Jest wielu innych inżynierów i filozofów, którzy uważają, że to nie problem. Ale może powinieneś zastanowić się dwa razy, zanim zaczniesz źle traktować maszynę – nigdy nie wiesz, czy przyjdzie po tobie z zemsty później.

Aby dowiedzieć się więcej o naszych przyszłych władcach komputerów i innych tematach, spójrz na linki na następnej stronie.

Przestrzegaj prawa!

Prawo Moore'a nie jest twardą i szybką zasadą, ani nie rządzi nią natura. To samospełniająca się przepowiednia. Producenci półprzewodników starają się dotrzymać kroku prawu, co sprawia, że ​​prawo jest trafną prognozą.

Powiązane artykuły o tym, jak działają rzeczy

Więcej świetnych linków