Freak językowy

GPT wariuje i panika moralna dotyczy tak naprawdę siły języka.

Tu nie chodzi o sztuczną inteligencję; Sztuczna inteligencja jest wszędzie wokół nas i wchodzimy w interakcję z technologią, która za nią stoi (sieciami neuronowymi, wspólnym filtrowaniem, regresją liniową itp.) przez cały dzień, niezależnie od tego, czy zdajemy sobie z tego sprawę, czy nie.

Za każdym razem, gdy robimy zdjęcie lub wsiadamy do samochodu, kiedy robimy zakupy, kiedy przesuwamy naszą kartę kredytową, krzyżujemy się z algorytmiczną manipulacją za pomocą symulowanej ludzkiej inteligencji. Znany również jako uczenie maszynowe lub sztuczna inteligencja.

Prawdziwy problem polega na tym, że język ma swoją wagę i tak długo, jak ludzie mieli sposób, aby myśli były słyszalne, zmagaliśmy się z wrodzoną mocą języka do zmiany i manipulowania myślami innych ludzi. Kanonicznym przykładem jest doprowadzenie do ludobójstwa w Rwandzie i rola, jaką odegrał język w audycjach radiowych RTLM w podżeganiu i katalizowaniu jednej części populacji przeciwko drugiej, a także wydarzenia z 6 stycznia.

Język jest niebezpieczny i jest również z natury ludzki. Ale komplikacja języka polega na tym, że ludzie są w normalny sposób poddawani manipulacji. Nasza zdolność rozpoznawania prawdziwych intencji na początku nie jest zbyt dobra i maleje dopiero w przypadku abstrakcji opartej na maszynach, a tym bardziej, gdy sam mówca jest maszyną.

Jeśli ludzie są tak łatwo manipulowani przez język w formie pochodzącej od człowieka, nasza zdolność zapobiegania temu nie będzie lepsza, gdy jest to maszyna wyraźnie wyszukująca sygnały sukcesu manipulacji. Tak więc nasza podatność na manipulacje językowe — nasz brak świadomości lub dbałości o pochodzenie — nie jest komplikacją dla ChatGPT; aktywnie z tego korzysta. Potrzebuje tego.

Sprawa sprowadza się do tego: język ma moc, a jej moc wzrasta wraz z abstrakcją, podczas gdy nasza zdolność rozpoznawania intencji maleje. W pewnym momencie język ma tyle abstrakcji — i mocy — że pochodzenie autorstwa przestaje mieć znaczenie lub być dostrzegalne.

Ma tak wielką potencjalną moc, że człowieczeństwo autora nie ma znaczenia.

I w tym tkwi niebezpieczeństwo.

Maszyna nie jest problemem: my jesteśmy. Zawsze byliśmy.