Maelstrom ChatGPT

Jan 23 2023

autor: Jean-Louis Gassée ChatGPT szybko zawładnął wyobraźnią w sposób niespotykany od czasu pojawienia się iPhone'a w 2007 roku. Dziś wybieramy się na niepewny, przypadkowy spacer po szybko rozszerzającym się krajobrazie.

autorstwa Jeana-Louisa Gassée

ChatGPT szybko zawładnął wyobraźnią w sposób niespotykany od czasu pojawienia się iPhone'a w 2007 roku. Dziś wybieramy się na niepewny, przypadkowy spacer po szybko rozszerzającym się krajobrazie.

Gdy szczęśliwie siadam z powrotem na swoim stanowisku do pisania po podróży do części Francji i Austrii, widzę nadmiar kuszących tematów w moim ukochanym świecie technologii: biznesowe i prawne udręki Elona Muska; niepotwierdzone plotki o Apple Cars i zestawach słuchawkowych Augmented Reality; zwolnienia w branży technologicznej i zadowolone z siebie opowiadanie o poprzednich upuszczach krwi („Czemu, z powrotem w czasach Wielkiego Downsize dwudziestego czwartego…”) Lista jest długa.

Dziś przejdziemy przez nowy świat możliwości wynikających z nagłego pojawienia się ChatGPT , Machine Learner in the Cloud, który często „mówi” jak niezwykle kompetentny asystent, nauczyciel, wyrocznia, terapeuta lub analityk prawny.

W grudniowej poniedziałkowej notatce zatytułowanej ChatGPT: To nic, nie potrzebujesz tego. I będziemy to mieć za sześć miesięcy , narysowałem paralelę między ChatGPT a pojawieniem się komputerów osobistych pod koniec lat siedemdziesiątych: dopóki odpowiednie technologie nie zostały spopularyzowane, laicy (znani również jako The Rest Of Us) postrzegali je jako tajemnicze domeny, których praktycy mówił językami. Przed ChatGPT dziedzina Deep Learning była zamieszkana przez jajogłowych, którzy nie chcieli wyjaśniać swojego wynalazku. (Zauważymy mimochodem, jak nieprzeniknione są artykuły Wikipedii na temat ChatGPT i Deep Learning).

Natomiast ChatGPT był łatwy w użyciu, niezwykle wydajny i często zapewniał świetną zabawę… i dostępny dla każdego, kto ma smartfona lub komputer. Natychmiast po jego wprowadzeniu w listopadzie zeszłego roku eksploracja eksplodowała, od edukacji po medycynę, od wersyfikacji po lobbing, programowanie, pisanie notatek, tworzenie scenariuszy i nie tylko. Jeśli jeszcze nie próbowałeś, możesz zarejestrować się tutaj .

Nieuchronnie krytycy ostudzili nasz entuzjazm. Nie będę rozwodził się nad ich amorficznymi obawami, że technologia zabierze ludziom pracę, ani nad pospieszną obroną: nie, nie . Otrzymujemy to z każdą nową technologią. Historia mówi nam, że bóle przejściowe są pochłaniane, że podczas gdy niektóre miejsca pracy są likwidowane, inne są tworzone.

Pojawiają się bardziej szczegółowe pytania. Na przykład: Jak ChatGPT wpływa na edukację? Wcześniej nauczyciel mógł używać oprogramowania do wykrywania plagiatu , aby weryfikować oryginalną jakość pracy ucznia. Obecnie, niestety, ChatGPT zdaje egzamin na plagiat.

Nie czekając na esej na studia , wielu nauczycieli widzi, że nie ma odwrotu i jest gotowych się dostosować. Nie powinni blokować ChatGPT, ale uczyć za jego pomocą , że potencjał przewyższa ryzyko. Profesor Wharton School wydał następujące wytyczne dla swojej klasy:

(Na głębszym poziomie, strona Wharton School zawiera długą, szczegółową dyskusję na temat ryzyka i zarządzania sztuczną inteligencją . Z ciekawości poprosiłem ChatGPT o podsumowanie 7-tysięcznego exposé. Dostałem komunikat o błędzie — i zatarcie moich wcześniejszych rozmów .)

Zmieniając tematy, przechodzimy do eseju NY Times groźnie zatytułowanego Jak ChatGPT przejmuje demokrację . Ten człowiek myśli, że tezę autorów można podsumować następującym cytatem [jak zawsze, moje zmiany i podkreślenia]:

„… mimo całej konsternacji związanej z możliwością zastąpienia ludzi przez maszyny w formatach takich jak poezja i scenariusze sitcomów, pojawia się o wiele większe zagrożenie: sztuczna inteligencja zastępująca ludzi w procesach demokratycznych – nie poprzez głosowanie, ale lobbing”.

Poprosiłem ChatGPT o zaoferowanie własnego podsumowania 1,1 tys. słów eseju. Maszyna w chmurze tym razem się nie zakrztusiła i zobowiązała:

„ChatGPT, chatbot stworzony przez OpenAI, może zastąpić ludzką pracę w przygotowywaniu codziennych komunikatów, takich jak e-maile, eseje i inne formy pisania. Jednak większy niepokój budzi potencjał sztucznej inteligencji do zastąpienia ludzi w procesach demokratycznych, nie poprzez głosowanie, ale poprzez lobbing. ChatGPT może komponować komentarze przesłane w procesach regulacyjnych, pisać listy do redaktora i komentować artykuły z wiadomościami, wpisy na blogach i posty w mediach społecznościowych. Mogłoby to naśladować działania Rosyjskiej Agencji Badań nad Internetem, która próbowała wpłynąć na wybory, ale ze znacznie mniejszym budżetem i mniejszą liczbą pracowników. Problemem jest zdolność AI do zrozumienia i namierzenia aktorów w sieci, stworzenia narzędzia do hakowania AI i wykorzystywania luk w systemach społecznych, ekonomicznych i politycznych z szybkością i zakresem.

Więcej niż przyzwoity wysiłek (przywodził na myśl sześciodziesięcioletni lęk przed zadaniami na studiach, które wymagały streszczeń tekstowych, aby pomóc w zrozumieniu i wyrażaniu się).

Mówiąc szerzej, możemy wyobrazić sobie ChatGPT analizującego umowy i porozumienia, takie jak niesamowicie złożone i marginalnie uczciwe Warunki, które klikamy bez czytania, nie mówiąc już o zrozumieniu. Inne „etyczne” zastosowania: ChatGPT może podsumowywać przychodzące wiadomości e-mail i proponować odpowiedzi. Firmy mogłyby zastąpić irytująco tępe chatboty, które są stosowane jako pierwsza linia obrony przed nieznośnymi klientami – i na odwrót: kilka dni temu zostaliśmy potraktowani beztroską demonstracją, w której ChatGPT wynegocjował zniżkę od Comcast . Możemy i prawdopodobnie będziemy kontynuować i kontynuować…

Ale w maści jest kilka much.

Na początek, jak wielu zauważyło, ChatGPT popełnia błędy. Grałem we wczesne ciekawostki Apple i otrzymywałem błędne odpowiedzi na arkana, takie jak autor interesującego języka o nazwie GraForth. ChatGPT początkowo twierdził, że taki język nie istnieje. Kiedy zakwestionowano i zaproponowano nazwisko autora, Paula Lutusa, ChatGPT grzecznie przeprosił. O dziwo, ChatGPT nie nauczył się uczyć na swoim błędzie: sytuacja powtórzyła się kilka godzin później. ChatGPT dwukrotnie nie udało się również przypomnieć sobie, że Steve Jobs nazwał Mobile Me „Wymianą dla reszty z nas” , co jest łatwo dostępne w archiwum Apple Newsroom.

Prowadzi to do zastanowienia się nad kodem programistycznym, który ChatGPT chętnie generuje — z pomocnymi wyjaśnieniami. A co z błędami? Jako programista, czy ChatGPT będzie mniej lub bardziej niezawodny niż my, ludzie?

Po drugie, pieniądze. Dzisiejsze ChatGPT jest darmowe, ale jak długo?

ChatGPT jest hostowany przez OpenAI , firmę, która została założona w 2015 roku jako organizacja non-profit przez grupę inwestorów kierowaną przez Sama Altmana, do której kiedyś należał Elon Musk. W 2019 r. OpenAI przeszło na operację „ograniczonego zysku”, w ramach której inwestorzy mogą zarobić nie więcej niż 100-krotność swojej inwestycji. Wszystko powyżej tego progu trafia do firmy. W tym samym czasie Microsoft ogłosił „pakiet inwestycyjny” o wartości 1 miliarda dolarów w OpenAI, a OpenAI ujawniło zamiar komercyjnego licencjonowania swoich technologii.

Kilka dni temu Microsoft ogłosił, że „rozmawiał” o zainwestowaniu 10 miliardów dolarów w OpenAI na niezwykle skomplikowanych warunkach. Zacznijmy od tego, że część inwestycji Microsoftu, która jeszcze nie została zrozumiana, może być „w naturze” w postaci pojemności Azure Cloud Computing. Po drugie, Microsoft otrzyma 75% zysków OpenAI, dopóki nie zwróci swojej inwestycji i nie skończy z 49% udziałem, wraz z kolejnymi 49% dla innych inwestorów o wycenie 29 miliardów dolarów. Ponieważ stwierdziłem, że warunki umowy są trochę skomplikowane, poprosiłem ChatGPT o podsumowanie odpowiednich dwóch akapitów w artykule Semafor i nie udało mi się uzyskać niczego użytecznego. To jest, cytując artykuł Semafora, „niezwykłe dla transakcji typu venture”. Brak dalszych wiadomości w chwili pisania tego tekstu. Prędzej czy później z pewnością zobaczymy lawinę oryginalnych i przerobionych historii — i zastanawiamy się, kto/co je napisał.

Tymczasem nie ma żadnych wiadomości od Google i innych, którzy wydają się być złapani przez ChatGPT i jego rzekomy sojusz Microsoft. Nie wiemy też, w jaki sposób OpenAI zarabiałoby na ChatGPT i innych produktach, takich jak Dall-E . I wciąż pozostając w niewiadomych, będziemy musieli zobaczyć, jak nowa wersja ChatGPT oparta na znacznie większym modelu językowym GPT 4 o nazwie wpłynie na pole.