Zwykle lubię Slack w pracy — mogę się czegoś nauczyć i zrobić urocze zdjęcie psa lub czegoś takiego. Ale dzisiaj było inaczej.

Nieunikniona rozmowa wokół chatGPT odbyła się dzisiaj na moim własnym czacie na Slacku. Uwielbiam uczenie maszynowe, krótko pracowałem w terenie, a teraz pomagam dostarczać dane tym, którzy zajmują się uczeniem maszynowym — to wygląda inaczej. Co to jest chatGPT openai? I dlaczego zmusza mnie to do napisania tego złowrogiego wstępu?

Jeśli jesteś podobny do mnie, przestaniesz czytać i pobawisz się przez chwilę chatGPT, a potem wrócisz. Całkiem niesamowite, prawda? Pytasz chatGPT o cokolwiek i otrzymujesz niewiarygodnie wiarygodną odpowiedź. Czuje się jak magia. Czego nie może zrobić? Czy pisze ten artykuł?

CZYM JEST chatGPT

Ważne jest, aby pamiętać, co to dokładnie jest (kiedyś zajmowałem się bardzo podstawowym modelowaniem języka naturalnego, np. NLP) — GPT to skrót od generative pretrained transformer. Jest inny/ekscytujący od innych najnowocześniejszych metod NLP ze względu na sposób, w jaki węzły są połączone w tej głębokiej sieci neuronowej, tl; dr powoduje, że jest w stanie wykonywać obliczenia na dużych zdaniach wypełnionych różnymi słowami jednocześnie, a nie sekwencyjnie. Transformatory te rozpatrują całe zdania w kontekście, wykonując obliczenia, co jest naprawdę wydajne (nie trzeba ujednoznaczniać kontekstu słów dla modelu, np. „salsa” jak w tańcu czy jedzeniu). Inżynierowie uczenia maszynowego wciąż muszą zdecydować, które przykłady pokazać GPT, czyli wartości odstające? Normalni? Aktywnie dostrajają pokrętła, aby było lepiej (tzw. hiperparametry), a także pomagają potwierdzać dobre odpowiedzi na chatGPT tj. uczenie się wzmacniające. Początkowe iteracje GPT były dobre do: wypełnienia luki, wnioskowania lub tłumaczenia.

MOŻE TERAZ MOŻE WIĘCEJ?

Ta najnowsza iteracja GPT, chatGPT znana również jako GPT 3.5, wydaje się mieć moment kija hokejowego — podobnie do tego, co widzę w strumieniowaniu danych . Jednym zdaniem, strumieniowe przesyłanie danych (Confluent) napędza aplikacje o znaczeniu krytycznym, dostarczając informacje w czasie niemal rzeczywistym (zastanów się, czy aplikacja handlowa domu maklerskiego do składania zleceń lub system monitorowania ciśnienia mózgowego w szpitalu dziecięcym właśnie przestał działać odbieranie danych?). Tak więc strumieniowe przesyłanie danych jest naprawdę podstawą danych dla wszelkiego rodzaju nowoczesnych aplikacji, od Instacart przez Northrop Grumman po aplikacje NLPpodobny do ChatGPT. Ta kolizja ulepszeń technologicznych jest jednocześnie ekscytująca i niepokojąca. O jakim dokładnie ulepszeniu mówimy?

UCZENIE MASZYNOWE PRZED GPT

Cofnijmy się aż do diagramu Kai Fu Lee z ~2018 (dużo się dzieje na przestrzeni kilku lat w technice). Zobacz Ted Talk Lee tutaj. Tl; dr Lee przechodzi przez zadania, które prawdopodobnie zostaną zastąpione przez sztuczną inteligencję (jego język ojczysty, nie mój). Stwierdził, że sztuczna inteligencja będzie miała:

• najsilniejszy wpływ na zbędne miejsca pracy (lewy dolny kwadrant)
• stają się niezbędnymi narzędziami do kreatywnej pracy (prawy dolny róg)
• pracuj jako lżejsze narzędzie „analityczne” do zadań o wysokim poziomie współczucia (lewy górny róg)
• i wreszcie prawy górny róg prawdopodobnie pozostanie najmniej powiększony przez sztuczną inteligencję.

TESTOWANIE czatuGPT

Z przyjemnością zadam kilka pytań, które otrzymuję podczas mojej pracy, w ramach eksperymentu, aby sprawdzić, do czego zdolny jest chatGPT.

GPT BYŁ DOBRY

Aby nie zrażać czytelników nietechnicznych, tl;dr zadałem GPT pytanie, które wymaga połączenia różnych, różnych technologii. To nie było w połowie złe. Poniższy przykład pokazuje, jak GPT z powodzeniem wykorzystuje te konkretne technologie w porozumieniu:

1. narzędzie infrastruktury jako kodu o nazwie Terraform
2. Dystrybucja kubernetes dostarczona przez dostawcę chmury (AWS)
3. System operacyjny oparty na Linuksie (również przez AWS)

To imponujące, jak GPT zapewnia bogate opinie w dziedzinie inżynierii oprogramowania. Dla tego inżyniera NLP zapewnia to znacznie lepszą informację zwrotną niż gdyby uruchomił R na swojej lokalnej maszynie (stworzył emulację R w ChatGPT).https://twitter.com/ben_j_radford/status/1599180658827440128

NIE TAK DOBRY W

Tutaj zadałem GPT bardziej powszechne pytanie, które otrzymuję, gdzie właśnie wymyśliłem polecenia CLI, które całkowicie nie istnieją ( Confluent Tunnelnie jest to polecenie w CLI Confluent - pracuję w Confluent). Tutaj zadałem pytanie: „ jak bezpiecznie połączyć moje lokalne źródło danych z Confluent Cloud ”

Co ciekawe, jeśli miałbyś ocenić inteligencję chatGPT na podstawie naszej (ludzkiej) tradycyjnej oceny, jej niska średnia najwyraźniej:https://twitter.com/SergeyI49013776/status/1598430479878856737

ZADAWANIE IT PYTAŃ NIEZWIĄZANYCH Z MOJĄ PRACĄ

Ok, ten jest ironiczny/niezbyt użyteczny, ale mimo to zapytałem ChatGPT o siebie i dostarczył dezinformacji:

Udawanie, że ChatGPT jest konkretnym zawodem, jest prawdopodobnie najbardziej zdumiewającym zjawiskiem w dzisiejszym Internecie. Na przykład, prosząc go, by działał jako szef kuchni, dał kilka dobrych pomysłów na obiad z listą składników i instrukcjami:

Inne zabawne podpowiedzi „zachowuj się” tutaj .

OPTYMISTYCZNE PERSPEKTYWY

Kłóciłbym się, jeśli spojrzymy na prognozy Lee z 2018 roku, chatGPT ma zbyt duży wpływ na oba ćwiartki na prawo od naszej osi Y. Jego opinie są niezwykle bogate. Zadania kreatywne, takie jak wymyślanie scenariuszy do scenariuszy, dekorowanie przestrzeni fizycznych — te rzeczy często są trudne do rozpoczęcia. Karmię chatGPT kilkoma podpowiedziami i mam ściany tekstu, aby moje pomysły płynęły — to niezaprzeczalnie imponujące. Bliżej mojej sterówki chatGPT katalizuje również zadania programistyczne dla inżynierii oprogramowania. Począwszy od chatGPT 3.5 (zasilanie chatGPT), nie jest w stanie stworzyć naprawdę „gotowego do produkcji” kodu; jednak daje mi świetny materiał wyjściowy, który mogę następnie udoskonalić — oszczędzając mi godzin wstępnych badań przez Stackoverflow itp.

NIE TAKIE OPTYMISTYCZNE PERSPEKTYWY

Wszyscy myślą teraz o tym, czy chatGPT może zrobić coś destrukcyjnego. Sam oczywiście nie może, nie jest jakimś autonomicznym agentem, potrzebuje interwencji człowieka, aby cokolwiek zrobić. Ale powiedzmy, że jeśli nie byłeś ostrożny w testowaniu i interpretowaniu danych wyjściowych chatGPT i po prostu przeniosłeś trochę kodu z chatGPT — mógłbym wyobrazić sobie sytuację, w której programista przypadkowo zawiesza serwer lub coś w tym rodzaju. Nie wydaje mi się to szczególnie niepokojące, ponieważ większość inżynierów ma dobre procesy testowania, sprawdzania poprawności i wreszcie udostępniania kodu do systemu produkcyjnego.

To, co może być niepokojące, jest pokazane w powyższym przykładzie, w którym zapytałem chatGPT, co to jest — chatGPT czasami po prostu generuje dezinformację (openai to potwierdza ). Można argumentować, że krążenie dezinformacji w sieci już się szerzy — jakie jest inne źródło? Jednak po raz pierwszy mamy tę dezinformację bez twarzy. Nikt nie jest w stanie prześledzić ścieżki żądania z interfejsu chatGPT przez jego warstwy złożonych sieci neuronowych i wydedukować dokładnie, w jaki sposób odpowiedź została otrzymana. Jest to wyraźny kontrast z kimś, kto cytuje artykuł ze źródła dziennikarskiego (gdzie można wywnioskować wpływy polityczne itp.).

PODSUMOWANIE, nadchodzi GPT 4

ChatGPT udzieli Ci odpowiedzi. Używaj go wystarczająco długo, a otrzymasz błędną odpowiedź. Źle cię zrozumie. ChatGPT to dopiero 3.5 iteracja serii GPT. Wkrótce będzie udzielać lepszych odpowiedzi. Spędzam dużo czasu w pracy, zadając pytania typu: czy naprawdę o to ci chodzi? Czy wiesz, dlaczego wprowadzono ten wymóg? Jak poszła ta ocena? Dzięki takim otwartym pytaniom naprawdę pomagam ludziom, a czasem odkrywam rzeczy, o których nie wiedzieli, że ich potrzebują. Jesteśmy czymś więcej niż maszynami do odpowiadania na pytania. Jesteśmy niezwykle zniuansowani. Wyjdź i naprawdę słuchaj — zadasz lepsze pytania, a to oznacza lepsze odpowiedzi.