Pokonamy boty

Feb 21 2023

Które z tych reakcji miałeś na ChatGPT? Kiedy ostrożnie zagłębiam się w tę nową technologię, najlepsze, co mogę zrobić, to zadawać pytania — mnóstwo ich. Tutaj częściowo dokumentuję mój proces eksploracji.

Surrealistyczny obraz stworzony za pomocą DALLE-E: przedstawia ludzi martwiących się o sztuczną inteligencję oraz papugę pokazującą swoje umiejętności muzyczne, literackie i naukowe w klasie. (DALL-E bierze swoją nazwę od Salvadora Dali i WALL-E.)

Które z tych reakcji miałeś na ChatGPT?

Wymachujące ramionami, krzyczące: „AI jest tutaj. Sztuczna inteligencja jest tutaj.
„Co to w ogóle znaczy być człowiekiem? Jaki jest sens wszystkiego, jeśli maszyny mogą robić to, co ja?
„Zacznijmy go używać!”
„Unikaj tego. Właściwie to zakazać. A może przynajmniej ją kontrolować.
„Mam trochę szacunku do siebie. nie używam!”
„To tylko kolejna moda. To minie”.

Kiedy ostrożnie zagłębiam się w tę nową technologię, najlepsze, co mogę zrobić, to zadawać pytania — mnóstwo ich. Tutaj częściowo dokumentuję mój proces eksploracji. Uczę się, kiedy piszę i piszę, kiedy się uczę.

Istnieje ocean informacji, pomysłów, przemyśleń i opinii (głównie tworzonych przez ludzi) na ten temat i będę zachwycony, jeśli możesz skierować mnie do większej liczby pytań lub odpowiedzi.

P ytanie 1: Jakie umiejętności musimy rozwinąć, abyśmy mogli dobrze wykorzystywać sztuczną inteligencję?

Według Duri Longa, skupionego na człowieku badacza sztucznej inteligencji,

„Znajomość sztucznej inteligencji to zestaw kompetencji, który umożliwia jednostkom krytyczną ocenę technologii sztucznej inteligencji, skuteczną komunikację i współpracę z sztuczną inteligencją oraz wykorzystywanie sztucznej inteligencji jako narzędzia online, w domu i w miejscu pracy”.

Dzieli umiejętność posługiwania się sztuczną inteligencją na pięć pytań wysokiego poziomu:

Co to jest sztuczna inteligencja?
Co potrafi sztuczna inteligencja?
Jak działa sztuczna inteligencja?
Jak ludzie postrzegają AI?

Oto, czego się uczę, aby rozwinąć umiejętność posługiwania się sztuczną inteligencją:

Aby w pełni wykorzystać technologie sztucznej inteligencji, warto zbadać szybką inżynierię. W rzeczywistości myślę, że szybkie udostępnianie będzie wkrótce rzeczą.

Szybka inżynieria to sztuka? i nauka rozmawiania z narzędziami opartymi na sztucznej inteligencji, aby skłonić je do robienia tego, co chcesz. Monity mogą mieć zakres od podstawowego do zaawansowanego. Nauczenie się zaawansowanego podpowiadania dobrze nam zrobi.

Przykładem podstawowego monitu jest podpowiadanie roli, które polega na przypisaniu roli do narzędzia sztucznej inteligencji, mówiąc na przykład: „Jesteś projektantem programów nauczania”. Lub podpowiedź Zero Shot Chain of Thought , w której prosisz sztuczną inteligencję, aby myślała krok po kroku, dodając to na końcu pytania: „Pomyślmy krok po kroku”, i wyjaśnia nam to sposób myślenia.

Szybka inżynieria to dziedzina, na którą byłem ślepy jeszcze miesiąc temu. Ale ewolucja zapewni nam, ludziom, znaczenie, więc oto link do kursu, który biorę:https://learnprompting.org/docs/intro

Zrzut ekranu kursu dotyczącego szybkiej inżynierii

Aby świadomie korzystać ze sztucznej inteligencji, ważne jest, aby zrozumieć, jak to działa.

Wiedza o tym, jak działa sztuczna inteligencja, pozwala nam zrozumieć jej ograniczenia. Na przykład w niektórych rozmowach na temat sztucznej inteligencji często słyszałem, że „sztuczna inteligencja nie ma poczucia prawdziwości” lub „to tylko maszyna do przewidywania słów”. ChatGPT nie jest inteligentny i nadajemy znaczenie jego wynikom, interpretując je. Wiedza na ten temat każe nam ostrożnie patrzeć na dane wyjściowe. Dlatego poznanie funkcjonowania sztucznej inteligencji i jej nieodłącznych ograniczeń ma kluczowe znaczenie.

Według dr Longa sztuczna inteligencja to rozległa dziedzina, która obejmuje kognitywistykę, uczenie maszynowe i robotykę. Obecnie łapię tę bestię od końca pytań, takich jak: czym jest przetwarzanie języka naturalnego (NLP), czym są duże modele językowe (LLM), jak one działają i pod jakim kamieniem żyłem, kiedy to wszystko było rozwija się wokół mnie?

Artykuł Stephena Wolframa „Co robi ChatGPT… i dlaczego to działa?” to obszerna lektura, która zaczyna się od podstaw. Polecam czytać ten artykuł z długopisem i kartką w ręku, aby robić notatki i rysować schematyczne diagramy. W pierwszym czytaniu zebrałem kilka mglistych pomysłów:https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

Świadomość problemów etycznych związanych z technologiami sztucznej inteligencji może być kluczowym krokiem w kierunku ich świadomego wykorzystania.

„O niebezpieczeństwach stochastycznych papug: czy modele językowe mogą być zbyt duże?” to artykuł poruszający kwestie etyczne związane ze sztuczną inteligencją, w tym stronniczość danych , równość i wpływ na środowisko . Chociaż nie chodzi o ChatGPT (obejmuje do GPT-3), zgłoszone obawy dotyczą ChatGPT i innych narzędzi AI.

P ytanie 2: Na jakim rodzaju danych szkolone są te modele językowe (LM) i skąd czerpią te dane? Jakie są granice tych danych?

Na bardzo podstawowym poziomie rozumiem, że ChatGPT wykorzystuje zbiór danych o nazwie WebText, który składa się z danych generowanych przez ludzi, dostępnych w Internecie. Ponadto WebText jest statyczną bazą danych — migawką danych dostępnych w Internecie w określonym czasie. Warto zauważyć, że dane treningowe ChatGPT są ograniczone do 2021 roku.

Zrzut ekranu ChatGPT

Na przykład zapytałem ChatGPT o niedawne trzęsienie ziemi w Turcji i Syrii i odnosi się ono do innego trzęsienia ziemi, które miało miejsce w 2020 r. Ogólna odpowiedź, która następuje, jest wiarygodna nawet w dzisiejszym scenariuszu, który pokazuje nam również, w jaki sposób przypisujemy znaczenie treści.

Zrzut ekranu ChatGPT

W „O niebezpieczeństwach stochastycznych papug” autorzy ostrzegają przed szkodliwością danych statycznych w świecie zmieniających się poglądów społecznych. Mówią, że najnowsze ruchy społeczne nie pojawią się w narracji generowanej przez narzędzia takie jak ChatGPT.

P ytanie 3: Jakiego rodzaju uprzedzenia mają modele językowe (LM)? A jak filtrują treści?

Internet nie jest reprezentatywny dla całego naszego społeczeństwa. Cierpi na nierówność dostępu, aktywne tłumienie głosów przez serwisy społecznościowe, bariery językowe itp. Może to powodować błędy w zbiorach danych używanych do szkolenia narzędzi, takich jak ChatGPT. A autorzy artykułu „O niebezpieczeństwach stochastycznych papug: czy modele językowe mogą być zbyt duże?” potwierdzić, że zestawy danych mogą potencjalnie kodować uprzedzenia wobec zmarginalizowanych populacji.

„Istnieje niebezpieczeństwo, że zbiory danych mogą nadmiernie reprezentować hegemoniczne punkty widzenia i kodować uprzedzenia potencjalnie szkodliwe dla zmarginalizowanych populacji…”

Mówią, że modele językowe nie wykonują rozumienia języka naturalnego (NLU), ale w większości manipulują tylko formą językową. Choć z pozoru wydaje się to nieszkodliwe, może być złe, ponieważ my, ludzie, nieuchronnie uznamy syntetyczny tekst za znaczący.

Jeśli dane rzucą nam tendencyjne treści, kto wie, jak je przetworzymy — jakie punkty kontrolne wprowadzimy?

P ytanie 4: Czy treść generowana przez silnik sztucznej inteligencji w wyniku mojego monitu jest prawnie moja, czy też należy do ChatGPT? Co dzieje się z prawami autorskimi w świecie, w którym wszyscy używają narzędzi AI do pisania?

P ytanie 5: I odwrotnie, czy nie powinniśmy wymyślić innego rodzaju praw autorskich, dzięki którym mamy aktywną opcję zapobiegania wykorzystywaniu generowanych przez nas treści przez zbiory danych AI? I jak takie zasady wpłyną na pole?

Chociaż wkleiłem te pytania w ChatGPT, aby zobaczyć, co mówi, nie mam żadnych początków odpowiedzi na te pytania. Chętnie poczytam więcej na ten temat, więc wszystkie materiały są mile widziane.

Pytanie 6: Co? Czy uruchomienie tych systemów głębokiego uczenia ma znaczący wpływ na środowisko?

Najwyraźniej uruchamianie tych systemów ma wpływ na środowisko i jest znaczący. Margaret Mitchell* i inni badacze odwołują się w swoim artykule do tego faktu i twierdzą, że zmarginalizowane społeczeństwa, choć niewiele zyskują na takich innowacjach, ponoszą wysokie koszty środowiskowe.

O niebezpieczeństwach stochastycznych papug: czy modele językowe mogą być zbyt duże?: Podczas gdy przeciętny człowiek jest odpowiedzialny za około 5 ton ekwiwalentu CO2 rocznie, autorzy Strubell i in. glin. przeszkolili model transformatora (duży) z wyszukiwaniem architektury neuronowej i oszacowali, że procedura treningowa wyemitowała 284 t CO2e.

P ytanie 7: Do jakiego rodzaju problemów kapitałowych prowadzą te narzędzia oparte na sztucznej inteligencji?

Narzędzia takie jak ChatGPT są już za paywallem. Istniejąca luka wynikająca z braku umiejętności czytania i pisania, nierównego dostępu do urządzeń komputerowych/Internetu oraz umiejętności cyfrowych zostanie tylko pogłębiona przez te technologie.

P ytanie 8: W jaki sposób narzędzia AI wpłyną na generowanie i analizę danych edukacyjnych? Jaki impuls uzyskają jakościowe badania danych?

Interesujące będzie obserwowanie przestrzeni analityki uczenia się, aby zobaczyć, co się z niej wyłoni.

Na poziomie osobistym, ponieważ prowadzimy tradycyjne kursy MOOC w moim miejscu pracy, kodyfikujemy dane jakościowe i ręcznie kategoryzujemy odpowiedzi w celu analizy danych. Moglibyśmy po prostu dostarczyć kody i przykłady do ChatGPT i pobrać skategoryzowane dane. Nie mogę zacząć się zastanawiać, w jaki sposób te narzędzia mogą zmienić takie procesy i być może zmienić nawet pytania, które zadajemy.

P ytanie 9: Przechodząc do tematu, który niepokoi większość projektantów, nauczycieli i uniwersytetów — w jaki sposób ChatGPT wpłynie na edukację?

Chociaż jest to szerokie pytanie z ogromnymi możliwościami, które wymaga starannej analizy, niektóre węższe pytania, na które warto zwrócić uwagę, to:

W jaki sposób ocena wpływu ChatGPT?
Co robimy, gdy uczniowie „oszukują”? Czy powinniśmy używać oprogramowania do wykrywania sztucznej inteligencji, aby uniemożliwić uczniom korzystanie z niego?
Jak możemy wykorzystać narzędzia oparte na sztucznej inteligencji do bardziej spersonalizowanej pomocy w nauce?
Czy narzędzia oparte na sztucznej inteligencji wyeliminują potrzebę tworzenia kursów od podstaw?
Czy wykorzystanie narzędzi opartych na sztucznej inteligencji wyeliminuje potrzebę krytycznego myślenia?

Pytanie oceniające

Jestem pewien, że pojawi się wiele strategii radzenia sobie z ocenami. Oto jeden, który szczególnie przypadł mi do gustu. Dr Aneesha Bakharia mówi, że wymyślanie odpowiednich podpowiedzi w celu wygenerowania odpowiedniej treści wymaga wiedzy, umiejętności rozumowania i umiejętności podpowiadania. Tak więc jednym ze sposobów jest poproszenie uczniów o podzielenie się historią monitów AI. Udostępniła również to narzędzie do śledzenia, zapisywania i udostępniania historii monitów AI:https://sharegpt.com/

Nie wiem, jakie prawa zrzekną się studenci, zgadzając się na korzystanie z tych narzędzi związanych ze sztuczną inteligencją. Tak więc, podobnie jak w przypadku innych narzędzi technicznych, myślę, że będzie to pytanie, które wielu nauczycieli będzie badać, gdy zaczną włączać te technologie do swoich zwykłych klas.

Pytanie o oszustwo

Na kilku konferencjach słyszałem, jak dr Bakharia przedstawił dwa bardzo interesujące punkty w tej kwestii. Mówi, że ściąganie nie oznacza, że uczniowie używają sztucznej inteligencji do pisania odpowiedzi, ale że używają wcześniej utworzonych podpowiedzi do generowania odpowiedzi. To patrzenie na oszukiwanie z obiektywu AI.

Inną kwestią, o której mówi, jest to, że prawdopodobnie nie można pokonać technologii za pomocą technologii. Nauczyciele mówią o używaniu narzędzi do identyfikacji tekstu tworzonego przez sztuczną inteligencję. Ale uczniowie już używają narzędzi do parafrazowania tekstu utworzonego przez sztuczną inteligencję, aby pokonać oprogramowanie wykrywające sztuczną inteligencję. Więc ta zabawa w kotka i myszkę nie skończy się dobrze.

Chodzi o to, aby wierzyć w uczniów, uczyć z wewnętrzną motywacją i włączać technologię sztucznej inteligencji do nauczania.

Pytanie o personalizację

Myślę, że narzędzia AI staną się naszym najlepszym przewodnikiem wsparcia w miejscu pracy. Microsoft próbuje włączyć sztuczną inteligencję do Teams. Prawdopodobnie będziemy mieć sztuczną inteligencję w przepływie pracy, która będzie nas podpowiadać i kierować (chociaż obawy związane z bezpieczeństwem danych/prywatnością/prawami autorskimi mogą być wysokie w przypadku korzystania z technologii w przedsiębiorstwach w obecnym kształcie).

Ale pytanie brzmi: czy sztuczna inteligencja zakłóci nauczanie online na tyle, że odsunie nas od tradycyjnych, skoncentrowanych na nauczycielu modeli, czy też stanie się pomocą w tradycyjnym modelu nauczania?

Na przykład, badając fora dyskusyjne w tradycyjnej przestrzeni MOOC, zauważyłem, że są one zaprojektowane w taki sposób, że instruktorzy nie muszą odpowiadać na czat, który ma miejsce na forach dyskusyjnych. Uczniowie wchodzą ze sobą w interakcję i otrzymują „idealne” odpowiedzi za pośrednictwem nagranych wcześniej filmów, gotowych rozwiązań lub w formie ogólnych informacji zwrotnych. Czy w tradycyjnych, liniowych kursach MOOC sztuczna inteligencja pozwoli nam rozszerzyć zasięg?

Pytanie o redundancję

Sztuczna inteligencja z pewnością wspomoże proces projektowania kursów online — może nie sprawi, że projektanci instruktażowi staną się zbędni, ale pozwoli nam zaoszczędzić czas na bardziej krytyczne projektowanie zorientowane na ucznia, ponieważ generowanie treści będzie wspomagane przez sztuczną inteligencję. Nie jestem pewien, ale w każdym razie to moje przypuszczenie.

Oto oszałamiający przykład dr Aneesha Bakharia, która sprawiła, że ChatGPT odgrywa rolę eksperta merytorycznego, projektanta nauki i programisty (używającego Liascript ) do wygenerowania kursu, w tym jego nawigacji, funkcji wyszukiwania i interaktywności. A to wyjście:https://liascript.github.io/course/?https://raw.githubusercontent.com/aneesha/chatgpt_grammar_course/main/README.md

Kwestia krytycznego myślenia

Wyszukiwarki dały nam coś bezprecedensowego w historii ludzkiej egzystencji. Dały nam możliwość przeszukiwania źródeł danych, ich przeszukiwania, identyfikowania źródeł, które wyglądają na wiarygodne, łączenia się z rówieśnikami w tej dziedzinie z całego świata, wsłuchiwania się w różne procesy myślowe, a następnie przyswajania nowych informacji lub tworzenia nowej wiedzy na podstawie temat. Z pozoru wydaje się, że narzędzia oparte na sztucznej inteligencji będą nam serwować gotowane jedzenie i wyeliminują potrzebę tego procesu eksploracji. Chociaż może to być do pewnego stopnia prawda, nie sądzę, aby narzędzia posunęły się za daleko bez pośrednictwa człowieka. Abyśmy mogli dobrze korzystać z tej technologii, musimy ją eksplorować, uczyć się, badać, a następnie wchodzić z nią w interakcję.

Wyrywkowe wyszukiwanie, eksploracja i rozmowy z rówieśnikami — rodzaj badań, które prowadzą do tego, co Daniel Pink nazywa „zderzeniem pomysłów”, ma zasadnicze znaczenie dla twórczości. Myślę więc, że będziemy musieli korzystać z narzędzi opartych na sztucznej inteligencji w taki sposób, aby nie zamykać się aktywnie we wzorcach myślenia ani strukturyzacji pomysłów, które wyrzucają te narzędzia. Będzie to aktywna praktyka, którą będziemy musieli uważnie kontynuować.

P ytanie 10: Czat GPT, DALL-E to dwa narzędzia, które do tej pory zbadałem — jakie są inne dostępne narzędzia AI, które możemy zacząć badać?

Następne kroki

Ludzie stworzyli wykres efektu Dunninga Krugera dla ChatGPT (narzędzia oparte na sztucznej inteligencji) i myślę, że nieumyślnie przejrzałem go w tym poście.

Odkrywanie sposobów wykorzystania ChatGPT do nauki projektowania byłoby kolejną rzeczą na mojej liście rzeczy. Oczywiście, aby to zrobić, muszę również nauczyć się bardziej zaawansowanych umiejętności podpowiadania, co być może udokumentuję w innym poście.

Podsumowując, nadal będziemy panami maszyn, o ile będziemy się przykładać i współpracować. Pomóż mi więc poprawić te pytania, znaleźć na nie odpowiedzi i udostępnić interesujące zasoby, aby opracować dalsze pytania na ten temat. Razem pokonamy boty!