Botları Yeneceğiz

Feb 21 2023

ChatGPT'ye bu tepkilerden hangilerini verdiniz? Ayaklarımı bu yeni teknolojiye temkinli bir şekilde daldırırken, yapabileceğimin en iyisi tonlarca soru sormak. Burada keşif sürecimi kısmen belgeliyorum.

DALLE-E kullanılarak oluşturulan sürrealist bir görüntü: Yapay zeka için endişelenen insanları ve bir sınıfta müzik, edebiyat ve bilim becerilerini sergileyen bir papağanı tasvir eder. (DALL-E, adını Salvador Dali ve WALL-E'den alır.)

ChatGPT'ye bu tepkilerden hangilerini verdiniz?

Sallanan kollar, “Yapay zeka burada. AI burada.”
"İnsan olmak ne demek? Makineler benim yapabildiğimi yapabiliyorsa, herhangi bir şeyin ne anlamı var?”
"Hadi kullanmaya başlayalım!"
“Kes şunu. Daha doğrusu yasaklayın. Ya da belki en azından kontrol et.
“Kendime biraz saygım var. Ben kullanmıyorum!”
“Bu sadece başka bir moda. Geçecek.”

Ayaklarımı bu yeni teknolojiye temkinli bir şekilde daldırırken, yapabileceğimin en iyisi tonlarca soru sormak. Burada keşif sürecimi kısmen belgeliyorum. Yazdıkça öğreniyorum, öğrendikçe yazıyorum.

Bu konuyla ilgili bilgi, fikir, düşünce ve görüşlerden (çoğunlukla insan kaynaklı) oluşan bir okyanus var ve beni daha fazla soruya veya bazı yanıtlara yönlendirebilirseniz çok memnun olurum.

Soru 1: Yapay zekayı iyi bir şekilde kullanabilmemiz için hangi okuryazarlıkları geliştirmemiz gerekiyor?

İnsan merkezli yapay zeka araştırmacısı Duri Long'a göre,

"Yapay zeka okuryazarlığı, bireylerin yapay zeka teknolojilerini eleştirel bir şekilde değerlendirmesine, yapay zeka ile etkili bir şekilde iletişim kurmasına ve işbirliği yapmasına ve yapay zekayı çevrimiçi, evde ve işyerinde bir araç olarak kullanmasına olanak tanıyan bir dizi yetkinliktir."

Yapay zeka okuryazarlığını beş üst düzey soruya ayırıyor:

AI nedir?
AI ne yapabilir?
AI nasıl çalışır?
İnsanlar yapay zekayı nasıl algılıyor?

AI okuryazarlığını geliştirmek için çalıştığım şey:

Yapay zeka teknolojilerinden en iyi şekilde yararlanmak için hızlı mühendislik, keşfetmeye değer bir alandır. Aslında, hızlı paylaşımın yakında bir şey olacağını düşünüyorum.

Hızlı Mühendislik sanat mı ? ve yapmalarını istediğiniz şeyi yapmalarını sağlamak için yapay zeka tabanlı araçlarla konuşma bilimi . İstemler, temelden ileri düzeye kadar değişebilir. Ve ileri düzeyde ipucu vermeyi öğrenmek bize iyi gelecek.

Temel bir istem örneği , 'Siz bir müfredat tasarımcısısınız' gibi bir şey söyleyerek yapay zeka aracına bir rol atamayı içeren Rol İstemidir . Veya, bir sorunun sonuna şunu ekleyerek yapay zekadan adım adım düşünmesini istediğiniz Sıfır Atışlı Düşünce Zinciri istemi: 'Adım adım düşünelim' ve bize ne düşündüğünü açıklıyor .

Hızlı mühendislik, bir ay öncesine kadar kör olduğum bir alandı. Ancak gelişmek, biz insanları alakalı tutacaktır, bu yüzden almakta olduğum bir kursun bağlantısı:https://learnprompting.org/docs/intro

Prompt Mühendisliği Kursunun Ekran Görüntüsü

Yapay zekayı bilinçli bir şekilde kullanmak için nasıl çalıştığını anlamak önemlidir.

AI'nın nasıl çalıştığını bilmek, sınırlamalarını anlamamızı sağlar. Örneğin, yapay zeka ile ilgili bazı konuşmalarda şunu sık sık duyuyorum: "Yapay zekanın doğruluk duygusu yoktur" veya "o yalnızca bir kelime tahmin makinesidir." ChatGPT akıllı değildir ve çıktısını yorumlayarak ona anlam katarız. Sadece bu kadarını bilmek bize çıktıya dikkatle bakmamızı söyler. Bu nedenle, yapay zekanın işleyişini ve doğal sınırlamalarını öğrenmek çok önemlidir.

Dr Long'a göre yapay zeka, bilişsel bilimler, makine öğrenimi ve robotik bilimlerini kapsayan geniş bir alandır. Şu anda bu canavarı, Doğal Dil İşleme (NLP) nedir, Büyük Dil Modelleri (LLM'ler) nedir, nasıl çalışırlar ve tüm bunlar olurken hangi kayanın altında yaşıyordum gibi soruların sonundan yakalıyorum. çevremde mi gelişiyor?

Stephen Wolfram'ın "ChatGPT Ne Yapıyor... ve Neden Çalışıyor?" başlıklı makalesi en temelden başlayan kapsamlı bir okumadır. Notlar almak ve şematik diyagramlar çizmek için bu makaleyi elinizde bir kalem ve kağıtla okumanızı tavsiye ederim. İlk okumada, bazı belirsiz fikirler topladım:https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

Yapay zeka teknolojileriyle ilgili etik kaygıların farkında olmak, onun eğitimli kullanımına yönelik önemli bir adım olabilir.

"Rastlantısal Papağanların Tehlikeleri Üzerine: Dil Modelleri Çok Büyük Olabilir mi?" verilerde önyargı , eşitlik ve çevresel etki dahil olmak üzere yapay zeka ile ilgili etik soruları gündeme getiren bir makaledir . Konu ChatGPT ile ilgili olmasa da (GPT-3'e kadar kapsar), dile getirilen endişeler ChatGPT ve diğer AI araçlarıyla ilgilidir.

Soru 2: Bu Dil Modelleri (LM'ler) ne tür veriler üzerinde eğitiliyor ve bu verileri nereden alıyorlar? Bu verilerin sınırları nelerdir?

Çok temel bir düzeyde, ChatGPT'nin WebText adı verilen ve İnternet'te bulunan insan yapımı verilerden oluşan bir veri külliyatını kullandığını anlıyorum. Ayrıca, WebText statik bir veri tabanıdır - belirli bir zamanda internette mevcut olan verilerin anlık görüntüsüdür. ChatGPT eğitim verilerinin 2021 ile sınırlı olduğunu belirtmekte fayda var.

ChatGPT'nin ekran görüntüsü

Örneğin, ChatGPT'ye Türkiye ve Suriye'deki son depremi sordum ve bu, 2020'de meydana gelen başka bir depremden bahsediyor. Aşağıdaki genel yanıt, içeriğe nasıl anlam yüklediğimizi de gösteren günümüz senaryosunda bile makul.

ChatGPT'nin ekran görüntüsü

Yazarlar “Stokastik Papağanların Tehlikeleri Üzerine”de, değişen sosyal görüşlere sahip bir dünyada statik verilerin zararları konusunda uyarıda bulunuyorlar. En son sosyal hareketlerin ChatGPT gibi araçlar tarafından oluşturulan anlatılarda yer almayacağını söylüyorlar.

Soru 3: Dil Modellerinin (LM'ler) ne tür önyargıları vardır? Ve içeriği nasıl filtreliyorlar?

İnternet tüm toplumumuzu temsil etmiyor. Erişim eşitsizliğinden, seslerin sosyal medya siteleri tarafından aktif olarak bastırılmasından, dil engellerinden vb. muzdariptir. Bu, ChatGPT gibi araçları eğitmek için kullanılan veri kümelerinde önyargılar yaratabilir. Ve "Stokastik Papağanların Tehlikeleri Üzerine: Dil Modelleri Çok Büyük Olabilir mi?" başlıklı makalenin yazarları. veri setlerinin marjinalleştirilmiş popülasyonlara karşı önyargıları potansiyel olarak kodlayabileceğini onaylayın.

"Veri kümelerinin hegemonik bakış açılarını gereğinden fazla temsil etmesi ve marjinalize edilmiş nüfuslara potansiyel olarak zarar verebilecek önyargıları kodlaması tehlikesi var..."

Dil Modellerinin Doğal Dil Anlama (NLU) gerçekleştirmediğini, çoğunlukla yalnızca dilsel biçimi manipüle ettiğini söylüyorlar. Bu, yüzeyde zararsız görünse de, biz insanlar sentetik metni kaçınılmaz olarak anlamlı bulacağımız için kötü olabilir.

Veriler bize önyargılı içerik atarsa, onu nasıl işleyeceğimizi kim bilebilir - hangi kontrol noktalarını devreye sokacağız?

Soru 4: Bir yapay zeka motorunun istemim sonucunda oluşturduğu içerik yasal olarak benim mi yoksa ChatGPT'ye mi ait? Herkesin bir şeyler yazmak için bir AI aracı kullandığı bir dünyada telif hakkı sorunlarına ne olur?

Soru 5: Tersine, oluşturduğumuz içeriğin AI veri kümeleri tarafından kullanılmasını önlemek için aktif seçeneğimiz olan başka bir telif hakkı türü bulmamız gerekmez mi? Ve bu tür kurallar alanı nasıl etkileyecek?

Ne yazdığını görmek için bu soruları ChatGPT'ye yapıştırmış olsam da, bu sorulara herhangi bir yanıt başlangıcım yok. Bu konuda daha fazlasını okumaktan memnuniyet duyacağım, bu nedenle tüm kaynaklara açığım.

Soru 6: Ne? Bu derin öğrenme sistemlerini çalıştırmanın önemli bir çevresel etkisi var mı?

Görünüşe göre, bu sistemleri çalıştırmanın çevresel bir etkisi var ve bu önemli. Margaret Mitchell* ve diğer araştırmacılar makalelerinde bu gerçeğe atıfta bulunuyorlar ve marjinal toplumların bu tür yeniliklerden çok az fayda sağlamalarına karşın, yüksek çevresel maliyetler ödediklerini söylüyorlar.

Stokastik Papağanların Tehlikeleri Üzerine: Dil Modelleri Çok Büyük Olabilir mi?: Ortalama bir insan yılda tahminen 5 ton CO2e'den sorumluyken, yazarlar Strubell et. al. nöral mimari araştırması ile bir Transformer (büyük) modeli eğitti ve eğitim prosedürünün 284 ton CO2e yaydığını tahmin etti.

Soru 7: Yapay zeka tabanlı bu araçlar ne tür hakkaniyet sorunlarına yol açıyor?

ChatGPT gibi araçlar zaten ödeme duvarının arkasına geçiyor. Okuryazarlık eksikliği, bilgisayar cihazlarına/İnternet'e eşit olmayan erişim ve dijital okuryazarlık nedeniyle var olan boşluk, bu teknolojilerle yalnızca daha da kötüleşecektir.

Soru 8: AI araçları, öğrenme verisi oluşturma ve analizini nasıl etkileyecek? Nitel veri araştırmaları nasıl bir ivme kazanacak?

Neyin ortaya çıktığını görmek için öğrenme analitiği alanını izlemek ilginç olacak.

Kişisel düzeyde, iş yerimde geleneksel KAÇD'ler yürütürken nitel verileri kodlar ve verileri analiz etmek için yanıtları manuel olarak kategorilere ayırırız. Sadece kodları ve örnekleri ChatGPT'ye sağlayabilir ve kategorize edilmiş verileri alabiliriz. Bu araçların bunun gibi süreçleri nasıl değiştirebileceğini ve muhtemelen sorduğumuz soruları bile nasıl değiştirebileceğini merak etmeye başlayamıyorum.

Soru 9: Eğitim tasarımcılarının, öğretmenlerin ve üniversitelerin çoğunu endişelendiren konuya geçelim — ChatGPT eğitimi nasıl etkileyecek?

Bu, dikkatli analiz gerektiren geniş olasılıklara sahip geniş bir soru olsa da, akla gelen bazı daha dar sorular şunlardır:

ChatGPT değerlendirmeyi nasıl etkiler?
Öğrenciler kopya çekerse ne yaparız? Öğrencilerin kullanmasını önlemek için AI algılama yazılımı kullanmalı mıyız?
Daha kişiselleştirilmiş öğrenme yardımı için yapay zeka tabanlı araçları nasıl kullanabiliriz?
Yapay zeka tabanlı araçlar, dersleri sıfırdan oluşturma ihtiyacını ortadan kaldıracak mı?
AI tabanlı araçların kullanılması, eleştirel düşünme ihtiyacını ortadan kaldıracak mı?

Değerlendirme Sorusu

Eminim değerlendirmelerle başa çıkmak için birçok strateji ortaya çıkacaktır. İşte özellikle hoşuma giden biri. Dr Aneesha Bakharia, doğru içeriği oluşturmak için uygun ipuçları bulmanın bilgi, muhakeme becerileri ve yönlendirme becerileri gerektirdiğini söylüyor. Bu nedenle, öğrencilerden AI komut istemi geçmişlerini paylaşmalarını istemek bir yaklaşımdır. Ayrıca AI bilgi istemi geçmişini izlemek, kaydetmek ve paylaşmak için bu aracı paylaştı:https://sharegpt.com/

Öğrencilerin AI ile ilgili bu araçları kullanmayı kabul ederek hangi hakları vereceklerini bilmiyorum. Dolayısıyla, diğer tüm teknolojik araçlarda olduğu gibi, bu teknolojileri normal sınıflarına dahil etmeye başladıklarında birçok eğitimcinin keşfedeceği bir soru olacağını düşünüyorum.

Hile Sorusu

Birkaç konferansta, Dr Bakharia'nın bu soruyla ilgili çok ilginç iki nokta verdiğini duydum. Kopya çekmenin, öğrencilerin yanıt yazmak için AI kullanmaları anlamına gelmeyeceğini, ancak yanıtları oluşturmak için önceden oluşturulmuş bilgi istemlerini kullanmaları anlamına geleceğini söylüyor. Aldatmaya AI merceğinden bakmak budur.

Değindiği bir başka nokta da muhtemelen teknolojiyi teknoloji ile yenemeyeceğinizdir. Öğretmenler, yapay zeka tarafından oluşturulan metni tanımlamak için araçlar kullanmaktan bahsediyor. Ancak öğrenciler, yapay zeka algılama yazılımını yenmek için yapay zeka tarafından oluşturulan metni yorumlamak için araçları zaten kullanıyor. Yani, bu kedi-fare kovalamacası pek de iyi bitmeyecek.

Fikir, öğrencilere inanmak, içsel motivasyon için öğretmek ve öğretime yapay zeka teknolojisini dahil etmektir.

Kişiselleştirme Sorusu

Yapay zeka araçlarının nihai iş başında destek kılavuzumuz olacağını düşünüyorum. Microsoft, yapay zekayı Teams'e dahil etmeye çalışıyor. Muhtemelen iş akışında bizi harekete geçirecek ve yönlendirecek yapay zekaya sahip olacağız (bugünkü haliyle teknolojinin kurumsal kullanımında veri güvenliği/gizlilik/telif hakkı endişeleri yüksek olsa da).

Ancak soru şu: Yapay zeka, çevrimiçi öğrenmeyi bizi geleneksel, öğretmen merkezli modellerden uzaklaştıracak kadar bozacak mı yoksa geleneksel öğretim modeline yardımcı olacak mı?

Örneğin, geleneksel MOOC alanındaki tartışma forumlarını araştırırken, eğitmenlerin tartışma forumlarında gerçekleşen sohbete yanıt vermesine gerek kalmayacak şekilde tasarlandıklarını gördüm. Öğrenciler birbirleriyle etkileşime girer ve önceden kaydedilmiş videolar, önceden yazılmış çözümler veya genel geri bildirim biçiminde "ideal" yanıtları alırlar. Geleneksel, doğrusal MOOC'larda yapay zeka erişimimizi genişletmemize izin verecek mi?

Artıklık Sorusu

Yapay zeka, çevrimiçi kurs tasarım sürecine kesinlikle yardımcı olacaktır - öğretim tasarımcılarını gereksiz kılmayabilir, ancak içerik oluşturma yapay zeka tarafından destekleneceğinden, daha kritik öğrenci merkezli tasarım yapmak için zamanımızı boşaltacaktır. Emin değilim, ama yine de bu benim tahminim.

İşte Dr Aneesha Bakharia'dan, ChatGPT'nin bir konu uzmanı, bir öğrenme tasarımcısı ve bir programcı ( Liascript kullanarak) rolünü üstlenerek navigasyon, arama işlevi ve etkileşimleri içeren bir kurs oluşturmasını sağlayan akıllara durgunluk veren bir örnek . Ve bu çıktı:https://liascript.github.io/course/?https://raw.githubusercontent.com/aneesha/chatgpt_grammar_course/main/README.md

Eleştirel Düşünme Sorusu

Arama motorları bize insanlık tarihinde benzeri görülmemiş bir şey sağladı. Bize veri kaynaklarını arama, onları eleme, güvenilir görünen kaynakları belirleme, dünyanın dört bir yanından bu alandaki meslektaşlarla bağlantı kurma, çeşitli düşünce süreçlerini dinleme ve ardından yeni bilgileri özümseme veya yeni bilgiler oluşturma yeteneği verdiler. başlık. Yüzeyde, yapay zeka tabanlı araçlar bize pişmiş yemek sunacak ve bu keşif sürecine olan ihtiyacı ortadan kaldıracak gibi görünüyor. Bu bir dereceye kadar doğru olsa da, araçların insan müdahalesi olmadan çok ileri gideceğini düşünmüyorum. Bu teknolojiyi iyi kullanabilmemiz için keşfetmemiz, öğrenmemiz, araştırmamız ve ardından teknolojiyle tekrar etkileşime geçmemiz gerekecek.

Rastgele arama, keşif ve meslektaşlarla konuşma - Daniel Pink'in "fikirlerin çarpışması" dediği şeye götüren araştırma türü, yaratıcı çıktı için çok önemlidir. Bu nedenle, yapay zeka tabanlı araçları, kendimizi aktif olarak bu araçların yaydığı düşünce kalıplarına veya fikirlerin yapılanmasına hapsetmeyecek şekilde kullanmamız gerektiğini düşünüyorum. Dikkatlice devam etmemiz gereken aktif bir uygulama olacak .

Soru 10: Chat GPT, DALL-E şimdiye kadar keşfettiğim iki araçtır — keşfetmeye başlayabileceğimiz diğer mevcut yapay zeka araçları nelerdir?

Sonraki adımlar

İnsanlar ChatGPT (AI-tabanlı araçlar) için bir Dunning Kruger etki grafiği oluşturdular ve sanırım yanlışlıkla bu gönderi boyunca onun üzerinden geçtim.

ChatGPT'nin tasarımı öğrenmek için nasıl kullanılabileceğini keşfetmek, yapılacaklar listemdeki bir sonraki şey olacaktır. Tabii ki, bunu yapmak için, belki başka bir gönderide belgeleyeceğim, daha ileri yönlendirme becerilerini de öğrenmem gerekiyor.

Sonuç olarak, kendimizi uygulamaya ve birlikte çalışmaya devam ettiğimiz sürece makinelerin efendisi olmaya devam edeceğiz. Bu yüzden, lütfen bu soruları düzeltmeme, bunlara cevaplar bulmama ve konuyla ilgili daha fazla soru geliştirmek için ilginç kaynakları paylaşmama yardım edin. Birlikte botları yeneceğiz!