Jika Anda melewatkan GPT-3

Dec 20 2022
Peringatan: artikel ini diperuntukkan bagi orang yang tidak memiliki pengetahuan tentang data atau kecerdasan buatan. Saya membuat beberapa perkiraan untuk menyederhanakan banyak hal.

Peringatan: artikel ini diperuntukkan bagi orang yang tidak memiliki pengetahuan tentang data atau kecerdasan buatan. Saya membuat beberapa perkiraan untuk menyederhanakan banyak hal.

Anda bangun seperti pagi lainnya dan mengeluarkan ponsel Anda untuk membuka Twitter. Dan kemudian, tsunami . Ribuan tweet berbicara tentang GPT-3, OpenAI atau ChatGPT. Anda kembali tidur.

Tetapi ketika Anda bangun kembali, Anda bertanya-tanya mengapa begitu banyak orang membicarakannya dan apa itu GPT-3?

Jangan khawatir, saya akan menjelaskan semuanya kepada Anda.

AI generatif

Sebelum masuk ke inti permasalahan, saya perlu menjelaskan apa itu AI generatif.

AI generatif mengacu pada kelas sistem AI yang mampu menghasilkan data baru, seperti teks, gambar, atau audio, berdasarkan sekumpulan data input dan sekumpulan aturan atau tujuan.

Untuk meringkasnya secara sederhana, kami memberikan algoritma satu set data yang akan diperiksa untuk memahami aturan dan fungsi untuk menghasilkan keluaran baru (misalnya kalimat atau gambar)

Inilah yang Midjourney, AI generatif, kembali ketika dimintai gambar realistis es krim sundae dengan ceri dan marshmallow

Mari kita bicara tentang GPT-3

GPT-3 adalah program komputer yang dikembangkan oleh OpenAI yang dapat memahami dan menghasilkan teks mirip manusia. Itu dapat membaca dan menulis dalam berbagai bahasa, dan bahkan dapat menulis cerita atau menjawab pertanyaan yang diajukan orang. Ini seperti robot yang sangat pintar yang dapat berbicara dan menulis seperti manusia. Tapi bukannya tubuh, ia hidup di komputer dan berkomunikasi melalui internet.

Anda mungkin berpikir bahwa saya telah meringkas GPT-3 dengan sangat baik karena saya seorang penulis jenius tetapi Anda salah. Definisi ini ditulis oleh GPT-3 sendiri. Tapi bagaimana caranya? Mari minta GPT-3 untuk memberi kami detail lebih lanjut (saya akan menyelesaikan hasilnya)

GPT-3 (kependekan dari "Generative Pre-trained Transformer 3") adalah sistem kecerdasan buatan pemrosesan bahasa yang dikembangkan oleh OpenAI. Ini adalah salah satu model bahasa terbesar dan terkuat yang tersedia saat ini, dengan 175 miliar parameter.

GPT-3 adalah apa yang kami sebut LLM (Large Language Models). Mereka disebut "Besar" karena memiliki jumlah parameter yang luar biasa. Ada beberapa jenis model bahasa besar yang dua paling terkenal adalah transformer (GPT-3 atau BERT) dan Reccurent Neural Networks (RNN, seperti LSTM atau GRU).

Model-model ini dilatih pada sejumlah besar data dari berbagai tempat: artikel, buku, internet, dll…

Parameter adalah nilai yang menentukan perilaku atau output dari suatu algoritma atau model. Ini digunakan untuk menyempurnakan kinerja algoritme atau model, dan dapat disesuaikan untuk mengoptimalkan hasil untuk tugas atau kumpulan data tertentu.

Untuk lebih memahami apa itu, kita akan melihat apa saja parameter dalam model regresi linier . Lihatlah gambar di bawah ini. Anda dapat melihat plot pencar (berwarna biru) dan fungsi affine (berwarna merah). Kurva merah ini mewakili regresi linier kami.

Tujuan kami dengan kurva merah ini adalah untuk dapat memperkirakan dengan cara terbaik di mana titik baru akan ditempatkan jika nilainya dalam x=1 atau x=2.

Apa yang bisa kita ubah dalam fungsi merah kita sehingga menjadi yang paling setia pada kenyataan? Fungsi affine ditulis sebagai berikut: y = ax + b. Kami memiliki dua parameter di sini: a dan b yang dapat kami mainkan.
Tanpa terlalu banyak detail, kita harus mendefinisikan fungsi biaya yang memungkinkan kita untuk mengetahui apakah kita mendekati kenyataan atau tidak.

Sekarang coba bayangkan 175 miliar parameter dalam satu AI. Luar biasa bukan?

Kami mencoba menemukan kurva merah yang paling mendekati plot pencar biru

GPT-3 adalah jenis model pembelajaran mesin yang dikenal sebagai transformator, yang dilatih untuk memproses dan menghasilkan teks bahasa alami. Ini dilakukan dengan belajar memprediksi kata berikutnya dalam urutan kata, berdasarkan kata-kata yang datang sebelumnya. Semakin banyak teks yang diproses, semakin baik dalam memprediksi kata apa yang muncul berikutnya, dan outputnya menjadi lebih mirip manusia.

Transformer cukup rumit untuk dipahami. Jika kita harus meringkas apa itu, itu adalah algoritma yang mengambil data dan menghasilkan output. Disebut jaringan saraf karena terinspirasi oleh fungsi neuron di otak.

Melalui langkah ini, trafo akan memodifikasi parameter sesuai dengan yang telah dipelajarinya. Semakin banyak data yang dilihatnya, semakin ia dapat menyempurnakan modelnya (ini adalah perkiraan, pada kenyataannya jauh lebih rumit)

Jika Anda ingin tahu lebih banyak, berikut adalah artikel menarik tentang topik ini (sedikit lebih teknis)

GPT-3 dapat digunakan untuk berbagai tugas bahasa, seperti penerjemahan, peringkasan, penjawaban pertanyaan, dan pembuatan teks. Itu bahkan dapat digunakan untuk menghasilkan kode dan melakukan tugas lain yang membutuhkan pemahaman bahasa tingkat tinggi.

Pertanyaan yang akan Anda tanyakan kepada saya sekarang adalah, bagaimana cara menguji GPT-3? Nah, dengan cara paling sederhana dengan ChatGPT.

ChatGPT: berdiskusi dengan AI

ChatGPT adalah varian GPT-3 yang dirancang khusus untuk tugas bahasa percakapan, seperti dialog chatbot dan menjawab pertanyaan. Itu dilatih pada kumpulan data teks percakapan yang besar dan memiliki pemahaman yang lebih dalam tentang struktur dan pola percakapan manusia.

Salah satu perbedaan utama antara GPT-3 dan ChatGPT adalah jenis data yang dilatihkan dan tugas yang dioptimalkan. GPT-3 dilatih pada berbagai data dari internet dan dapat disesuaikan untuk tugas tertentu, sedangkan ChatGPT dirancang khusus untuk tugas bahasa percakapan dan mungkin tidak bekerja dengan baik pada jenis tugas bahasa lainnya.

Dan kesuksesan ChatGPT langsung terasa, terutama di jejaring sosial seperti Twitter. Dan ketika kami melihat statistiknya, kami menyadari popularitas ChatGPT.

Sumber: chartr (buletin data terbaik btw)

Aplikasi apa di dunia nyata?

Aplikasi AI semacam ini akan mengubah dunia. Secara harfiah. Ini memungkinkan untuk menyederhanakan banyak tugas yang panjang dan sulit dan membuka jalan ke aplikasi baru.

Inilah yang dikatakan Sequoia Capital dalam artikel ini :

“Sama seperti ponsel yang mengeluarkan jenis aplikasi baru melalui kemampuan baru seperti GPS, kamera, dan konektivitas saat bepergian, kami berharap model besar ini dapat memotivasi gelombang baru aplikasi AI generatif.”

Saya akan memberikan beberapa contoh penggunaan AI generatif.

Izinkan pengembang membuat kode lebih cepat

GPT-3 merevolusi dunia pembangunan. Tidak perlu repot mengkodekan fungsi tertentu sendiri saat menulis kalimat, AI akan membuatnya untuk kita.

Contoh di bawah ini adalah dasar tetapi memungkinkan Anda untuk melihat kekuatan AI generatif. Tentu saja belum sempurna tapi sudah luar biasa.

Fungsi rata-rata oleh ChatGPT

Selain itu, jika kami memiliki kesalahan dalam kode kami dan kami tidak dapat menemukannya, kami dapat beralih ke AI semacam ini untuk memberi tahu kami apa yang harus dilakukan atau bahkan memperbaiki kesalahan untuk kami.

Buat konten video

Segera mungkin untuk membuat dari awal atau dari video untuk dapat mengubah apa yang kita lihat dengan perintah sederhana.

Contoh lebih baik dari 1000 kata. Jadi saya mengundang Anda untuk menonton video di bawah ini (Anda akan melihat bahwa ini masih memerlukan beberapa pengetahuan teknis, tetapi saya yakin ini akan segera lebih mudah).

Selain itu, Anda akan mendengar tentang DALL-E dan saya harus menjelaskannya kepada Anda.

DALL-E (diucapkan "dolly") adalah model pembelajaran mendalam yang dikembangkan oleh OpenAI yang mampu menghasilkan gambar dari deskripsi teks, menggunakan jaringan saraf yang dilatih pada kumpulan data pasangan teks-gambar. Model dilatih untuk menghasilkan gambar dengan memproses perintah teks dan menghasilkan gambar yang mewakili konten yang dijelaskan dalam teks. Misalnya, dengan prompt teks "Rumah merah muda dua lantai dengan pagar putih dan pintu merah", model mungkin menghasilkan gambar rumah merah muda dengan pagar putih dan pintu merah.

Menulis tentang topik tertentu

Apa yang lebih baik dari ChatGPT untuk menjawab pertanyaan ini sendiri?

Paragraf berikut dihasilkan oleh ChatGPT

Untuk menggunakan GPT-3 untuk menulis tentang topik tertentu, Anda biasanya akan memberikan model dengan prompt atau serangkaian prompt yang menguraikan poin utama yang ingin Anda cakup dalam teks. Misalnya, Anda dapat memberikan prompt yang menguraikan poin-poin utama yang ingin Anda buat dalam artikel tentang manfaat energi terbarukan.

Setelah prompt disediakan, GPT-3 akan menghasilkan teks yang relevan dengan topik dan yang mengikuti struktur dan gaya prompt. Teks yang dihasilkan akan koheren, ditulis dengan baik, dan bebas dari kesalahan, menjadikannya alat yang efektif untuk menghasilkan konten berkualitas tinggi dengan cepat dan efisien.

Secara keseluruhan, GPT-3 adalah alat yang ampuh dan berguna untuk menghasilkan teks pada berbagai topik. Ini dapat digunakan oleh penulis, pemasar, dan profesional lainnya untuk menghasilkan konten berkualitas tinggi dengan cepat dan efisien, tanpa memerlukan penelitian atau waktu penulisan yang ekstensif.

Menyediakan akses ke data untuk semua

Mengakses data di dunia korporat seringkali memusingkan. Seseorang harus memiliki pengetahuan yang kuat tentang ilmu data secara umum tetapi juga tentang struktur data di perusahaan.

Saya membuat solusi Vazy menggunakan GPT-3 yang memecahkan masalah ini. Anda hanya perlu mengajukan pertanyaan dalam bahasa apapun, GPT-3 akan menerjemahkannya ke dalam SQL (bahasa basis data) dan akan menampilkan data dalam beberapa detik. Tidak perlu membuang waktu berjam-jam untuk mencari data yang Anda butuhkan.

Ini adalah video dari apa yang tampak seperti.

Produk masih dalam pengembangan (GPT-3 hanya sebagian kecil dari proyek, kami juga mengelola tampilan dan kualitas data serta memandu pengguna dalam penggunaannya) tetapi jika Anda tertarik, bergabunglah dengan daftar tunggu .

GPT-4: lebih baik dan lebih baik

Bisa dibayangkan OpenAI tidak berniat berhenti di GPT-3 karena kami melihat potensi model yang gila dan antusiasme komunitas. Jadi mereka sedang mengerjakan GPT-4, sebuah evolusi baru dari model yang seharusnya menurunkan GPT-3.

Menurut banyak informan di Twitter, GPT-4 harus diisi dengan lebih dari 100 TRILIUN parameter. 100 TRILIUN.

Untuk memberikan gambaran perbedaannya dengan GPT-3, berikut adalah gambar yang membandingkan besar kecilnya jumlah parameter.

GPT-3 vs GPT-4 dalam hal parameter

Jadi apa yang akan dibuat dari masa depan AI generatif?

Kesimpulan

Pertama-tama saya harap artikel ini membantu Anda untuk lebih memahami apa itu AI generatif, LLM, GPT-3 atau ChatGPT.

Saya ingin mengakhiri dengan memperingatkan Anda terhadap dua pendekatan yang sering kita lihat diekspresikan di jejaring sosial, terutama Twitter.

GPT akan segera dapat menggantikan beberapa pekerjaan sepenuhnya

Saya pikir ini adalah pendekatan yang salah dengan keadaan AI generatif saat ini. Ini harus dilihat sebagai bantuan besar bagi manusia dalam tugas sehari-hari dan saya pikir kita dapat berhipotesis bahwa pekerjaan hybrid akan muncul di tahun-tahun mendatang. Manusia tidak bekerja sendiri, atau mesin, tetapi pengetahuan campuran dari keduanya. Pada tingkat yang bahkan lebih penting daripada apa yang kita alami dengan Internet.

GPT adalah AGI

Kecerdasan umum buatan (AGI) adalah jenis kecerdasan buatan yang mampu memahami atau mempelajari tugas intelektual apa pun yang dapat dilakukan manusia.

AGI adalah Cawan Suci yang diimpikan oleh setiap peneliti AI.

Namun, ada cara yang sangat sederhana untuk memahami bahwa GPT masih sangat jauh dari menjadi AGI. Jika demikian, GPT mungkin telah menemukan hal-hal dalam matematika, fisika, atau ilmu komputer yang belum pernah ditemukan manusia sebelumnya.

Namun demikian, GPT dan karya OpenAI membawa kami semakin dekat ke AGI ini. Bidang AI generatif melebihi prediksi Hukum Moore dan saya pribadi percaya bahwa pada tahun 2030 kita akan mencapai AGI.

Dan dunia kita akan berubah selamanya. Pergolakan terbesar yang pernah dihadapi manusia akan terjadi dan perubahan besar dalam masyarakat akan terjadi.

Saya tidak sabar untuk melihat ini.

Jika Anda menyukai artikel ini dan ingin menyenangkan saya, jangan ragu untuk membuka vazydata.com dan bergabung dalam daftar tunggu ;)