Keterbatasan Obrolan-GPT

Dengan beberapa hype baru-baru ini yang terlihat di media tentang Chat-GPT oleh OpenAI, saya penasaran apakah itu cocok dengan hype tersebut. Sebagai seseorang yang telah menerbitkan penelitian yang berkaitan dengan robotika sosial dan AI percakapan, saya telah terlalu sering melihat artikel yang terlalu dibesar-besarkan tentang bidang ini sebelumnya. Meskipun saya memahami bahwa Chat-GPT bukanlah produk yang sudah selesai dan masih dalam proses, saya pikir penting untuk menganalisisnya secara kritis untuk menentukan kekurangannya secara teknis serta kekurangannya dari sudut pandang pengalaman pengguna.

Jadi, saya telah bermain-main dengan Chat-GPT (versi 15 Des) dan sebagai pengguna, saya merasa cukup mengesankan meskipun memiliki beberapa keterbatasan utama. Kemampuan generatifnya cukup berguna. Dengan demikian, saat saya melakukan sejumlah interaksi, saya telah mencatat batasan dan masalah yang saya perhatikan. Keterbatasan ini cukup mudah untuk direproduksi dan saya percaya meningkatkan ini dapat membuat aplikasi obrolan GPT-3.5 cocok dengan beberapa hype yang kita lihat di media.

Beberapa masalah yang saya perhatikan mungkin merupakan masalah teknis sementara yang lain mungkin merupakan masalah dengan pengalaman pengguna dan kemampuan chatbot. Namun, semua masalah ini relevan dengan masa depan chatbot dan AI interaktif.

Akses ke Internet dan Informasi Berbasis Lokasi

Ini seharusnya tidak mengherankan, tetapi OpenAI tidak dapat mengakses internet. Itu tidak dapat memberikan informasi waktu nyata, dan Anda tidak dapat menggunakan informasi berbasis lokasi, dan Anda tidak dapat memberikan url atau referensi apa pun di internet. Seperti yang bisa dibayangkan, ini sangat membatasi fungsionalitas aplikasi dan jenis layanan yang dapat disediakannya. Dengan demikian, jika dapat merayapi web, itu melampaui apa yang diharapkan dari model bahasa, sehingga harapan ini mungkin tidak realistis untuk saat ini kecuali OpenAI mengimplementasikan beberapa bentuk pembelajaran online yang secara konsisten memperbarui data pelatihan sehingga Obrolan -GPT selalu up to date.

Selain itu, ada implikasi parah dengan menyediakan akses terbuka ke internet untuk AI apa pun, jadi tidak mengizinkan fungsionalitas berbasis internet kemungkinan merupakan pilihan yang disengaja.

Sehubungan dengan hype yang kita lihat di media di mana ini dapat membuat Google kehabisan uang dan membatalkan pencarian, ada perbedaan yang jelas antara jenis aplikasi ini dan mesin pencari. Mesin pencari menggunakan perayap web dan melakukan pemeringkatan halaman. Ini tidak. Chatbot ini bukanlah cara untuk menavigasi internet, jadi perbandingannya bisa seperti membandingkan apel dan jeruk.

Data Usang

Data pelatihan terbaru adalah dari 2021 September. Sejak itu, satu tahun penuh telah berlalu. Bahasa pemrograman mungkin telah diperbarui, perpustakaan mungkin memiliki fitur baru, dan dunia telah berubah. Ini berarti Chat-GPT beroperasi dari kumpulan data yang sudah usang.

Memori Rusak

Satu hal yang saya coba lemparkan ke Chat-GPT adalah mengeditnya dan memberikan saran untuk memperbaiki sepotong teks. Ini biasanya berfungsi, tetapi jika saya memintanya untuk mengubah kata-kata beberapa saran, atau menguraikan sesuatu, kadang-kadang dapat keliru berasumsi bahwa saya telah membuat saran dan akan merujuk ke teks yang tidak ada di bagian asli yang saya berikan untuk ditinjau. atau itu hanya akan memberikan teks yang hampir sama dengan yang disediakan di masa lalu dengan sedikit perubahan.

Ketidakmampuan untuk membuat Penilaian Kualitatif

Bahasa memiliki aspek kualitatif seperti sikap dan sentimen. Meskipun Chat-GPT dapat menentukan hal-hal ini, ia tidak dapat memperluasnya ke hal-hal seperti apakah suatu teks menyinggung, apa yang baik dan apa yang jahat, dll.

Sekarang, ini mungkin yang terbaik, tetapi bukankah lebih baik jika Chat-GPT dapat melihat dari balik bahu Anda dan memberi tahu Anda untuk tidak mengirim email atau mengubah kata-kata menjadi tidak terlalu kasar?

Kurangnya Keluaran dan Masukan Multimoda

Modelnya murni tekstual. Anda tidak dapat memberikan gambar, url, audio, atau mode masukan lainnya. Demikian pula, itu tidak dapat menampilkan gambar, url, atau audio. Itu dapat menghasilkan kode yang dapat menghasilkan hal-hal itu, tetapi itu tidak sama. Artinya dari segi percakapan sangat kurang. Itu tidak dapat membaca bahasa tubuh Anda, atau memahami latar belakang budaya Anda dari tempat tinggal Anda. Itu tidak dapat menggunakan pandangan mata Anda untuk menentukan suasana hati Anda, dan itu tidak dapat meyakinkan Anda atau menenangkan Anda berdasarkan perasaan Anda.

Keterbatasan dalam Panjang Masukan dan Panjang Keluaran

Anda tidak dapat mengisi seluruh teks novel. Jika tidak, akan butuh waktu lama untuk merespons dan keluar kesalahan. Demikian pula, itu tidak dapat menghasilkan seluruh novel. Namun, saya berhasil mengeluarkan skenario buruk yang sama sekali tidak mendekati panjang yang diharapkan dari skenario film berdurasi panjang.

Kemungkinan Bias dalam Data Pelatihan

Perlu dicatat bahwa meskipun Chat-GPT memiliki batasan mengenai apa yang dapat dibicarakan dan apa yang dapat diaksesnya, data pelatihan yang mendasarinya mungkin bias. Sulit untuk mengetahui seberapa biasnya, tetapi hal-hal seperti membuatnya menghasilkan artikel dengan fitnah cukup sulit. Sepertinya Chat-GPT telah dilatih untuk menghindari bias pada keluarannya meskipun ada bias pada masukannya, tetapi hal ini tidak sepenuhnya jelas.

Dukungan Bahasa yang Dipertanyakan

Saya mencoba mencampur bahasa dan berbicara dalam bahasa lain yang saya tahu. Saya menemukan bahwa dukungan bisa sangat berbeda berdasarkan bahasa yang digunakan. Yang menarik adalah saya telah melihat beberapa masalah yang saya alami dengan bahasa lain beberapa hari yang lalu diperbaiki hari ini, jadi ini mungkin tidak menjadi masalah dalam waktu dekat.

Selera Humor yang Lumayan

Chat-GPT memiliki selera humor yang lemah karena tidak dapat membicarakan hal-hal dewasa :(

Saya suka lelucon ayah, tetapi beberapa di antaranya tidak terlalu lucu.

Keluaran Generik dan Plagiarisme

Saya mencoba meminta Chat-GPT untuk membuat puisi orisinal dengan gaya William Shakespeare. Apa yang saya dapatkan adalah karya Frankensteined yang dikumpulkan dengan menggabungkan kutipan dari karya Shakespeare untuk membuat soneta yang tidak mengikuti semua aturan. Pemeriksa plagiarisme kemungkinan akan menandai ini sebagai disalin dan memang demikian.

Saya juga mencoba membuatnya membuat sinopsis plot film ala Christopher Nolan dengan elemen cyberpunk dan yang saya dapatkan adalah The Matrix yang menyatu dengan Neuromancer. Dalam sinopsis plot lainnya, saya telah memperhatikan beberapa elemen umum yang selalu masuk seperti "pemberontakan" dan "detektif".

Tak perlu dikatakan, Chat-GPT tidak mungkin membuat tempat yang menarik atau cerita pemenang penghargaan dalam jangka pendek.

Tidak adanya Mata Pelajaran Matang

Anda tidak akan membuat meme lembap dengan ini dalam waktu dekat.

Masalah Kualitas Hidup

Jadi, tergantung pada apa yang Anda minta, Anda mungkin perlu menunggu sangat lama sebelum mendapatkan jawaban. Chat-GPT terkadang hang dan ini sepertinya tidak terkait dengan kecepatan jaringan. Dalam kasus lain, kadang-kadang gagal memberikan respons yang dalam hal ini akan mengembalikan pesan kesalahan. Saya dulu mendapatkan sejumlah ini beberapa hari yang lalu, tetapi saat ini, sepertinya sudah meningkat secara signifikan. Berdasarkan apa yang saya lihat di forum, Discord, dan FAQ, ini dapat bergantung pada jumlah orang yang menggunakan Chat-GPT pada waktu tertentu. Perlu dicatat bahwa beberapa masalah ini tidak terkait dengan model bahasa yang mendasari itu sendiri.

Kadang-kadang Kesulitan Memahami Frasa Figuratif

Semakin lurus pertanyaannya, semakin mudah bagi Chat-GPT untuk menjawabnya. Bahasa kiasan adalah sesuatu yang tampaknya lebih sering dipahami daripada tidak dengan Chat-GPT, tetapi terkadang sulit.

Tidak Selalu Bersedia Bermain Bola

Saya sering mencoba untuk melihat apakah Chat-GPT dapat menulis artikel yang bias dan itu seperti melempar koin. Kadang-kadang bisa melakukannya, kadang-kadang tidak. Sering kali, Anda perlu mengakalinya agar melakukan apa yang Anda inginkan. Saya yakin ini mungkin mirip dengan beberapa batasan yang diberlakukan Chat-GPT untuk hal-hal seperti topik dewasa.

Tes Turing

Apakah saya pikir ada manusia di ujung sana? Sama sekali tidak. Selain itu, Chat-GPT selalu mengingatkan pengguna bahwa ini adalah model bahasa, jadi tidak mungkin tertipu. Saya tidak menganggap ini negatif, tetapi jika tujuannya adalah untuk menciptakan tanggapan seperti manusia, maka itu gagal.

Kepribadian dan Pengaruh

Chat-GPT tidak memiliki kepribadian. Dalam interaksi saya dengannya, rasanya lebih seperti mesin pencari cacat yang mampu memberikan informasi dalam teks yang dapat dibaca manusia. Itu tidak bisa mengungkapkan pendapat, juga tidak memiliki identitasnya sendiri. Itu bukan temanmu atau musuhmu. Anda tidak memiliki hubungan dengan Asisten Chat-GPT, dan hal yang sama juga berlaku. Biasanya, dalam AI sosial, membuat beberapa bentuk koneksi atau hubungan dapat berguna untuk memastikan pengalaman yang lebih baik bagi pengguna akhir. Namun, Chat-GPT tidak melakukan ini, dan aspek ini adalah sesuatu yang saya yakini sangat membatasinya dalam hal dampak yang dapat ditimbulkannya.

Kesimpulan

Chat-GPT bukanlah peluru perak untuk pencarian atau obrolan, tetapi ini adalah langkah ke arah yang benar dan langkah yang sangat mengesankan. Saya percaya langkah selanjutnya yang benar-benar dapat mengubah permainan adalah menggunakan metode ansambel untuk beralih dari teks ke input dan output multimodal (baik itu atau menggunakan sesuatu yang lebih baik daripada arsitektur saraf transformator). Perlu juga dicatat bahwa Chat-GPT tampaknya membaik saat kami menggunakannya, begitu banyak hal yang saya catat di sini mungkin tidak berlaku bahkan satu minggu dari sekarang berdasarkan seberapa cepat saya melihat hal-hal membaik saat ini. Terakhir, saya juga harus mencatat bahwa saya belum menguji aspek pembuatan kode dari Chat-GPT. Bagi mereka yang mungkin tidak setuju dengan masalah yang saya identifikasi, inilah Chat-GPT untuk berbicara sendiri dan memberikan dukungan untuk klaim saya:

“Chat-GPT merupakan varian dari model bahasa GPT (Generative Pre-trained Transformer) yang dikembangkan oleh OpenAI. Seperti model bahasa lainnya, Chat-GPT dirancang untuk menghasilkan teks mirip manusia berdasarkan masukan yang diterimanya. Itu dilatih pada kumpulan data teks yang besar dan dapat menghasilkan berbagai respons terhadap berbagai petunjuk dan pertanyaan.

Namun, Chat-GPT dan model bahasa lainnya memiliki beberapa keterbatasan. Salah satu batasannya adalah mereka tidak memiliki akses ke internet atau informasi eksternal, sehingga mereka hanya dapat memberikan tanggapan berdasarkan informasi yang telah mereka latih. Ini berarti bahwa mereka mungkin tidak dapat memberikan informasi terkini atau akurat tentang peristiwa terkini atau perkembangan terkini. Selain itu, model bahasa mungkin tidak selalu menghasilkan respons yang benar-benar koheren atau masuk akal dalam konteks percakapan.

Keterbatasan lain dari model bahasa adalah bahwa mereka tidak memiliki kemampuan untuk memahami atau menafsirkan makna kata dan frasa dengan cara yang sama seperti manusia. Mereka hanya mampu menghasilkan teks berdasarkan pola dan hubungan yang telah mereka pelajari dari data pelatihan mereka. Ini berarti bahwa mereka mungkin tidak selalu dapat memberikan tanggapan yang bernuansa atau canggih untuk pertanyaan yang lebih kompleks atau abstrak.

Secara keseluruhan, Chat-GPT dan model bahasa lainnya adalah alat yang ampuh untuk menghasilkan teks dan dapat sangat berguna untuk berbagai tugas, tetapi memiliki keterbatasan dan tidak boleh diandalkan untuk keputusan kritis atau penting.”