ChatGPT, Keamanan, dan OpenPrivacy

ChatGPT OpenAI telah menjadi topik diskusi yang kontroversial selama beberapa bulan terakhir. Banyak yang dengan cepat memuji implikasi positifnya untuk masa depan teknologi. ChatGPT (dan sejenisnya), yang dapat meniru ucapan dan percakapan manusia, mengantarkan era baru Kecerdasan Buatan (AI). Sementara iterasi AI sebelumnya secara eksklusif berada di tangan orang kaya dan berkuasa, produk baru ini tersedia untuk umum — meskipun masih dikendalikan oleh perusahaan berpemilik yang terpusat. Bagi banyak orang, ini tampak seperti langkah maju yang luar biasa, baik dalam kemajuan teknologi maupun aksesibilitas AI ke kelompok orang yang lebih luas.

Sebagai Chief Information Security Officer (CISO) CivicActions dengan pengalaman puluhan tahun sejak dimulainya Internet, saya memiliki beberapa kekhawatiran tentang ChatGPT. Tentu saja, teknologi ini menimbulkan beberapa pertanyaan filosofis yang sah, mulai dari "Bias budaya apa yang ada di dalamnya?" untuk "Bisakah itu merencanakan kejahatan yang sempurna?" Ada juga masalah Kecerdasan Buatan yang sedikit keliru; ChatGPT tidak cerdas — alih-alih, ia merespons kueri menggunakan mesin pencocokan pola besar-besaran dan menampilkan perpaduan bagaimana orang lain merespons kueri serupa. Tapi untuk kesederhanaan di sini, saya akan menyebutnya "AI".

Namun, bagi saya sendiri dan orang-orang dalam peran saya yang dipercaya untuk menjaga keamanan situs web dan data, masalah terbesar yang dapat diperkirakan dengan teknologi ini adalah implikasinya untuk membuat web yang kurang aman. AI memaksakan peningkatan risiko keamanan; misalnya, ini dapat digunakan untuk mempersonalisasi email phishing (“spear phishing”) yang tidak hanya terlihat seolah-olah dari kontak yang dikenal tetapi juga menyertakan referensi ke komunikasi terkini yang membuat penerimanya kurang berhati-hati dan lebih berisiko menginstal malware di sistem mereka. Dari sudut pandang privasi, perusahaan seperti Facebook, TikTok, Google, dan lainnya telah menggunakan AI dan Pembelajaran Mesin (ML) untuk menggunakan data kami guna membuat profil mendetail yang mengarahkan kami ke artikel yang kami baca, orang (atau bot) yang kami jumpai di media sosial, dan (tentu saja) barang yang ingin kita beli.

Karena jumlah AI (dan politik dan script kiddie) yang menghasilkan disinformasi meningkat, baik di kotak masuk email kami maupun di layar browser kami, sekarang lebih dari sebelumnya kami membutuhkan kemampuan untuk mengendalikan identitas online kami dan menjadi filter informasi kami sendiri. ChatGPT bergabung dengan jajaran produsen (dis)informasi dan, bersama dengan mesin pencari dan perusahaan media sosial, akan segera memberi tahu Anda apa (mereka memutuskan) yang ingin Anda dengar. Setidaknya ChatGPT jelas — jika ditanya — bahwa responsnya “dihasilkan oleh algoritme, yang terkadang dapat menghasilkan kesalahan atau ketidakakuratan”.

Ini bukan masalah baru. Lebih dari 20 tahun yang lalu, saya memulai inisiatif yang disebut OpenPrivacy . Ide dasarnya adalah daripada membiarkan pemasar langsung eksternal menghasilkan uang dari data digital kami, OpenPrivacy akan memungkinkan pengguna untuk mendapatkan keuntungan darinya secara langsung dan mengelola sepenuhnya — melalui teknik enkripsi — siapa yang memiliki akses ke data apa, untuk alasan apa, dan untuk bagaimana panjang. Tujuannya adalah untuk memungkinkan orang memiliki identitas mereka sendiri dengan aman serta untuk mendukung kemampuan untuk memasarkan secara anonim bagian dari akumulasi persona mereka secara online.

Karena pengguna akan relatif anonim satu sama lain — setidaknya sampai pengenalan formal dilakukan — membangun reputasi samaran dan kepercayaan antar entitas adalah kuncinya. OpenPrivacy merangkum proses ini dalam Reputation Management Framework (RMF). Untuk latar belakang lebih lanjut, pelajari lebih lanjut di sini (dan mohon maafkan HTML berusia 22 tahun). Efek samping yang diinginkan dari jaringan OpenPrivacy adalah ketika jaringan kepercayaan tumbuh, kualitas informasi secara keseluruhan meningkat dan transaksi yang lebih berharga dapat didukung.

Sementara setiap individu dapat memilih sendiri untuk tetap berada dalam gelembung yang dikendalikan perusahaan, beberapa mungkin lebih memilih mesin informasi pribadi yang dengannya mereka dapat menavigasi internet dengan aman dengan manajemen privasi pribadi, kesadaran bias, dan pemeriksaan fakta. Di era ChatGPT ini, sebuah aplikasi yang dapat membantu menyaring informasi yang masuk dalam jumlah yang sangat banyak, menandai potensi spam dan malware, dan mengumpulkan informasi yang dapat dipercaya akan sangat berharga. Kecerdasan akan datang dari manusia, dan "AI" akan melayani tujuannya dengan mempelajari pola mana yang cocok dan menciptakan jaringan kepercayaan yang dapat menembus sekam dan menyoroti hasil yang dapat dipercaya. Mungkin sudah waktunya untuk memikirkan kembali OpenPrivacy — bukan sebagai pasar digital anonim, tetapi lebih sebagai langkah untuk mendapatkan informasi yang berguna.