Bot Besar Mengawasi Anda

Sisi Gelap Kecerdasan Buatan

Kecerdasan buatan, termasuk model bahasa seperti ChatGPT, diatur untuk mengubah pekerjaan dan kehidupan pribadi kita secara radikal. Namun, dengan teknologi baru ini muncul potensi masalah yang belum pernah terjadi sebelumnya, seperti pencurian identitas atau pembuatan berita palsu. Namun, bahaya terbesar bagi demokrasi kita dan masyarakat yang mencintai kebebasan terletak di tempat lain.

Mengikuti jejak India dan Taiwan, AS kini mempertimbangkan untuk melarang aplikasi media sosial China, TikTok . Ini adalah langkah drastis bagi negara yang melindungi propaganda politik, ujaran kebencian, dan bahkan swastika dengan kedok kebebasan berbicara.

Langkah ini juga dimotivasi oleh lobi Big Tech yang gencar , karena TikTok menghasilkan lebih banyak pendapatan melalui pembelian dalam aplikasi tahun ini daripada gabungan Facebook, Instagram, Twitter, dan Snapchat . Melarang TikTok akan menghilangkan pesaing terbesar Silicon Valley sekaligus.

Ancaman TikTok bukan sekadar hype

Ancaman politik yang ditimbulkan TikTok bukannya tidak berdasar. Belum ada perusahaan barat yang berhasil menggabungkan kecerdasan buatan (AI) dengan media sosial dengan sangat cerdik . Bukan AI itu sendiri yang menjadi masalah, melainkan bagaimana Bytedance, perusahaan induk TikTok di China, dengan cerdik memanfaatkan teknologi ini.

TikTok * adalah aplikasi media sosial yang berasal dari Tiongkok pada tahun 2016 dengan nama Douyin. Aplikasi ini dibuat oleh perusahaan teknologi Cina ByteDance, yang sebelumnya meluncurkan aplikasi serupa bernama Musical.ly. Douyin awalnya dibuat sebagai platform untuk video lip-sync pendek, tetapi dengan cepat diperluas untuk menyertakan konten yang lebih luas, seperti tantangan menari, sandiwara komedi, dan video pendidikan. Pada tahun 2018, ByteDance mengakuisisi Musical.ly dan menggabungkannya dengan Douyin untuk membuat TikTok yang diluncurkan untuk pasar internasional. Sejak saat itu, TikTok menjadi salah satu aplikasi media sosial terpopuler di dunia, dengan lebih dari satu miliar pengguna aktif. (*ditulis oleh ChatGPT)

Namun, bahaya sebenarnya terletak pada data, yang kini dapat digunakan bersama dengan mesin pintar untuk menjadi ancaman.

Jalan menuju yang tidak diketahui adalah ladang ranjau

Biar saya perjelas: Saya merayakan terobosan dalam AI yang saat ini kami alami. Ini adalah langkah logis berikutnya dalam perjalanan kita menuju apa yang pernah disebut Angela Merkel sebagai “Neuland” (wilayah tidak dikenal). Seperti mesin cetak, telepon, atau mesin uap, AI akan memperkaya kehidupan dan pekerjaan kita, menjadikannya lebih mudah dan lebih baik. Tapi jalan menuju masa depan ini adalah ladang ranjau.

Aplikasi dan aplikasi yang dapat meniru ucapan, wajah, dan bahkan suara orang dengan sangat akurat sehingga hampir tidak dapat dibedakan dari aslinya tiba-tiba menjadi mungkin dalam semalam. Ini membuka dimensi baru dari pencurian identitas dan penipuan , yang belum pernah terlihat sebelumnya. Selain itu, penyebaran berita palsu, propaganda, dan teori konspirasi dapat mencapai tingkat yang sama sekali baru melalui aplikasi AI.

Tapi ini bahkan bukan bagian paling menakutkan dari apa yang ada di depan. Kecerdasan buatan, jika digabungkan dengan kumpulan data besar, mungkin menciptakan senjata paling menakutkan yang pernah dibuat umat manusia: kekuatan untuk membaca pikiran.

AI sebagai polisi pikiran

Sejumlah besar data yang kami hasilkan setiap hari tampaknya tidak berbahaya: situs web yang kami kunjungi, kartu pelanggan yang kami gunakan di supermarket, dan bahkan ponsel cerdas kami, yang memiliki dua lusin sensor yang memantau setiap gerakan kami dan berbagi data dengan banyak perusahaan dan pialang data .

Ponsel cerdas modern dilengkapi dengan berbagai sensor *, termasuk akselerometer, giroskop, GPS, kamera, mikrofon, dan lainnya. Sensor ini dapat dimanfaatkan untuk mengumpulkan sejumlah besar informasi intim tentang operator telepon, seperti lokasi, rutinitas sehari-hari, aktivitas fisik, dan bahkan percakapan mereka. Misalnya, data GPS dan akselerometer dapat digunakan untuk melacak pergerakan pengguna dan menentukan pola perjalanan mereka, sedangkan mikrofon dapat digunakan untuk merekam percakapan dan suara sekitar. Demikian pula, kamera dapat digunakan untuk menangkap gambar dan video pengguna dan sekitarnya. Secara keseluruhan, banyaknya sensor di smartphone menghadirkan risiko yang signifikan terhadap privasi pengguna jika tidak diamankan dengan baik. (*ditulis oleh ChatGPT)

Sejauh ini, hal ini tidak menjadi masalah karena tidak ada manusia yang dapat menelusuri data pegunungan ini. Namun, untuk sebuah mesin, ini adalah permainan anak-anak. Tidak ada yang disembunyikan dari AI. Setiap pesan WhatsApp dari masa lalu, yang mungkin tampak tidak penting hari ini, suatu hari nanti dapat merugikan reputasi, pekerjaan, atau pernikahan kita . Bahkan hal-hal yang tampaknya tidak berbahaya saat ini dapat menjadi masalah dalam sepuluh atau dua puluh tahun, seperti yang ditunjukkan oleh diskusi berkelanjutan tentang budaya pembatalan.

Siapa yang mengkhianatimu? Data Anda berhasil!

Bagi seorang AI, tidak masalah mengapa Anda melakukan sesuatu. Dengan data yang benar, ia akan selalu tahu di mana Anda berada, untuk apa Anda membelanjakan uang, seberapa cepat Anda mengendarai mobil, berapa banyak alkohol atau zat lain yang ada dalam darah Anda, bar mana yang Anda kunjungi, dan dengan siapa Anda berbagi kamar hotel dan kapan.

Di Cina, skor sosial mengukur loyalitas warganya kepada negara. AI bertindak sebagai skor kredit "karakter" yang menarik kesimpulan tentang karakter seseorang dari data sehari-hari yang tampaknya tidak berbahaya.

Skor sosial di Cina* adalah sistem yang menilai warga berdasarkan perilaku sosial mereka, seperti status keuangan, aktivitas online, dan hubungan sosial. Itu diperkenalkan pada tahun 2014 dan sejak itu diperluas untuk mencakup berbagai aspek kehidupan warga negara. Sistem penilaian bekerja dengan memberikan poin kepada individu berdasarkan tindakan mereka, dengan tindakan positif seperti sukarela atau pembayaran tagihan tepat waktu yang menghasilkan poin, dan tindakan negatif seperti pelanggaran lalu lintas yang mengarah pada pengurangan. Skor tersebut dapat memengaruhi kemampuan seseorang untuk mengakses layanan seperti pinjaman, transportasi, dan perumahan. Sistem ini sangat kontroversial karena potensi pelanggaran privasi dan potensi penyalahgunaan kekuasaan oleh pemerintah. Kritikus berpendapat bahwa itu adalah alat untuk kontrol sosial, yang memungkinkan pemerintah untuk menekan perbedaan pendapat dan menghukum mereka yang tidak sesuai dengan kebijakannya. Selain itu, sistem menimbulkan kekhawatiran tentang perlindungan dan akurasi data, serta potensi diskriminasi dan stigmatisasi sosial berdasarkan skor seseorang. (*dibuat dengan ChatGPT)

Dan bagaimana dengan kita di Barat yang demokratis? Bios palsu akan menjadi masalah terkecil yang akan dihadapi politisi di masa depan . Sebagian besar talenta politik bahkan tidak akan berhasil karena kerangka digital yang mereka miliki di lemari mereka (atau di server mereka).

Pilihan Antara Wabah dan Kolera

Teknologi seperti itu — apakah dimotivasi oleh doktrin negara komunis atau oleh kapitalisme pengawasan Barat kita — mengubah banyak hal. Itu mengubah tekstur masyarakat kita. Kombinasi AI dengan kumpulan data yang sangat terperinci yang sudah dimiliki oleh perusahaan seperti Google, Facebook , atau TikTok tentang kita (dan tidak akan pernah dihapus secara sukarela) dapat menjadi ancaman terbesar bagi demokrasi kita. Kami bahkan tidak perlu melihat ke Moskow atau Beijing untuk melihatnya.