Mode Mengemudi FSD Beta dari Tesla Menghadirkan Masalah Etika Menarik yang Harus Kita Bicarakan
Pernah melewati tanda berhenti? Tentu saja. Saya pikir saya melakukannya pagi ini, sebenarnya. Jika Anda seorang pengemudi yang belum, maka saya harap menjadi pembohong berhasil untuk Anda, karena saya yakin Anda pernah melakukannya . Sejauh hal-hal ilegal berjalan, melewati tanda berhenti adalah sekecil yang Anda bisa dapatkan, meskipun secara teknis itu ilegal dan saya kira untuk alasan yang layak, karena tanda berhenti umumnya ditempatkan di lokasi di mana paling tidak berhenti sepenuhnya ide yang cukup bagus. Jadi, dengan mengingat hal itu, haruskah kita memprogram mobil AI yang bisa mengemudi sendiri untuk melakukan kejahatan kecil yang diakui ini? Tesla sepertinya sudah memutuskan bahwa tidak apa-apa.
Versi Tesla saat ini dari perangkat lunak Full Self-Driving (FSD) Beta mereka berisi fitur yang dikenal sebagai "Profil FSD," yang dimulai dengan versi 10.3 dirilis pada Oktober 2021 (tetapi kemudian ditarik karena masalah, dan segera kembali dengan 10.3.1 ).
Seperti disebutkan dalam artikel lain tentang pembaruan ini, fitur besarnya adalah pengenalan tiga "profil" untuk perilaku FSD, yang meliputi Chill, Average, dan Assertive.
Dalam mode Rata-Rata dan Tegas, teks deskripsi kecil mengungkapkan sedikit tentang bagaimana perangkat lunak akan membuat mobil berperilaku, dan mengungkapkan beberapa detail:
Dalam kedua mode tersebut, deskripsi menyatakan bahwa mobil dapat melakukan rolling stop. Mari kita perjelas tentang apa ini: Ya, ini sangat kecil dan bahkan mungkin sepele, tetapi ini adalah mobil yang memberi tahu Anda bahwa pemrogramannya dapat menyebabkannya memutuskan untuk melakukan tindakan ilegal.
Alasan saya membuat Hal Besar dari ini adalah bahwa kita masih cukup awal dalam perkembangan umat manusia dari apa yang kita harapkan suatu hari akan benar-benar menjadi mobil yang dapat mengemudi sendiri sehingga kita masih dapat melihat apa yang kita mampu. lakukan dan benar- benar bertanya pada diri sendiri apakah ini jalan yang ingin kita ambil.
Apakah itu? Sejujurnya aku tidak yakin.
Tindakan spesifik — berguling melalui tanda berhenti — kurang penting daripada implikasi yang lebih besar di sini. Implikasi tersebut adalah fakta bahwa kita memiliki undang-undang lalu lintas di buku kita yang secara rutin dilanggar, karena kita adalah manusia dan pengalaman mengemudi secara keseluruhan, menurut kami, dapat diperbaiki dalam beberapa cara dengan sengaja mengabaikan beberapa undang-undang ini.
Hampir semua dari kita juga terkadang ngebut. Dan sementara Anda bisa mempercepat sistem bantuan pengemudi Tesla (dan lainnya, tentu saja), itu selalu menjadi keputusan manusia untuk melakukannya. Jika Anda menyetel cruise control atau batas atas kecepatan sistem mengemudi semi-otomatis Level 2 pada 95 mph, itulah yang akan dilakukan mobil, tetapi itu adalah pilihan Anda , bukan pilihan mobil.
Situasi ini berbeda, karena pengemudi bukan bagian dari proses pengambilan keputusan yang dapat mengakibatkan Tesla meluncur melewati rambu berhenti, melanggar hukum. Jika seorang polisi melihat Anda melakukan ini, dan menarik Anda, siapa yang harus disalahkan?
Apakah itu kesalahan pengemudi, karena mereka diberi tahu bahwa mobil tersebut mungkin melakukan kejahatan seperti itu ketika mereka memilih mode mengemudi? Atau haruskah polisi mengirim tiket ke Markas Tesla, karena perangkat lunak mereka yang dengan sengaja memutuskan untuk melewati tanda berhenti?
Apakah kita ingin mobil self-driving kita akhirnya bersedia melanggar hukum? Apakah ini berarti kita perlu melihat secara realistis undang-undang lalu lintas kita dan mungkin menyesuaikannya sedikit lebih baik dengan perilaku dan situasi dunia nyata? Haruskah kita melegalkan perhentian lambat di persimpangan dan kondisi tertentu, dan mungkin memiliki undang-undang kecepatan yang lebih fleksibel?
Atau haruskah kita memprogram mobil kita untuk mengikuti hukum? Bukan bagian dari apa yang membuat kemungkinan mengemudi yang dikendalikan komputer begitu menarik bagi orang adalah bahwa komputer selalu dapat melakukan hal yang aman dan tidak akan pernah tergoda untuk melanggar hukum atau menjalankan tanda berhenti atau kecepatan karena mereka tidak dibebani dengan otak manusia kita yang cacat, impulsif, terangsang, dan lapar?
Ini mungkin terdengar kecil, tetapi garis pemikiran yang ditunjukkan dalam profil mengemudi ini secara konseptual tidak berbeda dari jika, katakanlah, Tesla berhasil benar-benar mengembangkan dan menjual robot humanoid mereka (berhenti tertawa, ini adalah eksperimen pemikiran), dan itu termasuk a Mode Pengutilan yang memungkinkannya mencoba mengutil barang jika dianggap bisa lolos begitu saja.
Tentu saja, ini tidak ada, tetapi tidak jauh berbeda dengan penggeser yang memungkinkan mobil memutuskan untuk melanggar undang-undang lalu lintas.
Kita perlu memikirkan semua ini sekarang dan memutuskan apa yang kita inginkan untuk masa depan kita. Apakah kita ingin mengikuti hukum dan aturan total? Apakah kita menginginkan pengecualian tertentu? Kemampuan untuk mengesampingkan sesuai kebutuhan dan mengizinkan perilaku yang melanggar hukum? Berikan keputusan pada mesin, mungkin dengan seperangkat parameter geser yang dapat diterima?
Jujur, saya tidak yakin persis bagaimana ini harus dimainkan. Yang saya yakini adalah bahwa kita, secara kolektif, sebagai masyarakat, perlu meluangkan waktu dan melakukan kerja keras yang diakui untuk memutuskan seperangkat aturan standar , sebelum kita mulai mencoba dan melihat seberapa jauh kita dapat mendorongnya. .
Karena, ingat, kita adalah manusia, dan bagian dari kesepakatan itu berarti kita akan selalu mendorongnya, mungkin terlalu jauh.
