Haruskah Kendaraan Mengemudi Sendiri Membunuh Pejalan Kaki Atau Penumpangnya?

• Para peneliti merancang eksperimen untuk mengumpulkan perspektif manusia tentang keputusan moral yang dibuat oleh kecerdasan buatan.
• Mereka menganalisis jutaan tanggapan manusia dan mengungkapkan seberapa besar perbedaan etika antar budaya.

Kita memasuki era di mana mesin tidak hanya ditugaskan untuk meminimalkan kerusakan tetapi juga untuk mendistribusikan kerusakan yang tidak dapat mereka hilangkan. Distribusi kerusakan (dan juga kesejahteraan yang diciptakan mesin) biasanya menimbulkan pengorbanan, yang penyelesaiannya termasuk dalam domain moral.

Pertimbangkan situasi di mana kendaraan otonom akan menabrak dan tidak dapat mengevaluasi jalur yang akan menyelamatkan semua orang. Dalam kasus seperti itu, kendaraan perlu memutuskan bagaimana membagi risiko kerusakan secara adil di antara orang-orang yang berbeda di jalan. Dilema moral ini tidak dapat diselesaikan dengan hukum robotika atau prinsip etika manusia.

Pada tahun 2014, peneliti MIT merancang eksperimen bernama Moral Machine untuk mengumpulkan perspektif manusia tentang keputusan moral yang dibuat oleh mesin yang dilengkapi AI, seperti mobil self-driving. Sejauh ini, eksperimen tersebut telah menerima lebih dari 40 juta tanggapan dari seluruh dunia. Ini menawarkan wawasan berharga tentang prioritas etis kolektif dari berbagai budaya.

Moral Machine menguji 13 skenario berbeda di mana orang memutuskan kendaraan swakemudi mana yang harus diprioritaskan:

• Lebih banyak nyawa lebih sedikit
• Pria di atas wanita
• manusia daripada hewan peliharaan
• muda diatas tua
• status sosial yang lebih tinggi daripada yang lebih rendah
• lebih bugar daripada tidak sehat
• pengikut hukum daripada pelanggar hukum

Para peneliti menganalisis semua tanggapan dan mengungkapkan bagaimana etika manusia bervariasi berdasarkan lokasi geografis, ekonomi, dan budaya.

Mereka menemukan bahwa negara yang berbeda memiliki preferensi yang berbeda. Misalnya, orang-orang dari budaya kolektivis seperti Jepang dan Cina lebih cenderung menyayangkan yang tua daripada yang muda. Padahal, negara-negara dengan budaya yang lebih individualistis cenderung tidak membiarkan yang lama.

Referensi:Alam | DOI:10.1038/s41586-018-0637-6 | Mesin Moral 

Demikian pula, orang-orang dari budaya individualistis, seperti AS dan Inggris, cenderung membiarkan lebih banyak nyawa diberikan semua pilihan lain. Orang-orang dari negara berkembang dengan institusi yang lebih lemah lebih toleran terhadap pejalan kaki yang menyeberang jalan dibandingkan pejalan kaki yang menyeberang secara legal.

Preferensi untuk menyisihkan karakter status yang lebih tinggi jauh lebih sedikit diucapkan untuk negara-negara Timur (Jepang, Taiwan, Arab Saudi, Indonesia), dan jauh lebih tinggi untuk negara-negara Selatan (Amerika Tengah dan Selatan, Prancis).

Negara-negara Barat dan Timur menunjukkan preferensi yang jauh lebih tinggi untuk menyelamatkan manusia daripada hewan peliharaan, dibandingkan dengan negara-negara Selatan.

Batasan

Meskipun ukuran sampel besar, penelitian ini memiliki banyak keterbatasan. Misalnya, peneliti tidak mempertimbangkan ketidakpastian tentang nasib karakter. Semua karakter dikenali sebagai anak-anak dan orang dewasa dengan kepastian 100%, dan hasil hidup dan mati mereka diperkirakan dengan kepastian 100%.

Mereka juga tidak memperkenalkan faktor hubungan hipotetis (misalnya, pasangan dan kerabat) antara responden dan karakter. Meskipun asumsi ini sangat tidak realistis, asumsi tersebut diperlukan untuk menjaga eksperimen tetap terkendali.

Baca: Kendaraan Self-Driving Sulit Mendeteksi Pejalan Kaki Berkulit Gelap

Kami mungkin tidak mencapai kesepakatan universal, tetapi hasil ini dapat digunakan oleh perusahaan teknologi dan produsen mobil untuk lebih memahami bagaimana publik akan bereaksi terhadap etika dari berbagai keputusan desain dan kebijakan.