Siapa yang Harus Dikorban oleh Mobil Tanpa Sopir: Pejalan Kaki atau Penumpang?

• Peneliti merancang eksperimen untuk mengumpulkan perspektif manusia tentang keputusan moral yang dibuat oleh buatan pintar.
• Mereka menganalisis jutaan respons manusia dan mengungkap seberapa banyak etika bervariasi di seluruh budaya.

Kita memasuki era di mana mesin tidak hanya ditugaskan untuk meminimalkan kerusakan tetapi juga untuk mendistribusikan kerusakan yang tidak dapat dihilangkan. Distribusi kerusakan (serta kesejahteraan yang diciptakan mesin) biasanya menciptakan tradeoff, yang resolusinya jatuh di dalam domain moral.

Pertimbangkan situasi di mana kendaraan otonom akan tabrakan dan tidak dapat mengevaluasi jalur yang akan menyelamatkan semua orang. Dalam kasus semacam itu, kendaraan akan perlu memutuskan bagaimana mendistribusikan risiko kerusakan secara adil antara berbagai orang di jalan. Dilema moral semacam ini tidak dapat diselesaikan oleh hukum robotika atau prinsip etika manusia apa pun.

Pada 2014, peneliti MIT merancang eksperimen bernama Moral Machine untuk mengumpulkan perspektif manusia tentang keputusan moral yang dibuat oleh mesin yang dilengkapi AI, seperti mobil tanpa sopir. Sejauh ini, eksperimen ini telah menerima lebih dari 40 juta respons dari seluruh dunia. Ini memberikan wawasan berharga tentang prioritas etika kolektif dari berbagai budaya.

Moral Machine menguji 13 skenario berbeda di mana orang memutuskan apa yang harus diprioritaskan kendaraan otonom:

• Nyawa lebih banyak daripada lebih sedikit
• Pria lebih daripada wanita
• Manusia lebih daripada hewan peliharaan
• Muda lebih daripada tua
• Status sosial yang lebih tinggi daripada yang lebih rendah
• Sehat lebih daripada tidak sehat
• Patuh hukum lebih daripada pelanggar hukum

Peneliti menganalisis semua respons dan mengungkap bagaimana etika manusia bervariasi berdasarkan lokasi geografis, ekonomi, dan budaya.

Mereka menemukan bahwa berbagai negara memiliki preferensi yang berbeda. Misalnya, orang dari budaya kolektivis seperti Jepang dan China lebih cenderung menyelamatkan tua daripada muda. Sedangkan, negara dengan budaya individualistik yang lebih banyak kurang cenderung menyelamatkan tua.

Referensi: Nature | DOI:10.1038/s41586-018-0637-6 | Moral Machine

Demikian pula, orang dari budaya individualistik, seperti AS dan UK, cenderung menyelamatkan lebih banyak nyawa dengan semua pilihan lain. Orang dari negara berkembang dengan lembaga yang lebih lemah lebih toleran terhadap pejalan kaki yang melintasi jalan secara liar dibandingkan pejalan kaki yang melintasi jalan secara legal.

Preferensi untuk menyelamatkan karakter dengan status yang lebih tinggi jauh lebih tidak terlihat untuk negara Timur (Jepang, Taiwan, Arab Saudi, Indonesia), dan jauh lebih tinggi untuk negara Selatan (Amerika Tengah dan Selatan, Prancis).

Negara Barat dan Timur menunjukkan preferensi yang jauh lebih tinggi untuk menyelamatkan manusia daripada hewan peliharaan, dibandingkan negara Selatan.

Keterbatasan

Meskipun ukuran sampel besar, studi ini memiliki banyak keterbatasan. Misalnya, peneliti tidak mempertimbangkan ketidakpastian tentang nasib karakter. Semua karakter dikenali sebagai anak-anak dan dewasa dengan kepastian 100%, dan hasil kehidupan dan kematian mereka diperkirakan dengan kepastian 100%.

Mereka juga tidak memperkenalkan faktor hubungan hipotetis (misalnya, pasangan dan kerabat) antara responden dan karakter. Meskipun asumsi ini cukup tidak realistis, mereka diperlukan untuk menjaga eksperimen tetap dapat diatasi.

Baca: Kendaraan Tanpa Sopir Kesulitan Mendeteksi Pejalan Kaki Berkulit Gelap

Kita mungkin tidak akan mencapai kesepakatan universal, tetapi hasil ini dapat digunakan oleh perusahaan teknologi dan produsen mobil untuk lebih memahami bagaimana publik akan bereaksi terhadap etika keputusan desain dan kebijakan yang berbeda.