Kendaraan Tanpa Pengemudi Sulit Mendeteksi Pejalan Kaki Berkulit Gelap

• Mobil swakemudi 5% kurang akurat dalam mendeteksi orang berkulit gelap.
• Hal ini terjadi karena sebagian besar algoritme pendeteksi objek sebagian besar telah dilatih pada kumpulan data yang berisi gambar orang kulit putih.

Model pembelajaran mesin telah mulai menemukan rumah sepanjang kehidupan kita sehari-hari. Bidang mengemudi otonom, khususnya, telah berubah dari 'mungkin' menjadi 'sekarang tersedia secara komersial' dalam dekade terakhir.

Namun, kemajuan dalam sistem otomatis ini telah menimbulkan banyak kekhawatiran tentang mobil self-driving dalam beberapa tahun terakhir, dan tampaknya daftar kekhawatiran tersebut semakin panjang. Selain mengkhawatirkan keselamatan dan kemampuan mereka untuk mengatasi rintangan di jalan, juga perlu khawatir apakah kendaraan yang mengemudi sendiri dapat membahayakan orang kulit berwarna.

Sekarang, para peneliti di Georgia Institute of Technology telah melakukan penelitian yang menyimpulkan bahwa algoritme yang digunakan dalam sistem mengemudi otonom 5% kurang akurat dalam mendeteksi pejalan kaki berkulit gelap.

Tingkat Kesalahan Lebih Tinggi Untuk Grup Demografis Tertentu Dibanding Lainnya

Tim memulai dengan menyelidiki keakuratan model deteksi objek canggih yang sebagian besar digunakan pada kendaraan otonom. Mereka ingin mengetahui bagaimana tepatnya model ini mendeteksi orang-orang dari kelompok demografis yang berbeda.

Mereka menganalisis kumpulan data besar yang berisi gambar pejalan kaki dan membagi orang berdasarkan warna kulit mereka. Mereka kemudian melihat seberapa sering model tersebut secara tepat mengidentifikasi keberadaan orang-orang dalam kelompok berkulit gelap serta orang-orang dalam kelompok berkulit terang.

Referensi:arXiv:1902.11097 | Institut Teknologi Georgia

Para peneliti menemukan bahwa model ini rata-rata 5% kurang akurat dalam mendeteksi kelompok berkulit gelap. Inkonsistensi ini tetap sama bahkan setelah menyesuaikan beberapa parameter penting seperti pandangan pejalan kaki yang sering terhalang dan waktu dalam gambar.

Studi ini hanya mempertimbangkan model yang digunakan untuk tujuan penelitian, yang dilatih pada kumpulan data yang tersedia untuk umum. Itu tidak menganalisis model apa pun yang sebenarnya digunakan oleh kendaraan otonom komersial. Namun, itu tidak berarti bahwa temuannya tidak ternilai:studi seperti ini memberikan wawasan yang kuat tentang kelemahan dan risiko nyata.

Alasan Dibalik Algoritma Bias/Rasis

Ini bukan pertama kalinya seseorang memublikasikan laporan tentang algoritme yang bias. Tahun lalu, sebuah penelitian menemukan bahwa 3 sistem pengenalan wajah yang dikembangkan oleh raksasa teknologi (Microsoft, IBM, dan Megvii) cenderung lebih sering salah mengidentifikasi jenis kelamin orang berkulit gelap daripada orang berkulit terang.

Kredit gambar:Iyad Rahwan

Karena model kecerdasan buatan — terutama pembelajaran mesin dan algoritme pembelajaran mendalam — belajar dari set data pelatihan yang diberikan, jika Anda tidak menyediakan variasi data yang cukup, model ini tidak akan berfungsi secara akurat saat diterapkan di dunia nyata.

Hal yang sama berlaku untuk mobil self-driving:algoritma deteksi objek sebagian besar telah dilatih pada kumpulan data yang berisi gambar orang kulit putih. Selain itu, algoritme ini tidak terlalu membebani pembelajaran dari kumpulan data terbatas (orang dengan warna kulit gelap).

Baca:AI Baru Untuk Kendaraan Self-Driving Dapat Memprediksi Pergerakan Pejalan Kaki

Para peneliti percaya bahwa model ini dapat ditingkatkan dengan menyertakan contoh yang beragam secara ras dan lebih menekankan pada contoh terbatas selama pelatihan.