Mengungkap Titik Buta AI untuk Meningkatkan Keamanan Kendaraan Otonom
Model baru berbasis machine learning membuat kendaraan tanpa sopir lebih aman.
Model ini mendeteksi kasus di mana AI dapat belajar dari contoh yang dapat menyebabkan kesalahan berbahaya di dunia nyata.
Perkembangan terbaru dalam bidang kecerdasan buatan telah membuat kendaraan otonom dan robot otonom menjadi lebih cerdas. Meskipun masih dalam tahap awal, mobil tanpa sopir semakin umum dan dapat secara radikal mengubah sistem transportasi kami dalam beberapa tahun ke depan.
Baru-baru ini, peneliti dari MIT dan Microsoft mengembangkan model yang dapat mengungkap 'titik buta' sistem otonom dengan bantuan masukan manusia. Model ini mengidentifikasi kasus di mana sistem otonom ini belajar (dari contoh pelatihan atau simulasi) saat mereka dapat membuat kesalahan di lingkungan dunia nyata.
Misalnya, AI yang menggerakkan mobil tanpa sopir dilatih secara luas dalam simulasi untuk menyiapkan kendaraan untuk hampir semua skenario yang mungkin terjadi di jalan. Namun, sistem kadang-kadang membuat kesalahan di dunia nyata: ia tidak mengubah perilakunya (seharusnya) dalam skenario tertentu.
Misalnya, jika mobil tanpa sopir (yang tidak dilatih secara luas) melaju di jalan raya dan ambulans menyala sirennya, mobil mungkin hanya menganggap ambulans sebagai mobil putih besar dan mungkin tidak berhenti di sisi jalan atau memberi jalan kepada ambulans atau kendaraan darurat lainnya.
Peneliti ingin menjembatani kesenjangan antara simulasi dan dunia nyata dengan mengintegrasikan masukan manusia dan membantu sistem otonom lebih tahu apa yang tidak diketahuinya.
Bagaimana Model Ini Menerima Umpan Balik Manusia?
Sistem otonom awalnya dilatih dalam simulasi virtual tempatnya memetakan setiap situasi ke tindakan terbaik. Kemudian sistem itu diterapkan di dunia nyata, di mana manusia menghentikan sistem setiap kali ia mengambil tindakan yang salah.
Manusia dapat memberi data baik melalui koreksi atau demonstrasi. Untuk memberikan koreksi, seseorang dapat duduk di kursi pengemudi sementara kendaraan mengemudi sendiri sepanjang rute yang direncanakan. Jika sistem mengambil tindakan yang tidak sesuai, manusia dapat mengambil kontrol dan ini mengirim sinyal ke AI bahwa ia mengambil tindakan yang salah dan apa yang harus dilakukan dalam situasi tertentu.
Referensi: arXiv:1805.08966 | MIT
Secara alternatif, manusia dapat melatih sistem dengan mendemonstrasikan/mengemudi kendaraan di dunia nyata. Sistem menganalisis dan membandingkan setiap tindakan manusia dengan apa yang akan dilakukan sistem dalam kondisi tersebut. Setiap ketidakcocokan (jika ada) menunjukkan tindakan yang tidak dapat diterima sistem.
Menangani Titik Buta
Setelah pelatihan manual selesai, sistem pada dasarnya memiliki daftar tindakan yang dapat diterima dan yang tidak dapat diterima. Tujuannya adalah mendeteksi situasi ambigu (atau titik buta) yang sulit dibedakan oleh AI.
Dari pihak peneliti | MIT
Misalnya, sistem otonom mungkin telah melaju di samping kendaraan besar beberapa kali tanpa berhenti di sisi jalan. Namun, jika ia melakukan hal yang sama dengan ambulans (yang terlihat sama persis bagi AI), ia menerima sinyal umpan balik yang mewakili tindakan yang tidak dapat diterima.
Untuk menangani jenis situasi ini, tim menggunakan metode machine learning yang dikenal sebagai algoritma Dawid-Skene. Algoritma ini mengambil semua titik buta yang diberi label 'dapat diterima' dan 'tidak dapat diterima', menggabungkannya, dan menggunakan perhitungan probabilitas untuk mendeteksi pola dalam label tersebut.
Algoritma kemudian menghasilkan satu titik buta tunggal yang digabungkan bersama dengan tingkat kepercayaan untuk setiap situasi. Algoritma juga menghasilkan peta panas yang menunjukkan probabilitas rendah hingga tinggi dari titik buta untuk setiap situasi.
Baca: Algoritma Kendaraan Otonom Baru dapat Berpindah Jalur Secara Agresif
Di dunia nyata, jika model memetakan situasi sebagai titik buta dengan probabilitas tinggi, sistem dapat meminta tindakan yang sesuai dari manusia, sehingga dapat dieksekusi dengan lebih aman. Model ini juga dapat membantu robot otonom memprediksi kapan ia mungkin mengambil tindakan yang tidak sesuai dalam kondisi baru.
