Batasan Inheren AI Menyerukan Pola Pikir Keselamatan 'Lanjut'

Sebagai mantan insinyur elektronik berdaya tinggi, saya merancang dan menguji catu daya bertegangan tinggi untuk berbagai macam aplikasi mulai dari prototipe awal sistem pemindaian CAT hingga akselerator partikel. Saya melakukan hal yang sama dengan sistem gelombang mikro berdaya tinggi untuk semuanya, mulai dari simulator hingga menguji efek radar pada elektronik pesawat yang sensitif di satu sisi hingga memproses granola di sisi lain. Selama lebih dari 30 tahun, saya menangani puluhan kilovolt tegangan DC dan puluhan kilowatt daya gelombang mikro.

Blog Ed

Setelah puluhan tahun bekerja sebagai EE, Ed Brown dari SAE Media Group memasuki karir keduanya:Editor Teknologi.

“Saya menyadari, melihat kembali ke masa teknik saya dan menonton semua yang terbaru dan terhebat sebagai editor, saya memiliki banyak pemikiran tentang apa yang terjadi sekarang sehubungan dengan pengalaman teknik saya, dan saya ingin membagikan beberapa di antaranya sekarang. .” .

Semuanya harus dirancang dengan margin keamanan sebesar praktis dan dengan tujuan agar tidak gagal. Itu berarti memikirkan terlebih dahulu kemungkinan cara sistem mungkin gagal dan merancang untuk meminimalkan kemungkinan kegagalan akan menyebabkan cedera atau kerusakan. Misalnya, kami menggunakan "linggis" elektronik yang akan dengan aman menghubungkan arus pendek output dalam mikrodetik jika sensor memberi sinyal bahwa ada peningkatan arus beban secara tiba-tiba. Tapi itu adalah sistem yang aktif, yang tidak akan berfungsi jika terjadi kegagalan daya. Jadi, kami menggunakan linggis mekanis cadangan, yang ditopang oleh elektromagnet sebagai perlindungan anti-gagal. Jika daya saluran input gagal, batang logam akan jatuh melintasi output. Hal ini penting karena bahkan tanpa daya, ada sejumlah energi berbahaya yang tersimpan di bank kapasitor — sesuatu yang pernah saya temukan sendiri secara menakutkan ketika saya menerima kejutan dari catu daya yang saya pikir mati dengan aman.

Dengan pola pikir itulah saya berpikir tentang kecerdasan buatan (AI). Saya tidak khawatir AI akan menggantikan kecerdasan manusia dan mengubah kita semua menjadi robot. Namun saya khawatir jika terlalu mengandalkannya terutama di setidaknya dua bidang:aplikasi keselamatan dalam sistem bantuan pengemudi tingkat lanjut (ADAS) dan kendaraan otonom serta diagnosis penyakit.

Jadi, itu menarik perhatian saya ketika saya membaca tentang "batasan bawaan" di AI . Para peneliti dari University of Cambridge dan University of Oslo menegaskan bahwa jaringan saraf yang memproses AI dapat menjadi tidak stabil dalam kondisi tertentu, dan ketidakpastian itu tidak dapat diperbaiki hanya dengan menambahkan lebih banyak data pelatihan. Menurut para peneliti, kita membutuhkan lebih banyak pekerjaan teoretis untuk lebih memahami matematika komputasi AI. Untuk mendapatkan hasil yang lebih andal, Anda harus memahami sumber kesalahan tertentu dan mengubah metode AI untuk memperbaikinya.

Peneliti Universitas California, Berkeley, dan Universitas Texas di Austin menemukan masalah ketika mereka gagal untuk meniru hasil yang menjanjikan dari studi pencitraan medis. “Setelah beberapa bulan bekerja, kami menyadari bahwa data gambar yang digunakan dalam makalah telah diproses sebelumnya,” kata peneliti utama studi Michael Lustig, profesor teknik elektro dan ilmu komputer UC Berkeley.

Itulah sumber masalahnya. “Kami ingin meningkatkan kesadaran akan masalah ini sehingga peneliti dapat lebih berhati-hati dan mempublikasikan hasil yang lebih realistis,” kata Lustig.

Mereka menemukan bahwa ketidakakuratan disebabkan oleh penggunaan database publik yang bias untuk melatih sistem. Para peneliti menciptakan istilah "kejahatan data implisit" untuk menggambarkan hasil penelitian yang dihasilkan ketika algoritme dikembangkan menggunakan metodologi yang salah.

Dalam tanya jawab dengan Billy Hurley, Manajer Editorial Digital SAE, Profesor Eckehard Steinbach dari Technical University of Munich (TUM) menggambarkan situasi otomotif yang berpotensi kritis yang model AI “mungkin tidak mampu mengenali, atau belum menemukan.” Misalnya, pola pengereman berulang mungkin merupakan pengendaraan biasa dalam cuaca hangat, tetapi mungkin mengindikasikan pelepasan yang akan datang jika jalan licin dan licin. Pola seperti itu mungkin sulit dikenali.

Namun sisi baiknya, tim Steinbach mengembangkan teknologi keselamatan yang belajar secara introspektif dari kesalahan sebelumnya. "Jika mobil memasuki situasi yang belum dilatih, masalah bisa muncul," kata Steinbach. "Adegan-adegan baru seperti itu menyebabkan campur tangan manusia, yang menyebabkan adegan-adegan itu digunakan sebagai data pelatihan untuk pendekatan kami. Sementara metode kami kemudian dapat membantu mendeteksi lingkungan baru yang menantang saat ditemui, mendeteksi dan mengelola adegan yang sepenuhnya baru dengan benar. pertama kali ditemui tetap menjadi tugas yang menantang.”

Kesimpulan saya dari semua ini adalah AI dapat mempercepat dan meningkatkan diagnosis medis. Ini juga dapat membantu membuat kendaraan jauh lebih aman di jalan. Tetapi Anda harus memperhatikan metode Anda dengan cermat.

Sangat penting untuk berpikir seperti insinyur tegangan tinggi ketika Anda merancang sistem AI:pikirkan terlebih dahulu kemungkinan cara sistem gagal dan rancang dengan tujuan meminimalkan kemungkinan hal itu terjadi. Dan jika terjadi kegagalan, usahakan untuk mengurangi kemungkinan cedera atau kerusakan.

Apakah Anda setuju? Bagikan pertanyaan dan komentar Anda di bawah.

Baca selengkapnya dari Blog Ed:Mendesain dari Luar Ke Dalam vs. Dari Dalam Keluar