Mengapa AI Membutuhkan Pendekatan Keamanan Proaktif: Pelajaran dari 30+ Tahun dalam Teknik Elektronik Daya Tinggi

Sebagai mantan insinyur elektronik daya tinggi, saya merancang dan menguji sumber daya tegangan tinggi untuk berbagai macam aplikasi dari sistem CAT scan prototipe awal hingga pemutar partikel. Saya melakukan hal yang sama dengan sistem mikrogelombang daya tinggi untuk semuanya dari simulator untuk menguji efek radar pada elektronik pesawat sensitif di satu ujung hingga pemrosesan granola di ujung lain. Selama lebih dari 30 tahun, saya menangani puluhan kilovolt DC dan puluhan kilowatt daya mikrogelombang.

Ed's Blog

Setelah beberapa dekades bekerja sebagai EE, Ed Brown dari SAE Media Group sudah memasuki karirnya yang kedua: Tech Editor.

“Saya menyadari, melihat kembali ke hari-hari insinyur saya dan melihat segala yang terbaru dan terhebat sebagai editor, saya memiliki banyak pikiran tentang apa yang terjadi sekarang berdasarkan pengalaman insinyur saya, dan saya ingin berbagi beberapa di antaranya sekarang.” .

Semua harus dirancang dengan margin keamanan sebesar yang praktis dan dengan tujuan fail-safe. Itu berarti memikirkan kemungkinan kegagalan sistem secara awal dan merancang untuk meminimalkan kemungkinan kegagalan yang menyebabkan cedera atau kerusakan. Misalnya, kami menggunakan “crowbar” elektronik yang akan secara aman memendekkan output dalam mikrodetik jika sensor memberi sinyal bahwa ada peningkatan tiba-tiba dalam arus beban. Namun, itu adalah sistem aktif, yang tidak akan bekerja dalam kegagalan daya. Jadi, kami menggunakan crowbar mekanis cadangan, yang dipegang oleh elektromagnet sebagai perlindungan fail-safe. Jika daya input gagal, sebuah batang logam akan jatuh di seluruh output. Ini penting karena bahkan tanpa daya, masih bisa ada energi yang tersimpan di bank kapasitor — sesuatu yang saya sekali temukan dengan menakutkan saat saya menerima kejutan dari sumber daya yang saya pikir sudah aman mati.

Dengan pola pikir itulah saya memikirkan kecerdasan buatan (AI). Saya tidak khawatir AI akan menggantikan kecerdasan manusia dan mengubah kita semua menjadi robot. Tapi saya khawatir tentang bergantung terlalu padanya terutama di setidaknya dua area: aplikasi keamanan dalam sistem bantuan sopir canggih (ADAS) dan kendaraan otonom serta diagnosis penyakit.

Jadi, ini menarik perhatian saya saat saya membaca tentang “keterbatasan inherent” dalam AI. Peneliti dari University of Cambridge dan University of Oslo menyatakan bahwa jaringan saraf yang memproses AI dapat tidak stabil di bawah kondisi tertentu, dan ketidakpastian tidak dapat diperbaiki dengan menambahkan lebih banyak data pelatihan. Menurut peneliti, kita perlu lebih banyak pekerjaan teoretis untuk lebih memahami matematika komputasi AI. Untuk mendapatkan hasil yang lebih andal, Anda harus memahami sumber kesalahan tertentu dan mengubah metode AI untuk memperbaikinya.

Peneliti dari University of California, Berkeley, dan University of Texas at Austin memperhatikan masalah saat mereka gagal mereplikasi hasil yang menjanjikan dari studi citra medis. “Setelah beberapa bulan kerja, kami menyadari bahwa data citra yang digunakan dalam makalah telah diproses sebelumnya,” kata penyelidik utama studi Michael Lustig, profesor ilmu listrik dan ilmu komputer di UC Berkeley.

Itulah sumber masalahnya. “Kami ingin meningkatkan kesadaran tentang masalah tersebut sehingga peneliti dapat lebih hati-hati dan menerbitkan hasil yang lebih realistis,” kata Lustig.

Mereka menemukan bahwa ketidakakuratan disebabkan oleh penggunaan database publik yang bias untuk melatih sistem. Peneliti menciptakan istilah “implicit data crimes” untuk menggambarkan hasil penelitian yang terjadi ketika algoritma dikembangkan menggunakan metodologi yang salah.

Dalam Q&A dengan Billy Hurley, SAE Digital Editorial Manager, Profesor Eckehard Steinbach dari Technical University of Munich (TUM) menggambarkan situasi otomotif yang potensial kritis yang model AI “mungkin tidak dapat mengenali, atau belum menemukan.” Misalnya, pola rem yang berulang mungkin merupakan pengemudi biasa di cuaca panas tetapi mungkin menunjukkan penyesatan yang akan datang jika jalan licin dan berlapis es. Pola seperti itu dapat sulit dikenali.

Tapi pada sisi yang cerah, tim Steinbach telah mengembangkan teknologi keamanan yang belajar introspektif dari kesalahan sebelumnya. "Jika mobil masuk ke situasi yang belum dilatihnya, masalah dapat timbul,"kata Steinbach. "Irigasi baru menyebabkan intervensi manusia, yang mengakibatkan irigasi tersebut digunakan sebagai data pelatihan untuk pendekatan kami. Sementara metode kami kemudian dapat membantu mendeteksi lingkungan baru yang menantang lain kali ia ditemukan, mendeteksi dan mengelola dengan benar irigasi yang sepenuhnya baru pertama kali ia ditemukan masih merupakan tugas yang menantang.”

Kesimpulannya dari semua ini adalah AI dapat mempercepat dan meningkatkan diagnosis medis. Ini juga dapat membantu membuat kendaraan jauh lebih aman di jalan raya. Tetapi Anda harus memperhatikan metode Anda dengan hati-hati.

Penting untuk berpikir seperti insinyur tegangan tinggi saat merancang sistem AI: pikirkan kemungkinan kegagalan sistem secara awal dan rancang dengan tujuan meminimalkan kemungkinan itu terjadi. Dan jika kegagalan terjadi, berusaha mengurangi kemungkinan cedera atau kerusakan.

Apakah Anda setuju? Bagikan pertanyaan dan komentar Anda di bawah.

Baca lebih banyak dari Ed's Blog: Designing from the Outside In vs the Inside Out