Pemrosesan Sinyal Menggunakan Jaringan Neural:Validasi dalam Desain Jaringan Syaraf
Artikel ini menjelaskan mengapa validasi sangat penting saat kami memproses data menggunakan jaringan saraf.
Seri AAC tentang pengembangan jaringan saraf berlanjut di sini dengan melihat validasi dalam jaringan saraf dan bagaimana NN berfungsi dalam pemrosesan sinyal.
- Bagaimana Melakukan Klasifikasi Menggunakan Jaringan Syaraf Tiruan:Apa Itu Perceptron?
- Cara Menggunakan Contoh Jaringan Neural Perceptron Sederhana untuk Mengklasifikasikan Data
- Cara Melatih Jaringan Neural Perceptron Dasar
- Memahami Pelatihan Jaringan Syaraf Sederhana
- Pengantar Teori Pelatihan untuk Jaringan Neural
- Memahami Kecepatan Pembelajaran di Jaringan Neural
- Pembelajaran Mesin Tingkat Lanjut dengan Perceptron Multilayer
- Fungsi Aktivasi Sigmoid:Aktivasi di Jaringan Neural Perceptron Multilayer
- Cara Melatih Jaringan Neural Perceptron Multilayer
- Memahami Rumus Pelatihan dan Backpropagation untuk Perceptron Multilayer
- Arsitektur Jaringan Saraf untuk Implementasi Python
- Cara Membuat Jaringan Neural Perceptron Multilayer dengan Python
- Pemrosesan Sinyal Menggunakan Jaringan Saraf Tiruan:Validasi dalam Desain Jaringan Saraf Tiruan
- Pelatihan Kumpulan Data untuk Jaringan Neural:Cara Melatih dan Memvalidasi Jaringan Neural Python
Sifat Pemrosesan Sinyal Jaringan Neural
Jaringan saraf pada dasarnya berbeda dari sistem pemrosesan sinyal lainnya. Cara "normal" untuk mencapai semacam tujuan pemrosesan sinyal adalah dengan menerapkan algoritme.
Dalam model ini, seorang peneliti menciptakan metode matematis untuk menganalisis atau memodifikasi sinyal dalam beberapa cara. Ada metode untuk menghilangkan noise dari audio, menemukan tepi dalam gambar, menghitung suhu dari resistansi termistor, menentukan konten frekuensi bentuk gelombang RF, dan sebagainya. Perancang kemudian membangun hasil kerja peneliti dengan mengubah metode tersebut menjadi algoritme yang dapat dilakukan oleh prosesor dan disesuaikan dengan kebutuhan aplikasi tertentu.
Filter FIR adalah contoh sistem pemrosesan sinyal yang dapat kita nilai dan pahami dengan cara matematis yang tepat.
Jaringan saraf terlatih, di sisi lain, adalah empiris sistem.
Proses matematis yang terjadi dalam jaringan bukan merupakan algoritma khusus yang dimaksudkan untuk mengklasifikasikan karakter tulisan tangan, atau memprediksi pembentukan tornado, atau mengembangkan prosedur kontrol untuk manuver aeronautika ekstrem. Sebaliknya, matematika dalam jaringan saraf adalah kerangka yang memungkinkan jaringan untuk membuat model komputasi yang disesuaikan berdasarkan data pelatihan.
Kami memahami kerangka matematis yang memungkinkan jaringan saraf untuk mempelajari dan mencapai fungsionalitas yang diperlukan, tetapi algoritme pemrosesan sinyal yang sebenarnya khusus untuk data pelatihan, kecepatan pembelajaran, nilai bobot awal, dan faktor lainnya.
Jaringan saraf, tidak seperti filter FIR, bergantung pada banyak faktor berbeda.
Ini seperti perbedaan antara belajar bahasa saat kecil dan belajar bahasa saat dewasa.
Seorang anak yang bahkan belum pernah mendengar kata "tata bahasa" dapat berulang kali menghasilkan bentuk kata kerja yang benar karena otaknya secara alami mengenali dan mempertahankan pola yang terkandung dalam sejumlah besar data input linguistik yang diterima anak-anak dari orang tua yang berinteraksi dengan mereka.
Namun, orang dewasa biasanya tidak memiliki akses ke semua masukan ini dan mungkin tidak mengasimilasi pola dengan cara yang sama, dan akibatnya kami menghafal dan menerapkan "algoritma" linguistik yang memungkinkan kami mengkonjugasikan kata kerja dan memilih tenses dengan benar.
Pentingnya Validasi
Jaringan saraf dapat memecahkan masalah yang sangat kompleks karena ketika diberi masukan yang melimpah, mereka "secara alami" menemukan pola matematika yang mirip dengan bagaimana anak-anak menemukan pola linguistik. Namun pendekatan pemrosesan sinyal ini sama sekali tidak sempurna.
Pertimbangkan anak-anak berbahasa Inggris yang mengatakan "pergi" alih-alih "pergi" atau "dipegang" alih-alih "dipegang". Ini disebut kesalahan overregularization. Mereka telah mengambil pola -ed untuk bentuk lampau, tetapi untuk beberapa alasan—mungkin data yang tidak mencukupi, atau keanehan kognitif—mereka belum menyempurnakan model linguistik mereka untuk menjelaskan kata kerja yang tidak beraturan dalam bentuk lampau.
Tidak seorang pun, tentu saja, akan menghukum seorang anak berusia empat tahun karena mengatakan "Saya pergi ke taman." Tetapi jika seorang politisi terkemuka menyampaikan pidato penting dan berulang kali mengatakan “pergi”, “ditahan”, “ditemukan”, “diketahui”, dan seterusnya, audiens akan sangat tidak senang (atau benar-benar bingung) dan karir politik pembicara mungkin akan terganggu. berakhir dengan tiba-tiba.
Kesalahan overregularization ini adalah contoh yang baik tentang bagaimana jaringan saraf terlatih mungkin memiliki kesenjangan tak terduga dalam kemampuannya untuk mencapai fungsi pemrosesan sinyal yang diinginkan. Dan meskipun celah kecil mungkin tampak tidak penting, atau bahkan menarik, ketika kita hanya melakukan eksperimen, contoh politisi mengingatkan kita bahwa itu bisa menjadi bencana besar dalam aplikasi nyata.
Latihan bawah dan latihan berlebih dapat mengakibatkan perilaku yang tidak terduga dan bermasalah saat jaringan menghadapi data aplikasi nyata. Lihat Bagian 4 untuk informasi lebih lanjut.
Dan sekarang kita melihat mengapa validasi merupakan aspek penting dari pengembangan jaringan saraf. Pelatihan saja tidak cukup, karena kumpulan data pelatihan secara inheren terbatas dan oleh karena itu respons jaringan terhadap kumpulan data ini juga terbatas.
Selain itu, pelatihan menghasilkan sistem komputasi "kotak hitam" yang tidak dapat kami analisis dan nilai seolah-olah itu adalah rumus atau algoritme yang khas. Jadi, kita perlu memvalidasi , yang akan saya definisikan sebagai melakukan segala yang kami bisa secara wajar untuk memastikan bahwa jaringan akan berhasil memproses data input kehidupan nyata yang khas dan tidak akan menghasilkan kegagalan yang spektakuler saat disajikan dengan data yang tidak biasa.
Menyortir Terminologi
Prosedur yang saya identifikasi sebagai "validasi" mungkin juga disebut "verifikasi" atau hanya "pengujian".
Dalam konteks pengembangan perangkat lunak, dua istilah pertama memiliki arti yang berbeda. Wikipedia, mengutip Barry Boehm, mengatakan bahwa verifikasi berusaha untuk menentukan apakah produk sedang dibangun dengan benar, dan validasi berusaha untuk menentukan apakah produk yang benar sedang dibuat. Karena kedua masalah ini penting, Anda akan melihat singkatan “V&V” untuk “verifikasi dan validasi”.
Saya bukan seorang insinyur perangkat lunak, jadi mudah-mudahan itu berarti saya tidak berkewajiban untuk mengadopsi paradigma ini. Saya hanya menggunakan istilah “validasi” untuk merujuk pada pengujian, analisis, dan pengamatan yang kami lakukan dalam upaya memastikan bahwa jaringan saraf yang terlatih memenuhi persyaratan sistem.
Pemikiran Penutup:Apa Sebenarnya Validasi itu?
Yah, itu tergantung.
NASA, misalnya, menerbitkan dokumen yang cukup panjang berjudul "Verifikasi &Validasi Neural Networks for Aerospace Systems." Jika Anda lebih tertarik daripada saya di jaringan saraf V&V, Anda mungkin ingin memulai dengan dokumen ini. Jika Anda seorang fanatik V&V sejati, Anda harus mempertimbangkan buku Metode dan Prosedur untuk Verifikasi dan Validasi Jaringan Syaraf Tiruan; panjangnya 293 halaman dan tentunya melebihi pengetahuan saya tentang topik ini setidaknya tiga kali lipat.
Di dunia jaringan saraf sederhana saya yang dikembangkan untuk tujuan eksperimental atau instruksional, validasi terutama berarti menjalankan jaringan terlatih pada data baru dan menilai akurasi klasifikasi, dan kami juga dapat menyertakan penyempurnaan yang membantu kami menentukan apakah dan bagaimana kinerja keseluruhan dapat ditingkatkan.
Kami akan melihat teknik validasi khusus di artikel mendatang.
