Menerapkan AIoT pada Mikrokontroler: Panduan Praktis
Dalam postingan terbaru, saya menjelaskan bagaimana kecerdasan buatan semakin terintegrasi ke dalam perangkat Internet of Things, menghasilkan solusi AIoT cerdas yang belajar dari data dan membuat keputusan otonom. Sistem ini menunjukkan interaksi yang mirip manusia dengan lingkungan sekitarnya, meningkatkan fungsionalitas produk dan pengalaman pengguna.
AI dan IoT bersama-sama telah membuka pasar baru untuk mikrokontroler (MCU). Dengan memadukan MCU sederhana dengan akselerasi AI, pengembang dapat menyematkan kecerdasan ke dalam perangkat yang sebelumnya hanya bergantung pada sensor dasar. MCU modern yang dilengkapi AI menggabungkan pemrosesan sinyal digital (DSP) untuk komputasi dengan inferensi pembelajaran mesin (ML), mengaktifkan aplikasi seperti deteksi kata kunci, pemilahan sensor, analisis getaran, dan pengenalan suara. MCU dengan performa lebih tinggi sekarang mendukung tugas visi dan citra—pengenalan wajah, analisis sidik jari, robot otonom—menyajikan yang sebelumnya eksklusif untuk MPU dan GPU ke tepi jaringan.
Teknologi AI pada Perangkat Tepi
Pembelajaran Mesin (ML): Algoritma ML membangun model dari data representatif, memungkinkan perangkat untuk mendeteksi pola secara otomatis. Pemasok menyediakan algoritma, API, dan alat pelatihan yang memungkinkan sistem tertanam menjalankan model terlatih untuk inferensi. Kasus penggunaan umum mencakup hub sensor, deteksi kata kunci, pemeliharaan prediktif, dan klasifikasi.
Deep Learning: Subset dari ML yang melatih jaringan saraf multila mengekstrak fitur tingkat tinggi dari input yang kompleks. Deep Learning unggul dengan kumpulan data yang besar dan beragam, terus meningkat dengan setiap iterasi. Aplikasi mencakup pengolahan citra, chatbot, dan pengenalan wajah.
Pemrosesan Bahasa Alami (NLP): NLP memungkinkan sistem untuk memahami dan merespons bahasa manusia—teks atau ucapan—membuat keputusan berdasarkan input tersebut. Ini mendukung pengenalan ucapan, terjemahan mesin, dan prediksi mengetik.
Computer Vision: Bidang ini melatih mesin untuk menangkap, menafsirkan, dan bertindak berdasarkan data citra. Dengan memanfaatkan Deep Learning, sistem dapat mengidentifikasi dan mengklasifikasi objek secara waktu nyata. Kasus penggunaan mencakup deteksi kerusakan manufaktur, diagnostik medis, pengenalan wajah ritel, dan pengujian kendaraan otonom.
AIoT pada MCU
Secara historis, AI tinggal di MPU dan GPU, di mana memori besar dan inti kuat dapat menangani beban kerja yang berat. Pergeseran menuju kecerdasan tepi sekarang menempatkan AI pada MCU, didorong oleh kebutuhan akan latensi lebih rendah, bandwidth yang lebih rendah, dan anggaran daya yang lebih ketat. MCU kini memiliki cukup komputasi dan memori untuk menghosting framework jaringan saraf (NN) ringan yang dirancang untuk perangkat yang terbatas, membuat inferensi waktu nyata dapat dilakukan di tepi.
Jaringan saraf terdiri dari lapisan node yang memproses input terbobot untuk menghasilkan output. Selama pelatihan—biasanya dilakukan di cloud—data mengalir melalui jaringan, dan back-propagation menyesuaikan bobot untuk meminimalkan kesalahan prediksi. Setelah terlatih, bobot tetap disimpan di memori flash, memungkinkan MCU untuk melakukan inferensi dengan RAM minimal.
Inferensi memerlukan jauh lebih sedikit komputasi daripada pelatihan, menjadikan MCU sebagai host yang ideal untuk model terlatih. Bobot tetap statis, dan MCU dapat memberikan keputusan instan berdasarkan data sensor baru.
Menerapkan AI pada MCU
Alur kerja tipis melibatkan empat tahap:
Pengambilan Data: Kumpulkan kumpulan data yang luas dari perangkat atau aplikasi target.
Pelatihan Model: Gunakan alat berbasis cloud dari vendor AI (misalnya, TensorFlow Lite, Caffe) untuk melatih jaringan saraf yang memenuhi persyaratan aplikasi.
Konversi Model: Konversi model yang telah dilatih ke format flat-buffer dengan konverter vendor, secara opsional menerapkan kuantisasi untuk mengurangi ukuran. Flat buffer kemudian diterjemahkan ke kode C dan dikemas ke firmware MCU.
Penerapan & Pembaruan: Flash firmware ke MCU. Ketika kelas data baru muncul, model dapat dilatih ulang di cloud dan diperbarui pada perangkat melalui pembaruan firmware over-the-air (OTA).
Ada dua jalur arsitektur umum untuk solusi AI berbasis MCU, mengasumsikan inti Arm Cortex-M:
Eksekusi Hanya Perangkat Lunak: Model flat-buffer berjalan pada CPU Cortex-M, dipercepat oleh pustaka CMSIS-NN. Pengaturan ringan ini cocok untuk tugas seperti deteksi kata kunci dan analisis getaran.
Eksekusi Dipercepat Perangkat Keras: Sertakan unit pemrosesan saraf mikro (u-NPU) atau akselerator NN. u-NPU menangani sebagian besar beban kerja klasifikasi citra, deteksi objek, audio, dan ucapan umum, dengan fallback ke CPU untuk operasi yang tidak didukung. Pendekatan ini menghasilkan throughput lebih tinggi dan konsumsi daya lebih rendah.
Seiring MCU berkembang menuju paket kinerja MPU, kami mengharapkan munculnya pembelajaran di perangkat—algoritma pelatihan ringan yang berjalan langsung pada MCU. Ini akan membuka pasar baru dan mendorong investasi signifikan dari produsen MCU.
AI di Tipe Adalah Masa Depan
Edge AI pada MCU yang sumber dayanya terbatas akan tumbuh secara eksponensial, membuka aplikasi baru seiring kaburnya batas kinerja antara MCU dan MPU. Proliferasi model NN tipis yang dirancang untuk konteks tertanam akan mendorong adopsi di seluruh industri.
