Mikrokontroler Memberdayakan Gelombang Selanjutnya Edge AI

Hingga beberapa waktu lalu, pembelajaran mesin—dan bahkan pembelajaran dalam—dipandang sebagai milik server yang kuat, dengan pelatihan dan inferensi ditangani oleh gateway, server edge, atau data center. Pandangan ini berlaku karena pergeseran menuju distribusi komputasi antara cloud dan edge masih dalam tahap awal. Kini, terobosan dari industri dan akademia telah mengubah paradigma tersebut.

Akibatnya, prosesor berkinerja tinggi yang memberikan triliunan operasi per detik (TOPS) tidak lagi merupakan prasyarat untuk beban kerja ML. Mikrokontroler modern, banyak dilengkapi dengan akselerator ML khusus, kini membawa inferensi cerdas langsung ke perangkat edge.

Kontroler ini menjalankan tugas ML dengan efisien, dengan biaya dan daya minimal, terhubung ke cloud hanya saat diperlukan. Esensinya, mikrokontroler dengan akselerator ML terbenam menandai lompatan berikutnya dalam memberi sensor—mikrofon, kamera, pemantau lingkungan—kecerdasan pada perangkat, sudut pandang rantai nilai IoT.

Edge biasanya didefinisikan sebagai titik terjauh dari cloud dalam jaringan IoS, sering direpresentasikan oleh gateway canggih atau server edge. Dalam kenyataan, edge berakhir pada sensor itu sendiri—yang terletak dekat pengguna akhir. Oleh karena itu, logis untuk menyematkan sebanyak mungkin analitik langsung di dalam sensor tersebut, peran yang sempurna bagi mikrokontroler.

Contoh model MobileNet V1 dengan berbagai pengali lebar menunjukkan dampak drastis pada jumlah parameter, komputasi, dan akurasi. Namun, hanya mengubah pengali lebar dari 1,0 ke 0,75 minimal mempengaruhi akurasi TOP-1 tetapi secara signifikan mempengaruhi jumlah parameter dan komputasi (Gambar: NXP)

Komputer papan tunggal memang dapat melakukan pemrosesan edge, memberikan kinerja yang mengesankan, dan saat dikluster, mendekati superkomputer skala kecil. Namun, mereka masih terlalu besar dan mahal untuk ribuan unit yang dituntut oleh penerapan skala besar. Selain itu, mereka memerlukan daya DC eksternal—seringkali tidak tersedia di lingkungan yang terbatas—sedangkan MCU hanya menarik miliwatt dan dapat beroperasi pada baterai koin atau beberapa sel surya.

Akibatnya, bidang edge ML berbasis mikrokontroler—dikenal sebagai TinyML—telah meledak dalam popularitas. TinyML bertujuan untuk mengaktifkan inferensi, dan akhirnya pelatihan, pada perangkat kecil, daya rendah, dengan sumber daya terbatas, terutama mikrokontroler, daripada bergantung pada platform yang lebih besar atau cloud. Ini memerlukan model jaringan syaraf tiruan yang kompak yang muat dalam budget pemrosesan, penyimpanan, dan bandwidth yang terbatas sambil mempertahankan kinerja.

Model yang dioptimalkan sumber daya memungkinkan perangkat untuk menangkap data sensor yang memadai untuk tugasnya sambil menyesuaikan akurasi dan mengurangi kebutuhan sumber daya. Akibatnya, meskipun beberapa data mungkin masih ditransmisikan—langsung ke cloud atau melalui gateway edge—volume jauh lebih rendah karena analisis awal telah dieksekusi di perangkat.

Kasus penggunaan TinyML umum adalah sistem deteksi objek berbasis kamera yang dapat menangkap gambar resolusi tinggi namun menghadapi penyimpanan yang terbatas, yang menuntut pengurangan resolusi. Dengan analitik pada perangkat, kamera hanya menangkap objek yang diminati, menjaga resolusi yang lebih tinggi untuk frame yang dipilih. Tingkat fungsionalitas ini—yang sebelumnya hanya untuk hardware yang kuat— kini dapat dicapai pada mikrokontroler berkat TinyML.

Meskipun TinyML adalah bidang yang masih baru, ia sudah memberikan kinerja inferensi—dan semakin sering, pelatihan—yang mengesankan pada mikrokontroler sederhana, dengan kehilangan akurasi yang kecil. Keberhasilan terbaru mencakup pengenalan suara dan wajah, pemrosesan bahasa natural perintah suara, dan eksekusi bersamaan beberapa algoritma visi yang canggih.

Secara praktis, mikrokontroler yang harganya di bawah $2, dengan inti Arm Cortex-M7 500 MHz dan memori 28 KB–128 KB, dapat memberikan kinerja yang diperlukan untuk menjadikan sensor benar-benar cerdas.

Bahkan pada harga ini, mikrokontroler tersebut mencakup fitur keamanan yang kuat (AES-128), mendukung beberapa tipe memori eksternal, Ethernet, USB, SPI, dan antarmuka untuk berbagai sensor, termasuk Bluetooth, Wi-Fi, SPDIF, dan audio I²C. Kenaikan harga yang kecil biasanya menghasilkan Cortex-M7 1 GHz, Cortex-M4 400 MHz, 2 MB RAM, dan akselerasi grafis, sambil hanya menarik beberapa miliamper dari supply 3,3 V.

Kasus penggunaan pembelajaran mesin (Gambar: NXP)

Produsen sering membenchmark akselerator jaringan syaraf tiruan menggunakan satu metrik—triliunan operasi per detik (TOPS). Sementara menarik, angka ini bisa menyesatkan. Ini mencerminkan kapasitas komputasi mentah dalam pengaturan laboratorium yang dikendalikan dan mengabaikan keterbatasan praktis seperti bandwidth memori, overhead CPU, dan pemrosesan data pra- dan pasca-. Dalam penerapan nyata, throughput yang dapat dicapai dapat 50–60 % dari nilai TOPS yang diiklankan.

Selain itu, untuk mikrokontroler, yang biasanya menawarkan hanya 1–3 TOPS, metrik ini bahkan kurang informatif. Kekuatan sebenarnya dari perangkat kecil ini terletak pada prosesor Arm Cortex yang terintegrasi erat, dukungan untuk operasi integer dan floating-point, dan kemampuan untuk menjalankan mesin inferensi seperti TensorFlow Lite dengan jejak minimal.

Dorongan untuk menjalankan inferensi langsung di atau di samping sensor—baik kamera statis maupun video—semakin melesat seiring ekosistem IoT bergerak menuju pemrosesan yang berpusat pada edge. Kemajuan cepat dalam akselerator jaringan syaraf tiruan level mikrokontroler sedang menggabungkan fungsionalitas AI dengan prosesor aplikasi tanpa kenaikan drastis dalam konsumsi daya atau ukuran. Model yang dilatih pada CPU atau GPU yang kuat dapat disederhanakan dengan TensorFlow Lite dan diterapkan ke mikrokontroler, dengan mudah diskalakan untuk memenuhi permintaan ML yang tumbuh. Segera, bahkan pelatihan akan dapat dilakukan pada perangkat ini, memposisikan mikrokontroler sebagai pesaing yang gharib terhadap sistem yang lebih besar dan lebih mahal.

>> Artikel ini awalnya diterbitkan di situs kawan kami, EE Times.