Mikrokontroler Berevolusi untuk Memberdayakan AIoT

Menggabungkan AI dengan IoT menghasilkan AIoT—domain yang berkembang di mana mikrokontroler sekarang menghosting machine learning yang canggih, berkat terobosan dalam kompresi dan optimasi jaringan saraf. Processor aplikasi smartphone modern rutin mengeksekusi inferensi AI untuk tugas seperti analisis citra dan mesin rekomendasi, menunjukkan bahwa ML berkinerja tinggi tidak lagi terbatas pada superkomputer.

Ekosistem miliaran perangkat IoT akan mendapatkan kemampuan machine learning dalam beberapa tahun ke depan (Gambar: NXP)

Menyebarkan kecerdasan ini pada mikrokontroler hemat daya membuka kasus penggunaan transformatif: alat pendengaran yang didorong AI yang menekan kebisingan lingkungan, peralatan rumah tangga pintar yang mengidentifikasi pengguna dan menerapkan profil pribadi, atau node sensor yang beroperasi selama tahun pada anggaran daya mikro‑joule. Inferensi edge mengurangi latensi, meningkatkan keamanan data, dan melestarikan privasi pengguna.

Namun, menyematkan ML pada mikrokontroler tetap menantang. SRAM dan flash yang terbatas membatasi ukuran model jaringan saraf, dan throughput komputasi cukup sederhana. Kemajuan cepat dalam kuantisasi dan pemangkasan model, bersama dengan alat vendor‑spesifik, secara bertahap menyempitkan kesenjangan ini.

Ekspansi cepat industri tercermin dalam TinyML Summit, sebuah event di Silicon Valley yang menarik 27 sponsor tahun ini dibandingkan 11 tahun sebelumnya, dengan slot pendaftaran terisi berbulan-bulan sebelumnya. Penyelenggara juga melaporkan lonjakan keanggotaan untuk meetup bulanan global mereka yang berorientasi desain.

“Kami membayangkan triliunan perangkat cerdas yang didorong oleh TinyML, masing-masing merasakan, menganalisis, dan bertindak secara otonom untuk menciptakan lingkungan yang lebih sehat dan lebih berkelanjutan,” kata Evgeni Gousev Qualcomm, co-chair Komite TinyML, selama pembicaraan pembukaan.

Dia mengakui momentum ini kepada hardware yang lebih hemat energi, algoritma yang disempurnakan, dan stack perangkat lunak yang matang, serta meningkatnya investasi korporasi dan venture capital, serta meningkatnya aktivitas startup dan M&A.

Komite TinyML sekarang menganggap teknologi ini divalidasi, memprediksi bahwa produk mikrokontroler yang diaktifkan AI awal akan memasuki pasar dalam 2–3 tahun, sementara aplikasi yang benar-benar transformatif mungkin muncul dalam 3–5 tahun.

Sebuah tonggak penting tiba musim semi lalu ketika Google memperkenalkan TensorFlow Lite for Microcontrollers—engine inferensi ringan yang disesuaikan untuk perangkat dengan hanya kilobyte RAM. Core runtime hanya menempati 16 KB pada ARM Cortex‑M3, dan model deteksi kata kunci ucapan lengkap muat dalam 22 KB. Library ini hanya mendukung inferensi, bukan pelatihan.

Pembuat mikrokontroler besar memantau kemajuan TinyML dengan erat, karena pengecilan model jaringan saraf memperluas kesempatan produk mereka. Sebagian besar sudah menawarkan dukungan ML. Misalnya, STMicroelectronics menyediakan STM32Cube.AI, paket ekstensi yang memetakan dan menjalankan jaringan saraf pada keluarga STM32 ARM Cortex‑M. Renesas menyediakan lingkungan pengembangan e‑AI, menerjemahkan model menjadi kode C/C++ yang kompatibel melalui e² Studio-nya. NXP melaporkan pelanggan yang menerapkan machine learning pada MCU Kinetis dan LPC yang rendah, mengintegrasikan AI melalui hardware dan software, terutama dalam crossover processor yang menjembatani processor aplikasi dan mikrokontroler.

Arm mendominasi pasar mikrokontroler dengan seri Cortex‑M-nya. Perusahaan baru-baru ini memperkenalkan core Cortex‑M55, yang dirancang untuk beban kerja ML dan dipadukan dengan akselerator AI Ethos‑U55, keduanya menargetkan lingkungan hemat daya ultra dan terbatas sumber daya. Bersama-sama, mereka memberikan komputasi yang cukup untuk pengenalan gerak, biometrik, dan pengenalan ucapan.

Digunakan bersama, Cortex‑M55 dan Ethos‑U55 Arm memiliki cukup daya pemrosesan untuk aplikasi seperti pengenalan gerak, biometrik, dan pengenalan ucapan (Gambar: Arm)

Jadi bagaimana perusahaan kecil dapat membedakan diri mereka dari ekosistem Arm yang terjajar?

CEO XMOS Mark Lippett berkata lelucon, “Kamu tidak dapat mengalahkan Arm dengan membangun SoC berbasis Arm lainnya—mereka unggul di itu. Satu-satunya cara adalah memperkenalkan keuntungan arsitektur—baik performa dan fleksibilitas.” Xcore.ai XMOS, processor crossover untuk antarmuka suara, menggambarkan filosofi ini, meskipun tidak langsung bersaing dengan mikrokontroler.

Selama TinyML Summit, Eta Compute memperkenalkan ECM3532—perangkat ultra‑rendah daya yang mampu pemrosesan citra always-on dan fusisi sensor dengan anggaran daya 100 µW. Ini menyatukan core ARM Cortex‑M3 dan core DSP NXP CoolFlux; salah satu atau keduanya dapat menangani beban kerja ML. Inovasi kunci chip adalah penskalaan berkelanjutan frekuensi jam dan tegangan untuk kedua core, menghilangkan kebutuhan akan phase-locked loop dan secara dramatis mengurangi konsumsi daya.

ECM3532 Eta Compute menggunakan core ARM Cortex‑M3 dan core DSP NXP CoolFlux. Beban kerja machine learning dapat ditangani oleh salah satunya, atau keduanya (Gambar: Eta Compute)

Dengan pesaing yang muncul seperti RISC‑V, mengapa Eta Compute memilih core Arm untuk akselerasi ML-nya?

Tewksbury menjelaskan kepada EETimes, “Ekosistem Arm cukup matang. Lebih mudah untuk membawa produk ke pasar dengan Arm daripada dengan RISC‑V saat ini, meskipun itu mungkin berkembang. RISC‑V unggul di pasar China, tetapi kami menargetkan pelanggan domestik dan Eropa di mana ekosistem Arm paling kuat.”

Tewksbury menyoroti bahwa AIoT meliputi pasar yang luas dan terfragmentasi dengan banyak aplikasi nich yang menghasilkan volume modest. Secara kolektif, sektor ini dapat mencakup miliaran perangkat. Dia menekankan bahwa pengembang harus menghindari biaya menyesuaikan solusi untuk setiap kasus penggunaan; fleksibilitas dan kemudahan penggunaan oleh karena itu kritis, yang disediakan oleh ekosistem Arm.

Bulan lalu, Arm anunció bahwa akan mengizinkan pelanggan untuk membuat instruksi kustom untuk beban kerja spesialis seperti ML. Kemampuan ini, setelah diterapkan pada core masa depan, dapat lebih mengurangi konsumsi daya.

Sementara core M3 saat ini tidak dapat mendapatkan manfaat dari fitur ini, Tewksbury optimis: “Tentu saja, kami berencana untuk memanfaatkan set instruksi kustom Arm dalam produk generasi mendorong untuk mendorong efisiensi daya lebih jauh.”

RISC‑V, ISA open source, menghapus biaya lisensi dan memungkinkan desainer untuk menambahkan ekstensi proprietary. Perusahaan dapat menyesuaikan core untuk beban kerja tertentu, melindungi IP jika diperlukan. GreenWaves, startup Prancis, menggunakan core RISC‑V dalam chip GAP8 dan GAP9-nya—kluster 8-core dan 9-core, masing-masing. Arsitektur GAP9 kini menyatukan 10 core RISC‑V.

Arsitektur chip AI ultra‑rendah daya GAP9 GreenWaves kini menggunakan 10 core RISC‑V (Gambar: GreenWaves)

VP GreenWaves Martin Croome mengatakan kepada EETimes bahwa konfigurasibilitas RISC‑V di tingkat instruksi adalah keuntungan yang menentukan. Ekstensi kustom memungkinkan penghematan daya yang signifikan untuk tugas ML dan pemrosesan sinyal. Untuk perusahaan baru, menciptakan core kustom semacam itu akan terlalu mahal pada arsitektur lain, di mana biaya lisensi atau IP akan melonjak.

Ekstensi kustom saja menghasilkan perbaikan efisiensi energi 3,6× dibandingkan core RISC‑V yang tidak dimodifikasi. Croome juga memuji ISA RISC‑V yang modern dan bersih, yang mengurangi kompleksitas implementasi dan, akibatnya, pengeluaran daya. Kontrol yang presisi atas eksekusi setiap core esensial untuk memaksimalkan efisiensi energi—sesuatu yang dimudahkan oleh RISC‑V.

Croome mengakui bahwa jika Arm dapat memberikan tingkat kustomisasi yang sama, itu akan menjadi pilihan alami. Namun, toolchain perangkat lunak Arm yang matang saat ini melebihi RISC‑V, meskipun ekosistem terakhirnya berkembang dengan cepat.

Dalam rangkuman, sementara beberapa melihat dominasi Arm sebagai erosi, perusahaan menanggapi dengan memungkinkan ekstensi kustom dan mengembangkan core berorientasi ML dari awal. Keduanya Arm dan non-Arm kini tersedia untuk AI ultra‑rendah daya, dan saat komunitas TinyML terus menyusutkan ukuran model dan menyempurnakan framework, pasar siap untuk berkembang.