Memasukkan model AI ke dalam mikrokontroler

Apa yang Anda dapatkan saat melintasi AI dengan IoT? Kecerdasan buatan (AIoT) adalah jawaban sederhana, tetapi Anda juga mendapatkan area aplikasi baru yang sangat besar untuk mikrokontroler, dimungkinkan oleh kemajuan teknik jaringan saraf yang berarti pembelajaran mesin tidak lagi terbatas pada dunia superkomputer. Saat ini, pemroses aplikasi ponsel cerdas dapat (dan memang) melakukan inferensi AI untuk pemrosesan gambar, mesin rekomendasi, dan fitur kompleks lainnya.

Membawa kemampuan semacam ini ke mikrokontroler sederhana merupakan peluang besar. Bayangkan alat bantu dengar yang dapat menggunakan AI untuk menyaring kebisingan latar belakang dari percakapan, peralatan rumah pintar yang dapat mengenali wajah pengguna dan beralih ke pengaturan yang dipersonalisasi, dan node sensor berkemampuan AI yang dapat berjalan selama bertahun-tahun dengan baterai terkecil. Pemrosesan data di titik akhir menawarkan keuntungan latensi, keamanan, dan privasi yang tidak dapat diabaikan.

Digunakan bersama-sama, Arm's Cortex-M55 dan Ethos-U55 memiliki kekuatan pemrosesan yang cukup untuk aplikasi seperti pengenalan gerakan, biometrik, dan pengenalan suara ( Gambar:Lengan)

Namun, mencapai pembelajaran mesin yang bermakna dengan perangkat tingkat mikrokontroler bukanlah tugas yang mudah. Memori, kriteria utama untuk perhitungan AI, seringkali sangat terbatas, misalnya. Namun ilmu data berkembang pesat untuk mengurangi ukuran model, dan vendor perangkat serta IP merespons dengan mengembangkan alat dan menggabungkan fitur yang disesuaikan untuk tuntutan pembelajaran mesin modern.

TinyML lepas landas

Sebagai tanda pertumbuhan pesat sektor ini, TinyML Summit, acara industri baru yang diadakan pada bulan Februari di Silicon Valley, semakin kuat. KTT pertama, yang diadakan tahun lalu, memiliki 11 perusahaan sponsor; acara tahun ini memiliki 27, dan slot terjual lebih awal, menurut penyelenggara. Kehadiran di pertemuan bulanan global TinyML untuk para desainer telah meningkat secara dramatis, kata penyelenggara.

“Kami melihat dunia baru dengan triliunan perangkat cerdas yang diaktifkan oleh teknologi TinyML yang merasakan, menganalisis, dan secara mandiri bertindak bersama untuk menciptakan lingkungan yang lebih sehat dan lebih berkelanjutan untuk semua,” kata Direktur Senior Qualcomm Evgeni Gousev, ketua bersama Komite TinyML , dalam sambutan pembukaannya di konferensi baru-baru ini.

Gousev menghubungkan pertumbuhan ini dengan pengembangan perangkat keras dan algoritma yang lebih hemat energi, dikombinasikan dengan perangkat lunak yang lebih matang. Investasi korporat dan modal ventura meningkat, demikian pula aktivitas startup dan M&A, katanya.

ECM3532 Eta Compute menggunakan inti Arm Cortex-M3 ditambah inti NXP CoolFlux DSP. Beban kerja pembelajaran mesin dapat ditangani oleh salah satu, atau keduanya (Gambar:Eta Compute)

Hari ini, Komite TinyML percaya bahwa teknologi tersebut telah divalidasi dan bahwa produk awal yang menggunakan pembelajaran mesin di mikrokontroler akan memasuki pasar dalam dua hingga tiga tahun. "Aplikasi pembunuh" diperkirakan akan berlangsung tiga hingga lima tahun lagi.

Sebagian besar validasi teknologi datang musim semi lalu ketika Google mendemonstrasikan versi kerangka kerja TensorFlow untuk mikrokontroler untuk pertama kalinya. TensorFlow Lite for Microcontrollers dirancang untuk berjalan pada perangkat dengan memori hanya kilobyte (waktu proses inti muat dalam 16 KB pada Arm Cortex-M3; dengan operator yang cukup untuk menjalankan model deteksi kata kunci ucapan, dibutuhkan total 22 KB ). Ini mendukung inferensi tetapi tidak untuk pelatihan.

Pemain besar

Pembuat mikrokontroler besar, tentu saja, memperhatikan perkembangan komunitas TinyML dengan penuh minat. Karena penelitian memungkinkan model jaringan saraf menjadi lebih kecil, peluangnya menjadi lebih besar. Sebagian besar memiliki semacam dukungan untuk aplikasi pembelajaran mesin. Misalnya, STMicroelectronics memiliki paket ekstensi, STM32Cube.AI, yang memungkinkan pemetaan dan menjalankan jaringan saraf pada keluarga STM32 dari mikrokontroler berbasis Arm Cortex-M.

Lingkungan pengembangan e-AI Renesas Electronics memungkinkan inferensi AI diimplementasikan pada mikrokontroler. Ini secara efektif menerjemahkan model ke dalam bentuk yang dapat digunakan di studio e2 perusahaan, kompatibel dengan proyek C/C++.

NXP Semiconductors mengatakan memiliki pelanggan yang menggunakan Kinetis dan LPC MCU kelas bawah untuk aplikasi pembelajaran mesin. Perusahaan ini merangkul AI dengan solusi perangkat keras dan perangkat lunak, meskipun terutama berorientasi pada prosesor aplikasi yang lebih besar dan prosesor crossover (antara prosesor aplikasi dan mikrokontroler).

Bersenjata Kuat

Sebagian besar perusahaan mapan di ruang mikrokontroler memiliki satu kesamaan:Arm. Raksasa inti-prosesor tertanam mendominasi pasar mikrokontroler dengan seri Cortex-M-nya. Perusahaan baru-baru ini mengumumkan inti Cortex-M55 baru, yang dirancang khusus untuk aplikasi pembelajaran mesin, terutama bila digunakan dalam kombinasi dengan akselerator AI Arm Ethos-U55. Keduanya dirancang untuk lingkungan dengan sumber daya terbatas. Tetapi bagaimana perusahaan rintisan dan perusahaan kecil dapat bersaing dengan pemain besar di pasar ini?

“Bukan dengan membangun SoC berbasis Arm, karena [pemain dominan] melakukannya dengan sangat baik,” tertawa CEO XMOS Mark Lippett. “Satu-satunya cara untuk bersaing dengan orang-orang itu adalah dengan memiliki keunggulan arsitektural … [itu berarti] kemampuan intrinsik Xcore dalam hal kinerja, tetapi juga fleksibilitas.”

Xcore.ai XMOS, prosesor crossover yang baru dirilis untuk antarmuka suara, tidak akan bersaing secara langsung dengan mikrokontroler, tetapi sentimennya masih berlaku. Perusahaan mana pun yang membuat SoC berbasis Arm untuk bersaing dengan perusahaan besar sebaiknya memiliki sesuatu yang sangat istimewa dalam saus rahasianya.

>> Lanjutkan membaca halaman kedua ini artikel awalnya diterbitkan di situs saudara kami, EE Times Europe.