Arm core dirancang untuk perangkat TinyML

Arm telah meluncurkan dua inti IP baru yang dirancang untuk mendukung pembelajaran mesin di perangkat titik akhir, perangkat IoT, dan aplikasi hemat biaya lainnya. Inti mikrokontroler Cortex-M55 adalah yang pertama menggunakan teknologi pemrosesan vektor Helium Arm, sedangkan akselerator pembelajaran mesin Ethos-U55 adalah versi mikro dari keluarga Ethos NPU (unit pemrosesan saraf) perusahaan yang ada. Kedua inti dirancang untuk digunakan bersama, meskipun keduanya juga dapat digunakan secara terpisah.

Mengaktifkan aplikasi AI dan pembelajaran mesin pada mikrokontroler dan perangkat hemat sumber daya lainnya yang sensitif terhadap biaya dikenal sebagai sektor tinyML. Dengan munculnya 5G yang memulai tren untuk kecerdasan lebih di perangkat titik akhir, tinyML diperkirakan akan tumbuh secara eksponensial menjadi pasar yang mencakup miliaran sistem konsumen dan industri.

“Ketika kita melihat ke belakang lima tahun dari sekarang, kita semua mungkin setuju bahwa saat ini menandai perubahan paradigma yang sebenarnya dalam komputasi,” kata Thomas Ensergueix, direktur senior untuk IoT dan Embedded, Arm. “Kami telah melihat dalam beberapa tahun bagaimana AI telah merevolusi cara analitik data berjalan di cloud, kebanyakan dari kita memiliki smartphone yang dilengkapi AI di saku kita, dan sekarang inilah langkah selanjutnya, bersiap-siap untuk AI di mana saja.”

Perangkat rumah pintar seperti speaker pintar akan semakin mampu melakukan inferensi pembelajaran mesin sendiri (Gambar:Sebastian Scholz/Unsplash)

Pembelajaran mesin, termasuk pengenalan suara dan aplikasi visi komputer, akan semakin banyak terjadi di mikrokontroler. Berbagai alternatif mikrokontroler bermunculan, berdasarkan inti Arm dan lainnya, yang ditargetkan Arm dengan dua inti baru ini.

“Kami tahu semua data ini di tingkat titik akhir tidak dapat kembali ke cloud,” kata Ensergueix. “Kamera video di rumah atau kota pintar menghasilkan data sebesar gigabyte per hari dan infrastruktur tidak dibangun untuk aliran data hulu ini. Kami yakin bahwa apa yang kami perlukan untuk mencapai miliaran atau triliunan titik akhir IoT, kami akan membutuhkan kemampuan inferensi AI langsung di titik akhir IoT. Dan itu harus aman.”

Korteks-M55

Tambahan terbaru untuk seri Cortex-M Arm yang terkenal untuk mikrokontroler, Cortex M-55 dirancang untuk menjadi inti Cortex-M yang paling berkemampuan AI dari Arm.

M55 adalah yang pertama menggunakan teknologi pemrosesan vektor Helium baru dari Arm, yang menjanjikan kinerja DSP 5x lebih cepat dan kinerja ML 15x lebih cepat, dibandingkan dengan generasi Cortex-M sebelumnya. Berdasarkan arsitektur Armv8.1-M, ​​instruksi khusus dapat dibuat untuk mengoptimalkan prosesor untuk beban kerja tertentu, mungkin untuk menekan setiap tetes terakhir daya yang padam.

Menggabungkan M55 dan U55 memanfaatkan peningkatan tenaga kuda DSP M55, yang dapat digunakan untuk prapemrosesan sinyal. Namun, M55 dapat menjalankan beban kerja jaringan saraf itu sendiri. Ini menampilkan instruksi khusus untuk nomor INT8, termasuk produk titik, yang biasanya digunakan dalam aplikasi pembelajaran mesin.

Aplikasi AIoT yang sukses “tidak hanya bergantung pada kinerja komputasi yang baik tetapi juga kemampuan untuk mendapatkan data yang tepat, koefisien yang tepat, dan bobot pembelajaran mesin yang tepat pada waktu yang tepat, sehingga antarmuka memori prosesor telah dioptimalkan untuk dapat menangani semua data masuk dan keluar. Ini jauh lebih mampu daripada inti Cortex-M lainnya dalam aspek ini,” kata Ensergueix.

Kombinasi Cortex-M55 dan Ethos-U55 memiliki kekuatan pemrosesan yang cukup untuk aplikasi seperti pengenalan gerakan, biometrik, dan pengenalan suara (Gambar:Lengan)

Etos-U55

Ethos-U55 disebut-sebut sebagai 'micro-NPU' pertama Arm, menawarkan akselerasi hingga 0,5 TOPS (berdasarkan geometri yang lebih kecil seperti 16 atau 7 nm, berjalan pada 1 GHz). Arm belum merilis angka efisiensi daya (TOPS/W). Ini dapat dikonfigurasi — 32 hingga 256 unit akumulasi ganda (MAC) dapat digunakan — dan memiliki decoder bobot dan akses memori langsung untuk dekompresi bobot on-the-fly.

Ethos-U55 bergabung dengan Ethos N77, N57 dan N37 yang sebagai perbandingan menawarkan 4, 2 dan 1 TOPS, masing-masing. Performa dapat ditingkatkan dengan menggunakan beberapa inti Ethos.

Cortex-M55 dan Ethos-U55 dirancang untuk digunakan bersama-sama, tetapi juga dapat digunakan secara terpisah (Gambar:Lengan)

Dua inti baru, M55 dan U55, dirancang untuk digunakan bersama, di mana mereka dapat memproses tugas ML 480x lebih cepat daripada perangkat Cortex-M generasi sebelumnya saja. Arm mengatakan angka tipikal untuk aplikasi asisten suara ujung-ke-ujung yang menggunakan ML adalah kecepatan 50x lebih cepat dibandingkan dengan menggunakan Cortex-M7 saja, dan peningkatan efisiensi daya 25x.

“Cortex-M akan menjalankan kode sistem aplikasi dan kemudian ketika memproses beban kerja jaringan saraf diperlukan, aliran perintah untuk itu ditempatkan di SRAM, interupsi diberikan ke U55, dan dikatakan, ini, mulai kerjakan ini aliran perintah,” jelas Steve Roddy, wakil presiden kelompok pembelajaran mesin di Arm. “Itu bisa menjadi satu kesimpulan dari satu model. U55 berjalan hingga selesai, mengembalikan hasilnya ke SRAM dan kemudian membiarkan Cortex-M mengambil alih. Atau bisa juga jenis situasi di mana Anda terus berlari saat melakukan semacam pemrosesan data streaming, mungkin audio atau video.”

Silikon berdasarkan inti baru ini akan memasuki pasar pada awal 2021.