Chip AI mendukung inferensi di perangkat berdaya sangat rendah
LONDON – Generasi berikutnya dari akselerator AI berdaya sangat rendah GreenWaves, GAP9, akan menggunakan daya lima kali lebih sedikit daripada pendahulunya, GAP8, sambil menangani algoritme yang 10x lebih besar. Perangkat baru ini akan menawarkan hingga 50 GOPS dengan konsumsi daya keseluruhan 50mW. Ini berkat kombinasi peningkatan arsitektur dan teknologi proses FD-SOI (silikon yang sepenuhnya habis pada isolator) yang canggih.
Seperti perangkat generasi sebelumnya, GAP9 ditujukan untuk inferensi AI dalam sistem di ujung jaringan, seperti node sensor IoT kecil bertenaga baterai. Sebagai contoh, angka GreenWaves memiliki GAP9 yang menjalankan MobileNet V1 pada gambar 160 x 160 dengan penskalaan saluran 0,25 hanya dalam 12 md dengan konsumsi daya 806 W/bingkai/detik.
GreenWaves, yang berbasis di Grenoble, Prancis, telah memilih proses FD-SOI FDX 22nm dari GlobalFoundries untuk meminimalkan konsumsi daya dari arsitektur daya yang sudah sangat rendah.
“Untuk GAP9, kami telah menyetel arsitektur GAP8 menggunakan umpan balik pelanggan pada GAP8, tetapi pada saat yang sama kami telah pindah ke proses semikonduktor yang memimpin pasar,” kata Martin Croome, wakil presiden pemasaran di GreenWaves. “Kami menggunakan kemampuan bias tubuh di FD-SOI untuk memungkinkan kami mencapai konsumsi daya yang lebih rendah lagi.”
Peningkatan Arsitektur
GreenWaves telah membuat beberapa kemajuan arsitektur untuk GAP9.
Satu lagi inti RISC-V telah ditambahkan, sehingga totalnya menjadi 10. Satu inti digunakan sebagai pengontrol fabric serta untuk komputasi intensitas rendah dalam mode tertentu. Sembilan lainnya membentuk cluster komputasi dengan area data L1 bersama. Satu inti dalam cluster ini (yang baru) digunakan sebagai master grup tugas, menghitung pergerakan memori, dan mengelola tugas pada delapan inti lainnya.
RAM internal telah ditingkatkan tiga kali lipat menjadi 1,6 MB dan bandwidth memori telah ditingkatkan menjadi 41,6 GB/dtk untuk L1 dan 7,2 GB/dtk untuk L2.
“[Memori bandwidth] ini sekarang sangat signifikan untuk perangkat kelas MCU,” kata Croome.
Arsitektur chip AI berdaya ultra-rendah GAP9 GreenWaves sekarang menggunakan 10 inti RISC-V (Gambar:GreenWaves)
Perubahan pada arsitektur GAP9 juga mencakup frekuensi teratas yang jauh lebih tinggi; GAP8 clock di 175MHz, GAP9 akan berjalan pada atau mendekati 400MHz. Status daya baru juga telah ditambahkan, termasuk status "tidur" ketika data dapat diperoleh tetapi konsumsi daya masih di bawah 1 mW. Dalam keadaan ini, prosesor dapat berjalan pada regulator putus sekolah rendah (LDO) yang dapat memulai dengan cepat. Hal ini membuat waktu GAP9 untuk instruksi pertama turun menjadi hanya beberapa mikrodetik (GAP8 membutuhkan waktu sekitar 700 s saat menunggu konverter DC-DC stabil, kata Croome). Kemampuan memulai cepat ini berguna saat menangkap sinyal berbasis waktu seperti ucapan.
Kesepuluh core sekarang mampu menangani angka floating point 'transpresisi':format IEEE 16 dan floating point 32-bit ditambah format 8 dan 16-bit tambahan dengan dukungan untuk vektorisasi. Kemampuan ini dapat digunakan untuk menurunkan kebutuhan energi untuk algoritma yang membutuhkan floating point. GAP9 juga mendukung operasi vektor 4-bit dan 2-bit untuk aplikasi yang mengeksploitasi tingkat kuantisasi yang dalam.
Fitur baru lainnya termasuk antarmuka audio multi-saluran dua arah.
GAP9 diperkirakan akan mencapai produksi massal pada tahun 2021 dengan sampel datang pada paruh pertama tahun 2020. Croome mengatakan harga diperkirakan akan berada pada premium 50% dibandingkan dengan GAP8. Mengingat waktu, angka kekuatan, dan titik harga yang berbeda, perusahaan berharap kedua produk akan menemukan pasar di masa mendatang.
