SamurAI: Chip AI Rendah Daya Menciptakan Standar Baru untuk Pengenalan Citra di IoT
Pada Simposium VLSI 2020, lembaga penelitian Prancis CEA-Leti dan LIST memperkenalkan SamurAI, akselerator AI kompakt yang menciptakan definisi ulang efisiensi daya untuk beban kerja pengenalan citra di Internet of Things.
SamurAI mengintegrasikan node IoT hemat daya dan akselerator AI khusus, mencapai pengurangan konsumsi daya puncak-ke-idle sebesar 15.000× sambil menyediakan hingga 1,3 tera-operasi per detik per watt (TOPS/W) atau 36 GOPS untuk tugas pembelajaran mesin.
Dalam prototipe deteksi occupansi dunia nyata, chip menggerakkan sistem yang mencakup sensor PIR, kamera hitam-putih 224×224 piksel, FeRAM, dan radio hemat daya. Sistem rata-rata 105 µW per hari, dengan SamurAI mengonsumsi 26 % dari anggaran itu.
Ringkasan Sistem SamurAI
SamurAI dibangun di sekitar dua subsistem on-chip:
Pengontrol wake-up berbasis peristiwa tanpa clock yang dapat meluncurkan sistem dalam 207 ns.
Subsistem on-demand yang menghadirkan CPU RISC-V dengan mode tidur dalam, akselerator AI PNeuro, dan akselerator kriptografi.
Arsitektur dual-subsystem ini menghasilkan rasio daya puncak-ke-idle 15.000×. Dalam mode idle, chip hanya mengonsumsi 6,4 µW; saat CPU dan akselerator AI aktif, daya naik menjadi 96 mW.
Dibuat dalam proses STMicro 28 nm fully-depleted silicon-on-insulator (FD-SOI), die 4,5 mm² mengandung enam domain daya yang dapat dialihkan dan beroperasi tanpa body biasing.
Pengukuran konsumsi daya SamurAI di berbagai mode operasi (idle, hanya pengontrol wake-up, pengontrol wake-up plus radio, pengontrol wake-up plus periferal, CPU berjalan). Gambar: CEA-Leti
Akselerator AI PNeuro
Akselerator, bernama PNeuro, adalah mesin terprogram SIMD (single-instruction, multiple-data). Ia terdiri dari dua kluster elemen pemrosesan 32 × 8-bit yang didukung oleh 264 kB SRAM multi-bank. Blok dapat melakukan 64 MAC per siklus.
Angka performa kunci:
1,3 TOPS/W pada 2,8 GOPS dengan supply 0,48 V.
36 GOPS untuk lapisan jaringan saraf fully-connected 8-bit dengan supply 0,9 V.
Penerapan PNeuro membagi total konsumsi daya sistem dibandingkan dengan menjalankan beban kerja pembelajaran mesin pada inti RISC-V.
Arsitektur dua kluster PNeuro dengan total 64 elemen pemrosesan. Gambar: CEA-LetiEfisiensi energi PNeuro mencapai puncak 1,3 TOPS/W dan menyediakan performa maksimum 36 GOPS. Gambar: CEA-Leti
Dirancang untuk skenario IoT yang memerlukan ledakan komputasi spaselis di antara periode tidur panjang, SamurAI memungkinkan pemrosesan AI on-device. Pendekatan ini menghilangkan ketergantungan cloud, mengurangi latensi, dan melestarikan privasi, menjadikannya ideal untuk aplikasi seperti deteksi orang atau identifikasi scene menggunakan kamera atau sensor lain.
>> Artikel ini awalnya diterbitkan di situs saudara kami, EE Times Europe.