Chip AI mempercepat pengenalan gambar

Chip proof-of-concept dari lembaga penelitian Prancis CEA-Leti dan LIST, yang dipresentasikan di VLSI Symposium 2020, menggabungkan node IoT berdaya rendah dan akselerator AI dan menunjukkan waktu bangun yang sangat cepat dengan 15.000X peak-to- pengurangan konsumsi daya idle. Node memberikan hingga 1,3 tera operasi per detik per Watt (TOPS/W) atau 36 GOPS untuk tugas pembelajaran mesin.

Chip tersebut, bernama SamurAI, telah diuji dalam sistem deteksi hunian dengan komponen siap pakai termasuk sensor PIR, kamera hitam putih 224x224 piksel, FeRAM, dan radio berdaya rendah. Konsumsi daya sistem rata-rata harian adalah 105µW, dengan SamurAI menghabiskan 26% dari anggaran tersebut. Sistem menggunakan sensor PIR dengan interval 5 detik selama penggunaan ruangan 8 jam per hari, kamera pada 1 frame per detik dan radio 10x per hari.

Sistem SamsungAI

SamurAI menggunakan dua sub-sistem on-chip:pengontrol bangun yang digerakkan oleh peristiwa tanpa jam berdaya rendah yang dapat dimulai dalam 207 ns, dan subsistem sesuai permintaan yang terdiri dari CPU RISC-V dengan mode tidur nyenyak plus akselerator AI PNeuro dan akselerator kriptografi.

Skema subsistem ganda ini memungkinkan rasio daya puncak-ke-idle 15.000X. Gambar di bawah menunjukkan konsumsi daya selama mode yang berbeda; mode siaga hanya mengkonsumsi 6,4 W. Dengan CPU dan akselerator AI berjalan, konsumsi dayanya adalah 96 mW.

Chip ini dibangun di atas proses STMicro's 28 nm fully depleted silicon on insulator (FD-SOI), dan angka daya diberikan tanpa bias bodi. Silikonnya 4,5 mm ² dan memiliki 6 domain daya yang dapat dialihkan.

Pengukuran konsumsi daya SamurAI berdasarkan mode daya (modenya adalah LR:idle, hanya pengontrol bangun (WuC), pengontrol bangun dan radio bangun (WuR), pengontrol bangun dan periferal, dan CPU berjalan (Gambar:CEA-Leti)

Akselerator AI

Akselerator AI chip, desain yang disebut tim PNeuro, adalah akselerator yang dapat diprogram dengan instruksi tunggal, banyak data (SIMD). Ini terdiri dari 2 cluster elemen pemrosesan 32x 8-bit dengan SRAM multi-bank 264kB. Hal ini dapat melakukan hingga 64 multiplied-accumulates (MACs) per siklus. Blok PNeuro dapat mencapai 1,3 TOPS/W pada 2,8 GOPS/0,48V. Ia dapat melakukan hingga 36 GOPS pada 0,9V untuk lapisan jaringan saraf 8-bit yang terhubung sepenuhnya.

Menggunakan akselerator PNeuro memangkas total konsumsi daya sistem dengan faktor 2,3 dibandingkan dengan menggunakan inti RISC-V pengontrol untuk komputasi ML.

Akselerator PNeuro dua kluster SamurAI dengan total 64 elemen pemrosesan (Gambar:CEA-Leti)

Efisiensi energi PNeuro adalah maksimum 1,3 TOPS/W dan kinerja maksimum 36 GOPS (Gambar:CEA-Leti)

Desain ini ditujukan untuk aplikasi IoT yang membutuhkan daya komputasi sporadis di antara periode "tidur" yang lama. Daripada terhubung ke cloud, jika node dapat memproses beban kerja AI itu sendiri, ini seringkali dapat diselesaikan lebih cepat dan tidak ada implikasi privasi karena data tidak dibagikan di luar sistem. Ini mungkin termasuk aplikasi seperti deteksi orang atau identifikasi pemandangan menggunakan kamera atau sensor lainnya.

>> Artikel ini awalnya diterbitkan pada situs saudara kami, EE Times Europe.