Imec & GlobalFoundries Ungkap Chip Processor-in-Memory 2900 TOPS/W untuk AI Ultra-Efisien
Revolutionary Analog Compute
Imec dan GlobalFoundries telah mendemonstrasikan chip processor-in-memory yang dapat mencapai efisiensi energi hingga 2900 TOPS/W, sekitar dua orde magnitudo di atas solusi komersial saat ini. Desain ini memanfaatkan komputasi analog dalam SRAM, dibangun dengan proses GlobalFoundries 22 nm fully-depleted silicon-on-insulator (FD-SOI).
AiMC analog in-memory compute milik Imec akan tersedia untuk pelanggan GlobalFoundries sebagai fitur pada platform 22FDX.
Chip uji AnIA milik Imec, dipasang pada PCB yang digunakan untuk pengukuran, dapat mencapai 2900 TOPS/W (Gambar: Imec)
Analog Compute Explained
Komputasi analog, atau processor-in-memory, adalah teknik yang terbukti dan telah diadopsi oleh akselerator AI komersial dari Mythic, Syntiant, Gyrfalcon, dan lainnya. Ini menghilangkan perpindahan data yang mahal antara memori dan prosesor dengan melakukan operasi multiply-accumulate secara langsung dalam array memori.
Setiap sel memristor diprogram ke konduktansi analog yang proporsional dengan bobot jaringan saraf. Tegangan yang proporsional dengan aktivasi input mendorong sel, dan arus yang dihasilkan mewakili hasil perkalian aktivasi dan bobot. Jumlah arus pada setiap bit-line menghasilkan perkalian matriks-vektor yang diperlukan oleh jaringan saraf, yang kemudian dapat dibaca melalui konverter analog-ke-digital.
"Dalam praktiknya, kita dapat menggunakan ReRAM, MRAM, Flash, atau DRAM—tujuan kami adalah mengidentifikasi opsi terbaik untuk setiap aplikasi dan menyesuaikan teknologi," kata Diederik Verkest, direktur program pembelajaran mesin di Imec.
Chip Uji AnIA Imec
Dibangun pada GlobalFoundries 22 nm FD-SOI, AnIA menampilkan array SRAM 512k-sel, 1024 DAC, dan 512 ADC di seluruh 4 mm². Ia dapat melakukan sekitar 500.000 komputasi per siklus dengan aktivasi 6-bit (plus sign bit), bobot ternary, dan output 6-bit.
"Kami dapat menyampaikan hasil perkalian matriks-vektor pada beberapa tegangan pasokan—0,8 V dan 0,6 V—tanpa mengorbankan akurasi. Tegangan lebih rendah secara dramatis mengurangi konsumsi daya, yang kritis untuk inferensi hemat energi di tepi jaringan," jelas Ioannis Papistas dari kelompok pembelajaran mesin Imec.
Pada tugas pengenalan objek CIFAR-10, akurasi AnIA turun hanya satu persen dibandingkan baseline yang sama dikuantisasi. Pada 0,8 V, chip mencapai 1.050–1.500 TOPS/W untuk 23,5 TOPS; pada 0,6 V, ia mencapai 5,8 TOPS dan 1.800–2.900 TOPS/W.
Perbandingan efisiensi energi: AnIA Imec vs. akselerator AI lain (klik untuk memperbesar) (Gambar: Imec)
Dari Laboratorium ke Produksi Massal
“Inovasi ini dipredestinasi untuk adopsi mainstream,” kata Hiren Majmudar, VP dan GM unit bisnis komputasi GlobalFoundries. “Kami melihat mitra sudah dalam fase pasca-produksi dengan silikon yang divalidasi. Kami mengantisipasi silikon komputasi analog akan mencapai produksi akhir tahun atau awal tahun depan, dan muncul di pasar massal paling lambat 2022—potensial lebih cepat.”
GlobalFoundries mengintegrasikan teknologi AiMC Imec ke dalam platform 22FDX-nya, mengaktifkan akselerator AI ultra-rendah daya. Proses FD-SOI mendukung operasi hingga 0,5 V dengan standby leakage 1 pA/µm. Fitur 22FDX+AiMC saat ini dalam pengembangan pada garis 300 mm di Fab 1 di Dresden, Jerman.
Program pembelajaran mesin Imec akan mendorong ke 10.000 TOPS/W (10 TOPS di bawah 100 mW) untuk sensor pintar dan wearable selalu aktif. Pekerjaan mendatang akan difokuskan pada penyusutan sel komputasi dan eksplorasi perangkat memori emerging sebagai platform generasi berikutnya.
>> Artikel ini awalnya diterbitkan di situs saudara kami, EE Times.
