Chip AI neuromorfik untuk debut jaringan saraf spiking
Innatera, perusahaan rintisan Belanda yang membuat akselerator AI neuromorfik untuk jaringan saraf spiking , telah memproduksi chip pertamanya, mengukur kinerjanya, dan mengungkapkan detail arsitekturnya.
Innatera, perusahaan rintisan Belanda yang membuat akselerator AI neuromorfik untuk spiking neural network, telah memproduksi chip pertamanya, mengukur kinerjanya, dan mengungkapkan detail arsitekturnya.
Perusahaan juga telah mengumumkan bahwa salah satu pendiri Cadence dan Synopsys Alberto Sangiovanni-Vincentelli telah bergabung dengan perusahaan sebagai ketua dewan direksi. Veteran industri saat ini adalah Profesor di University of California di Berkeley.
Chip Innatera dirancang untuk mempercepat berbagai SNN untuk aplikasi audio, kesehatan, dan radar (Gambar:Innatera)
Chip Innatera dirancang untuk mempercepat spiking neural networks (SNNs), sejenis algoritma AI neuromorfik berdasarkan biologi otak yang menggunakan waktu lonjakan sinyal listrik untuk melakukan tugas pengenalan pola. SNN benar-benar berbeda dalam struktur dari algoritme AI arus utama dan karenanya memerlukan perangkat keras khusus untuk akselerasi, tetapi SNN biasanya menawarkan konsumsi daya dan keuntungan latensi yang signifikan untuk aplikasi tepi sensor.
Sebagian besar perusahaan lain yang mengerjakan algoritme dan perangkat keras jaringan saraf tiruan (misalnya, Prophesee) menargetkan aliran gambar dan video. Innatera telah memutuskan untuk fokus pada audio (pengenalan suara dan ucapan), kesehatan (pemantauan tanda-tanda vital), dan radar (untuk kasus penggunaan konsumen/IoT seperti sensor jatuh orang tua yang menjaga privasi).
Marco Jacobs (Gambar:Innatera)
“Sensor ini memiliki data deret waktu, bukan gambar yang sangat paralel,” kata Marco Jacobs, VP pemasaran dan pengembangan bisnis Innatera, dalam sebuah wawancara dengan EE Times . “Array kami sangat bagus dalam memproses data deret waktu… ini adalah kesesuaian teknologi yang baik. Selain itu, dari perspektif pasar, kami melihat banyak aplikasi menarik di area ini dan tidak banyak solusi yang menanganinya.”
Hal lain yang dimiliki ketiga aplikasi ini adalah karena pemrosesan diperlukan di node sensor, amplop daya sangat ketat. Dalam pengujian Innatera, setiap peristiwa lonjakan (setiap neuron yang dipicu sebagai respons terhadap data input) membutuhkan energi kurang dari satu picoJoule — sebenarnya, kurang dari 200 femtoJoule dalam TSMC 28nm, Innatera mengkonfirmasi. Ini mendekati jumlah energi yang digunakan oleh neuron dan sinapsis biologis. Aplikasi pendeteksi kata kunci audio biasa yang diperlukan di bawah 500 peristiwa lonjakan per inferensi, menghasilkan "pemborosan daya sub-miliWatt yang dalam," menurut CEO Innatera, Sumeet Kumar. Dalam hal ini, kelompok neuron yang bekerja sama mewakili fonem yang berbeda dalam ucapan.
Kelompok neuron yang menyala (kelompok titik di sini) mewakili deteksi fonem dalam ucapan. Karena data input memasukkan lebih banyak noise, sebagian besar cluster yang sama ada, meskipun lebih sulit dikenali (Gambar:Innatera)
Arsitektur pemrosesan
Prosesor saraf spiking Innatera menggunakan larik paralel neuron spiking dan sinapsis untuk mempercepat SNN waktu kontinu dengan dinamika temporal berbutir halus. Perangkat ini adalah akselerator analog/sinyal campuran yang dirancang untuk memanfaatkan kemampuan SNN untuk menggabungkan gagasan waktu dalam cara data diproses.
Prosesor saraf spiking Innatera mencakup susunan neuro-sinaptik paralel masif dan encoder dan decoder spike (Gambar:Innatera)
Salah satu aspek kunci dari kain komputasi Innatera adalah kemampuan programnya, yang penting karena dua alasan.
Pertama, memprogram SNN yang berbeda ke dalam chip. Neuron perlu dihubungkan secara fleksibel – otak menggunakan topologi jaringan saraf yang sangat kompleks untuk melakukan berbagai hal secara efisien, yang memerlukan koneksi kompleks antar neuron, yang perlu dibuat ulang dalam silikon.
Sumeet Kumar (Gambar:Innatera)
Kedua, untuk mengoptimalkan kinerja. Alih-alih mewakili informasi sebagai bit dalam kata-kata, dalam informasi SNN direpresentasikan sebagai lonjakan waktu yang tepat. Waktu lonjakan perlu dimanipulasi pada tingkat yang sangat halus untuk mengekstrak wawasan tentang data. Oleh karena itu, neuron dan hubungan di antara mereka (sinapsis) perlu menunjukkan perilaku pengaturan waktu yang kompleks. Perilaku ini dapat disesuaikan melalui SDK Innatera untuk mengoptimalkan kinerja.
Innatera menggambarkan chipnya sebagai sinyal campuran analog atau "analog yang dibantu secara digital." Neuron dan sinapsis diimplementasikan dalam silikon analog untuk mempertahankan konsumsi daya yang sangat rendah. Elektronik analog juga memungkinkan jaringan waktu kontinu (elektronik digital akan memerlukan diskritisasi). Hal ini penting bagi SNN karena sifatnya yang berarti bahwa mereka secara inheren memiliki gagasan tentang waktu dan harus mampu mempertahankan status tertentu selama periode waktu tertentu.
“Melakukan ini jauh lebih mudah di dalam domain analog — Anda tidak perlu mengubah kerumitan menjaga status ke dalam topologi jaringan,” kata Kumar. “Elemen komputasi kami secara alami mempertahankan informasi status itu. Inilah alasan mengapa kami melakukan berbagai hal di domain analog.”
Segmen komputasi dalam larik Innatera, tempat neuron dirancang untuk dicocokkan dengan cermat. Sinapsis yang dapat diprogram diatur dalam struktur palang multi-level. (Garis/garis hitam di sini mewakili lonjakan input dan output) (Gambar:Innatera)
Inkonsistensi kecil dalam fabrikasi antara elemen komputasi pada chip, dan antara chip yang berbeda, dapat menjadi masalah untuk mengimplementasikan jaringan saraf secara akurat dalam domain analog. Solusi Innatera adalah mengelompokkan neuron ke dalam apa yang disebut segmen, yang dirancang dengan cermat agar sesuai dengan panjang jalur dan jumlah neuron.
Desain segmen “pada dasarnya memungkinkan kami untuk menggunakan sirkuit analog terbaik sambil meminimalkan ketidakidealan yang biasanya Anda miliki di sirkuit analog,” kata Kumar. “Semua ini pada dasarnya dilakukan untuk memastikan bahwa neuron di dalam segmen menunjukkan perilaku deterministik dan berfungsi dengan cara yang mirip dengan tetangga terdekatnya.”
Inkonsistensi antara chip yang berbeda dapat menyebabkan masalah ketika jaringan terlatih yang sama diluncurkan ke perangkat di lapangan. Innatera menyiasatinya dengan perangkat lunak.
“Ketidakcocokan dan variabilitas ditangani jauh di dalam SDK,” kata Kumar. “Jika Anda adalah pengguna yang kuat, kami dapat mengekspos sebagiannya kepada Anda, tetapi seorang programmer biasa tidak perlu repot tentang itu.”
Khusus aplikasi
Innatera, spin-out dari Delft University of Technology, sudah bekerja dengan pelanggan pendapatan pada algoritme SNN-nya sebelum pindah ke perangkat keras dan mengumpulkan putaran benih sebesar €5 juta (sekitar $6 juta) menjelang akhir tahun 2020.
“Kami telah bekerja dengan sejumlah pelanggan sejak saat kami benar-benar memulai perusahaan, dan keterlibatan ini masih berlangsung — mereka telah berkembang sangat signifikan,” kata Kumar. “Kami berharap dapat menunjukkan lebih banyak demonstrasi bersama dengan beberapa pelanggan ini di akhir tahun ini.”
Kumar mengatakan perusahaan mempertahankan fokusnya sebagai perusahaan solusi komputasi, yaitu, mereka akan menyediakan solusi siap pakai yang mencakup baik perangkat keras maupun algoritme SNN khusus aplikasi.
Chip pertama Innatera cocok untuk aplikasi audio, kesehatan, dan radar. Peta jalan perusahaan dapat mencakup chip yang dioptimalkan lebih lanjut untuk setiap aplikasi.
“Kami merancang perangkat sedemikian rupa sehingga kami dapat mempercepat berbagai jaringan saraf spiking,” kata Kumar. “[Chip kami] dapat mengimplementasikan jaringan ini di seluruh domain aplikasi. Tapi saat kita masuk lebih dalam ke domain, mungkin perlu untuk mengoptimalkan desain perangkat keras, dan ini adalah sesuatu yang akan kita lihat di masa depan. Saat ini perangkat keras tidak terlalu terspesialisasi terhadap kelas aplikasi tertentu atau gaya jaringan saraf spiking apa pun, tujuannya adalah untuk mendukung berbagai dari mereka secara umum di dalam arsitektur.”
Sampel chip awal akan tersedia sebelum akhir tahun 2021.
>> Artikel ini awalnya diterbitkan di situs saudara kami, EE Waktu.
Konten Terkait:
Chip AI menargetkan perangkat edge berdaya rendah
Rantai alat, papan sensor menyempurnakan ekosistem chip AI
Modul akselerasi AI baru meningkatkan performa edge
AI di ujung tombak:apa yang harus dicari pada tahun 2021
Cara menerapkan AI of Things (AIoT) di MCU
Untuk lebih banyak Tertanam, berlangganan buletin email mingguan Tertanam.
