Intel menawarkan chip neuromorfik dan kerangka kerja perangkat lunak Loihi 2
Intel telah meluncurkan chip komputasi neuromorfik generasi kedua, Loihi 2, chip pertama yang dibangun di atas teknologi proses Intel 4. Dirancang untuk penelitian jaringan saraf neuromorfik mutakhir, Loihi 2 menghadirkan berbagai peningkatan. Mereka menyertakan set instruksi baru untuk neuron yang menyediakan lebih banyak kemampuan untuk diprogram, memungkinkan lonjakan memiliki nilai bilangan bulat lebih dari 1 dan 0, dan kemampuan untuk menskalakan ke dalam jaringan chip tiga dimensi untuk sistem yang lebih besar.
Pembuat chip juga meluncurkan Lava, kerangka kerja perangkat lunak sumber terbuka untuk mengembangkan aplikasi yang terinspirasi dari saraf. Intel berharap dapat melibatkan para peneliti neuromorfik dalam pengembangan Lava, yang ketika aktif dan berjalan akan memungkinkan tim peneliti untuk membangun pekerjaan satu sama lain.
Loihi adalah versi Intel tentang perangkat keras neuromorfik yang dirancang untuk jaringan saraf spiking (SNN) yang terinspirasi otak. SNN digunakan dalam komputasi berbasis peristiwa, di mana waktu lonjakan input mengkodekan informasi. Secara umum, spike yang datang lebih cepat memiliki efek komputasi yang lebih besar daripada spike yang datang lebih lambat.
Prosesor neuromorfik generasi kedua Loihi 2 dari Intel. (Sumber:Intel)
Di antara perbedaan utama antara perangkat keras neuromorfik dan CPU standar adalah distribusi memori yang halus, yang berarti memori Loihi tertanam ke dalam inti individu. Karena spike Loihi bergantung pada waktu, arsitekturnya tidak sinkron.
“Dalam komputasi neuromorfik, komputasi muncul melalui interaksi antara elemen dinamis ini,” jelas Mike Davies, direktur Intel Neuromorphic Computing Lab. “Dalam hal ini, neuronlah yang memiliki properti dinamis untuk beradaptasi secara online dengan input yang diterimanya, dan pemrogram mungkin tidak mengetahui lintasan langkah yang tepat yang akan dilalui chip untuk sampai pada jawaban.
“Ia melewati proses dinamis mengatur diri sendiri negara dan menetap di beberapa kondisi baru. Titik tetap terakhir seperti yang kita sebut, atau keadaan ekuilibrium, adalah apa yang mengkodekan jawaban untuk masalah yang ingin Anda pecahkan, ”tambah Davies. “Jadi secara fundamental sangat berbeda dari cara kami berpikir tentang komputasi di arsitektur lain.”
Chip Loihi generasi pertama sejauh ini telah didemonstrasikan dalam berbagai aplikasi penelitian, termasuk kontrol lengan robot adaptif, di mana gerakan beradaptasi dengan perubahan dalam sistem, mengurangi gesekan dan keausan pada lengan. Loihi mampu menyesuaikan algoritme kontrolnya untuk mengkompensasi kesalahan atau perilaku yang tidak terduga, memungkinkan robot untuk beroperasi dengan akurasi yang diinginkan. Loihi juga telah digunakan dalam sistem yang mengenali bau yang berbeda. Dalam skenario ini, ia dapat mempelajari dan mendeteksi bau baru dengan jauh lebih efisien daripada yang setara dengan pembelajaran mendalam. Sebuah proyek dengan Deutsche Bahn juga menggunakan Loihi untuk penjadwalan kereta api. Sistem bereaksi cepat terhadap perubahan seperti penutupan rel atau kereta yang terhenti.
Fitur generasi kedua
Dibangun pada versi pra-produksi dari proses Intel 4, Loihi 2 bertujuan untuk meningkatkan kemampuan program dan kinerja tanpa mengorbankan efisiensi energi. Seperti pendahulunya, biasanya mengkonsumsi sekitar 100 mW (hingga 1 W).
Peningkatan kepadatan sumber daya adalah salah satu perubahan yang paling penting; sementara chip masih memiliki 128 inti, jumlah neuron melonjak delapan kali lipat.
“Mendapatkan jumlah penyimpanan, neuron, dan sinapsis yang lebih tinggi dalam satu chip sangat penting untuk kelangsungan komersial… dan mengkomersialkannya dengan cara yang masuk akal untuk aplikasi pelanggan,” kata Davies.
klik untuk gambar ukuran penuh Fitur Loihi 2. (Sumber:Intel)
Dengan Loihi 1, beban kerja sering kali dipetakan ke arsitektur dengan cara yang tidak optimal. Misalnya, jumlah neuron sering kali akan habis saat memori kosong masih tersedia. Jumlah memori di Loihi 2 serupa secara total, tetapi telah dipecah menjadi bank memori yang lebih fleksibel. Kompresi tambahan telah ditambahkan ke parameter jaringan untuk meminimalkan jumlah memori yang diperlukan untuk model yang lebih besar. Ini membebaskan memori yang dapat dialokasikan kembali untuk neuron.
Hasilnya adalah Loihi 2 dapat mengatasi masalah yang lebih besar dengan jumlah memori yang sama, memberikan peningkatan kira-kira 15 kali lipat dalam kapasitas jaringan saraf per milimeter
2
area chip–mengingat bahwa area die dibagi setengahnya secara keseluruhan oleh teknologi proses baru.
Kemampuan pemrograman neuron
Programabilitas adalah modifikasi arsitektur penting lainnya. Neuron yang sebelumnya berfungsi tetap, meskipun dapat dikonfigurasi, di Loihi 1 mendapatkan set instruksi lengkap di Loihi 2. Set instruksi mencakup aritmatika umum, perbandingan, dan instruksi aliran kontrol program. Tingkat kemampuan program tersebut akan memungkinkan berbagai jenis SNN dijalankan dengan lebih efisien.
“Ini adalah sejenis mikrokode yang memungkinkan kita memprogram model neuron yang hampir berubah-ubah,” kata Davies. “Ini mencakup batas Loihi [1], dan di mana secara umum kami menemukan lebih banyak nilai aplikasi yang dapat dibuka dengan model neuron yang lebih kompleks dan lebih kaya, yang tidak seperti yang kami harapkan di awal Loihi. Tetapi sekarang kami benar-benar dapat mencakup model neuron sepenuhnya yang coba diselidiki oleh mitra kami, dan apa yang diusulkan dan dicirikan oleh domain ilmu saraf komputasional.”
Loihi 2 die adalah yang pertama dibuat pada versi pra-produksi dari teknologi proses Intel 4. (Sumber:Intel)
Untuk Loihi 2, gagasan tentang paku juga telah digeneralisasi. Loihi 1 menggunakan paku biner yang ketat untuk mencerminkan apa yang terlihat dalam biologi, di mana paku tidak memiliki besaran. Semua informasi diwakili oleh waktu lonjakan, dan lonjakan sebelumnya akan memiliki efek komputasi yang lebih besar daripada lonjakan selanjutnya. Di Loihi 2, paku membawa muatan bilangan bulat yang dapat dikonfigurasi yang tersedia untuk model neuron yang dapat diprogram. Meskipun otak biologis tidak melakukan ini, Davies mengatakan Intel relatif mudah menambahkan arsitektur silikon tanpa mengurangi kinerja.
“Ini adalah contoh di mana kita menyimpang dari kesetiaan biologis yang ketat, khususnya karena kita memahami apa pentingnya, aspek pengkodean waktu itu,” katanya. “Tetapi [kami menyadari] bahwa kami dapat melakukan yang lebih baik, dan kami dapat memecahkan masalah yang sama dengan sumber daya yang lebih sedikit jika kami memiliki kekuatan ekstra yang dapat dikirimkan bersamaan dengan lonjakan ini.”
Pesan berbasis peristiwa yang digeneralisasi adalah kunci untuk dukungan Loihi 2 terhadap jaringan saraf dalam yang disebut jaringan saraf sigma-delta (SDNN), yang jauh lebih cepat daripada pendekatan waktu yang digunakan pada Loihi 1. SDNN menghitung nilai aktivasi bertingkat dengan cara yang sama yang dilakukan DNN konvensional, tetapi hanya mengomunikasikan perubahan signifikan saat terjadi secara jarang dan berdasarkan peristiwa.
Penskalaan 3D
Loihi 2 diklaim 10 kali lebih cepat dari pendahulunya di tingkat sirkuit. Dikombinasikan dengan peningkatan fungsional, desainnya dapat menghasilkan peningkatan kecepatan hingga 10X, klaim Davies. Loihi 2 mendukung langkah waktu minimum chip di bawah 200ns; itu juga dapat memproses jaringan neuromorfik hingga 5.000 kali lebih cepat daripada neuron biologis.
Chip baru ini juga dilengkapi port skalabilitas yang memungkinkan Intel menskalakan jaringan saraf ke dimensi ketiga. Tanpa memori eksternal untuk menjalankan jaringan saraf yang lebih besar, Loihi 1 memerlukan beberapa perangkat (seperti dalam sistem chip 768-Loihi Intel, Pohoiki Springs). Mesh planar chip Loihi 1 menjadi mesh 3D di Loihi 2. Sementara itu, bandwidth chip-ke-chip telah ditingkatkan dengan faktor empat, dengan kompresi dan protokol baru yang menyediakan sepersepuluh lalu lintas lonjakan redundan yang dikirim antar chip. Davies mengatakan peningkatan kapasitas gabungan sekitar 60 kali lipat untuk sebagian besar beban kerja, menghindari kemacetan yang disebabkan oleh tautan antar-chip.
Juga didukung adalah pembelajaran tiga faktor, yang populer dalam penelitian algoritma neuromorfik mutakhir. Modifikasi yang sama, yang memetakan faktor ketiga ke sinapsis tertentu, dapat digunakan untuk memperkirakan propagasi balik, metode pelatihan yang digunakan dalam pembelajaran mendalam. Itu menciptakan cara belajar baru melalui Loihi.
Loihi 2 akan tersedia bagi para peneliti sebagai papan chip tunggal untuk mengembangkan aplikasi edge (Oheo Gulch). Ini juga akan ditawarkan sebagai papan delapan chip yang dimaksudkan untuk skala untuk aplikasi yang lebih menuntut. (Sumber:Intel)
Lahar
Kerangka kerja perangkat lunak Lava melengkapi peningkatan Loihi. Proyek sumber terbuka tersedia untuk komunitas penelitian neuromorfik.
“Perangkat lunak terus menahan lapangan,” kata Davies. “Belum ada banyak kemajuan, tidak pada kecepatan yang sama dengan perangkat keras selama beberapa tahun terakhir. Dan belum ada satu pun kerangka perangkat lunak yang muncul, seperti yang telah kita lihat di dunia pembelajaran mendalam di mana TensorFlow dan PyTorch mengumpulkan momentum besar dan basis pengguna.”
Sementara Intel memiliki portofolio aplikasi yang didemonstrasikan untuk Loihi, berbagi kode di antara tim pengembangan terbatas. Hal itu mempersulit pengembang untuk mengembangkan kemajuan yang dibuat di tempat lain.
Dipromosikan sebagai proyek baru, bukan produk, Davies mengatakan Lava dimaksudkan sebagai cara untuk membangun kerangka kerja yang mendukung para peneliti Loihi mengerjakan berbagai algoritme. Sementara Lava ditujukan untuk pengiriman pesan asinkron berbasis peristiwa, itu juga akan mendukung eksekusi heterogen. Itu memungkinkan peneliti untuk mengembangkan aplikasi yang awalnya berjalan di CPU. Dengan akses ke perangkat keras Loihi, peneliti kemudian dapat memetakan bagian dari beban kerja ke chip neuromorfik. Harapannya adalah pendekatan itu akan membantu menurunkan hambatan masuk.
“Kami melihat perlunya konvergensi dan pengembangan komunal di sini menuju tujuan yang lebih besar yang akan diperlukan untuk mengkomersialkan teknologi neuromorfik,” kata Davies.
Loihi 2 akan digunakan oleh para peneliti yang mengembangkan algoritma neuromorfik canggih. Oheo Gulch, sistem chip tunggal untuk pengujian laboratorium, awalnya akan tersedia bagi para peneliti, diikuti oleh Kapoho Point, versi Loihi 2 delapan chip dari Kapoho Bay. Kapoho Point menyertakan antarmuka Ethernet yang dirancang untuk memungkinkan papan ditumpuk untuk aplikasi seperti robotika yang membutuhkan lebih banyak daya komputasi.
Lava tersedia untuk diunduh di GitHub.
>> Artikel ini awalnya diterbitkan di situs saudara kami, EE Waktu.
Konten Terkait:
Menjadikan chip neuromorfik untuk komputasi AI
Jaringan saraf spiking menargetkan chip Arm
Chip AI canggih untuk membangun teknologi memori yang sedang berkembang
Chip AI neuromorfik untuk debut jaringan saraf spiking
Teka-teki pembandingan komputasi neuromorfik
Untuk lebih banyak Tertanam, berlangganan buletin email mingguan Tersemat.
