Blaize Meluncurkan Graph Streaming Processor (GSP) untuk Beban Kerja AI

TOKYO — Perusahaan akselerator AI Blaize, sebelumnya ThinCI, mengumumkan bahwa Graph Streaming Processor (GSP) yang sepenuhnya dapat diprogramnya akan memasuki produksi volume pada Q2 2020.

Startup berusia enam tahun ini belum mengungkapkan spesifikasi detail, termasuk konsumsi daya dan data benchmark. Namun, chip uji coba-nya—yang dicetak pada pertengahan 2018 dan dijalankan dalam kotak berbasis Linux—telah digunakan dalam 16 proyek pilot di seluruh dunia selama satu tahun terakhir, kata CEO dan pendiri bersama Dinakar Munagala.

Blaize menggambarkan GSP sebagai eksekusi pemrosesan graf langsung, mengelola dan mengeksekusi graf tugas on-chip, dan memungkinkan paralelisme tingkat tugas. Intinya, GSP menangani beban kerja AI yang GPU, CPU, dan DSP kesulitan untuk melayani secara efisien.

Analis industri telah mencatat bahwa proposisi ini mencerminkan klaim yang familiar dari vendor processor AI lainnya.

Kevin Krewell, analis utama di Tirias Research, kata, "Saya sedikit tahu tentang ThinCI, tetapi tidak pernah mendapatkan presentasi arsitektur. Saya senang mereka mengubah nama meskipun."

Kurangnya detail teknis tentang arsitektur GSP dalam slide deck-nya telah memicu frustrasi dan skeptisisme di kalangan analis. Munagala, namun, menjanjikan rilis informasi yang komprehensif pada Q1 2020.

Masuk ke daftar vendor yang memenuhi syarat

Berita baik untuk Blaize, menurut Munagala, adalah bahwa roster adopter awal yang semakin besar sudah menggunakan GSP-nya. Durante setahun terakhir, Blaize telah mengirim unit desktop yang dilengkapi dengan GSP. Unit dapat dihubungkan ke stop kontak dan dihubungkan melalui Ethernet. Ilmuwan data, pengembang perangkat lunak, dan hardware sudah mengevaluasi fungsi tingkat sistem yang diaktifkan oleh GSP.

Blaize, dengan pendanaan $87 juta, didukung oleh investor awal dan mitra termasuk Denso, Daimler, dan Magna. "Kami juga telah menghasilkan pendapatan dari segmen otomotif selama beberapa tahun," ujar Munagala.

Dengan chip yang telah dicetak tangan, banyak startup menghadapi dilema "Apa yang harus kita lakukan sekarang?". Richard Terrill, vice president dan strategic business development di Blaize, kata kepada EE Times, "Kami sudah melewati tahap itu setahun yang lalu."

Blaize telah fokus pada memperluas infrastruktur-nya dengan memperkuat tim engineering yang kini beranggotakan 325 orang di California, India, dan Inggris. Ia pindah ke fasilitas baru dan mempekerjakan insinyur aplikasi lapangan di Jepang dan EMEA. "Kami mempertahankan momentum kami," ujar Munagala.

Blaize, bisnis GSP tidak lagi tentang berspesifikasi. Ini tentang memahami bagaimana pelanggan akan menggunakan GSP dalam aplikasi nyata dan mengukur konsumsi daya tingkat sistem dalam konteks tersebut.

Blaize telah sibuk menyelesaikan logistik, mendapatkan kualifikasi otomotif, dan memastikan proses dan dokumentasi internal memenuhi standar sertifikasi. "Kami sudah menyelesaikan proses audit dan berada dalam daftar vendor yang disetujui dan memenuhi syarat dari satu klien otomotif," ujar Munagala. Puncak ini kritis untuk pembuat mobil dan supplier tier-1 yang memilih mitra dengan keberlanjutan yang terbukti.

Blaize merekrut 30 insinyur di Inggris (di Kings Langley dan Leeds) untuk berfokus pada pengembangan produk otomotif. Tim ini, terdiri dari individu yang sangat terampil yang sebelumnya bekerja di MIPS pada ASIC berbasis MIPS untuk Mobileye, membawa keahlian domain yang dalam.

Komputasi Graf

Sementara AI mencakup banyak jenis jaringan saraf, "semua jaringan saraf berbasis graf," ujar Munagala. Teorinya, ini memungkinkan pengembang membangun beberapa jaringan saraf dan seluruh alur kerja pada satu arsitektur. Oleh karena itu, slogan pemasaran GSP: "100 persen native graf."

Blaize tidak sendirian dalam ruang komputasi graf. Pesaing seperti Graphcore, Mythic, dan Wave Computing yang baru-baru ini ditutup juga telah membahas pengoptimalan dan kompilasi alur data-graf untuk pemrosesan AI.

Terrill mencatat, "Komputasi graf memiliki sejarah lebih dari 60 tahun."

GSP Blaize membedakan diri dari processor alur data berbasis graf lainnya menurut Munagala dalam tiga cara. Pertama, GSP sepenuhnya dapat diprogram, mampu menangani berbagai macam tugas. Kedua, ia dapat diprogram ulang secara dinamis "pada satu siklus jam satu." Ketiga, ia mengintegrasikan streaming untuk meminimalkan latensi. Mekanisme streaming data mengurangi atau menghilangkan pergerakan data non-komputasi, memberikan pengali efisiensi yang signifikan.

Desain native graf dari arsitektur GSP meminimalkan pergerakan data ke DRAM eksternal. Hanya input awal dan output akhir yang memerlukan memori eksternal; data perantara tetap on-chip, mengurangi bandwidth memori dan penggunaan daya secara dramatis.

Tujuan yang dinyatakan untuk sistem Blaize adalah "latensi terendah yang mungkin, pengurangan kebutuhan memori, dan kebutuhan energi pada tingkat chip, papan, dan sistem."

Ditanya apakah desain komputasi graf Blaize dapat dipatenkan, Munagala menjawab, "Kami yakin dengan portofolipatent kami. Kami memiliki beberapa paten yang telah diberikan dan memiliki aplikasi tambahan yang masih tertunda, yang mencerminkan tahun penelitian yang terfokus."