Arsitektur chip AI menargetkan pemrosesan grafik

TOKYO — Perancang prosesor AI Blaize, sebelumnya dikenal sebagai ThinCI (diucapkan “Think-Eye”), mengungkapkan Graph Streaming Processor (GSP) yang sepenuhnya dapat diprogram akan masuk ke produksi volume pada kuartal kedua tahun 2020.

Sementara startup berusia enam tahun ini tidak peduli dengan spesifikasi produknya — seperti tingkat daya dan hasil benchmarking — chip ujinya, yang diluncurkan pada pertengahan 2018 dan ditempatkan di kotak berbasis Linux, telah terlibat dalam 16 program percontohan di seluruh dunia. selama setahun, kata salah satu pendiri dan CEO Blaize Dinakar Munagala.

Blaize menjelaskan GSP-nya mampu melakukan "pemrosesan grafik langsung, manajemen dan eksekusi grafik tugas on-chip, dan paralelisme tugas." Singkatnya, Blaize merancang GSP untuk memenuhi kebutuhan pemrosesan AI yang sebelumnya tidak dapat dipenuhi oleh GPU, CPU, atau DSP.

Bagi banyak analis industri yang meliput prosesor AI, ini adalah nada yang pernah mereka dengar sebelumnya.

Kevin Krewell, analis utama di Tirias Research, mengatakan, “Saya tahu sedikit tentang ThinCI, tetapi tidak pernah menguasai arsitektur. Saya senang mereka mengubah namanya.”

Kelangkaan detail teknis pada arsitektur GSP dalam presentasi slidenya membuat frustrasi dan skeptisisme di komunitas analis teknologi. Namun, Munagala menjanjikan rilis informasi pada kuartal pertama tahun 2020.

Diagram blok tingkat tinggi dari arsitektur GSP

Arsitektur GSP terdiri dari serangkaian prosesor pengaliran grafik, prosesor matematika khusus, kontrol perangkat keras, dan berbagai jenis cache data. Perusahaan mengklaim bahwa GSP dapat menawarkan:"Paralelisme tingkat tugas yang sebenarnya, penggunaan memori off-chip yang minimal, penjadwalan grafik perangkat keras yang mengutamakan kedalaman, arsitektur yang dapat diprogram sepenuhnya." Klik di sini untuk gambar yang lebih besar (Sumber:Blaize)

Mendapatkan daftar vendor yang memenuhi syarat

Kabar baik bagi Blaize di benak Munagala adalah banyaknya pelanggan awal yang sudah menggunakan GSP-nya. Selama setahun, Blaize telah mengirimkan unit desktop dengan GSP. Itu dapat dengan mudah dicolokkan ke soket listrik dan terhubung ke Ethernet. Ilmuwan data, pengembang perangkat lunak dan perangkat keras sudah mengevaluasi fungsi tingkat sistem yang diaktifkan oleh GSP, kata Munagala.

Blaize, dengan pendanaan $87 juta, didukung oleh investor dan mitra awal termasuk Denso, perusahaan tingkat satu Jepang, Daimler dan Magna. “Kami juga memperoleh pendapatan dari segmen otomotif sejak beberapa tahun lalu,” kata Munagala.

Dengan chip yang sudah ada di tangan, banyak startup menghadapi pertanyaan “Apa yang harus kita lakukan sekarang?” dilema. Richard Terrill, wakil presiden dan pengembangan bisnis strategis di Blaize, mengatakan kepada EE Times, “Kami telah melewati tahap itu setahun yang lalu.”

Blaize telah mengalihkan fokusnya untuk membangun infrastrukturnya dengan meningkatkan tim teknik (sekarang berjumlah 325 orang) yang membentang ke California, India, dan Inggris. Blaize pindah ke fasilitas baru dan mulai merekrut insinyur aplikasi lapangan di Jepang dan EMEA . “Kami menjaga momentum kami terus berjalan,” kata Munagala.

Bagi Blaize, bisnis GSP-nya bukan lagi tentang bersaing dengan startup pesaing dalam hal spesifikasi dalam presentasi power point. Ini tentang mencari tahu bagaimana pelanggan akan menggunakan GSP untuk aplikasi mana — dan berapa banyak daya yang dikonsumsi “pada tingkat sistem” dalam penggunaan tertentu.

Blaize sibuk menyiapkan logistiknya, mendapatkan produknya yang memenuhi syarat untuk otomotif, dan memastikan proses dan dokumentasi internal disertifikasi. “Kami sudah melalui proses audit dan kami berada di daftar vendor yang disetujui dan memenuhi syarat” dari salah satu klien otomotif, kata Munagala. Ini adalah proses yang sangat dibutuhkan yang diterapkan oleh pembuat mobil dan perusahaan tingkat, yang lebih memilih untuk menghindari perusahaan rintisan yang mungkin tidak bertahan cukup lama untuk menghasilkan produk.

Blaize mempekerjakan sekitar 30 insinyur di Inggris (di Kings Langley dan Leeds), ditugaskan untuk bekerja pada pengembangan produk otomotif. Mereka adalah tim insinyur yang terikat erat yang dilepaskan ketika Imajinasi melepaskan MIPS. “Ini adalah sekelompok individu berkualifikasi tinggi yang bekerja sama di MIPS untuk mendapatkan ASIC berbasis MIPS yang memenuhi syarat otomotif untuk Mobileye,” jelas Munagala.

Komputasi grafik

Meskipun AI hadir dalam berbagai jenis jaringan saraf, “semua jaringan saraf berbasis grafik,” jelas Munagala. Secara teori, ini memungkinkan pengembang untuk memanfaatkan struktur asli grafik untuk membangun beberapa jaringan saraf dan seluruh alur kerja pada satu arsitektur. Oleh karena itu, promosi pemasaran baru perusahaan untuk GSP-nya adalah “100 persen asli grafik”.

Namun, Blaize bukanlah unicorn di dunia komputasi grafik. Graphcore, Mythic, dan Wave Computing yang sekarang gagal semuanya berbicara tentang "pengoptimalan dan kompilasi grafik aliran data" dalam pemrosesan AI.

Terrill berkata, “Tentu saja, komputasi grafik memiliki sejarah lebih dari 60 tahun.”

Blaize GSP mengklaim perbedaan dari pengolah aliran data berbasis grafik lainnya di tiga area, kata Munagala. Pertama, “GSP kami sepenuhnya dapat diprogram”, mampu melakukan “berbagai tugas”, katanya.

Kedua, ini “dapat diprogram ulang secara dinamis… pada satu siklus clock.”

Ketiga, “Kami menawarkan integrasi streaming,” yang memungkinkan untuk meminimalkan latensi. Pengganda efisiensi besar-besaran disampaikan melalui “mekanisme streaming data”, di mana pergerakan data non-komputasi diminimalkan atau dihilangkan, jelasnya.

Pemrosesan eksekusi berurutan

Klik di sini untuk gambar yang lebih besar (Sumber:Blaize)

Sifat asli grafik dari arsitektur GSP dapat meminimalkan pergerakan data bolak-balik ke DRAM eksternal. Hanya input pertama dan output akhir yang diperlukan secara eksternal, sementara yang lainnya di tengah hanyalah data perantara sementara. Ini menghasilkan pengurangan bandwidth memori dan konsumsi daya secara besar-besaran.

Klik di sini untuk gambar yang lebih besar (Sumber:Blaize)

Sasaran yang dinyatakan untuk sistem Blaize adalah “latensi serendah mungkin, pengurangan kebutuhan memori, dan permintaan energi pada level chip, board, dan sistem”.

Ditanya apakah desain grafik-komputasi Blaize akan dapat dipertahankan patennya, Mungala berkata, “Kami merasa yakin dengan portofolio paten kami. Kami memiliki banyak paten — beberapa telah diberikan dan yang lain diterapkan, tetapi kami telah melakukan ini selama beberapa tahun.”