Platform AI Edge mengalahkan GPU/CPU dalam hal kinerja dan efisiensi
Menawarkan apa yang disebutnya sebagai terobosan dalam perangkat keras dan perangkat lunak komputasi kecerdasan buatan (AI) untuk aplikasi edge AI dan mengatasi keterbatasan GPU/CPU lama, Blaize telah mengumumkan platform tertanam dan akselerator baru, Pathfinder dan Xplorer yang memungkinkan pengembangan AI edge 'bebas kode' .
Platform dibangun di atas arsitektur prosesor streaming grafik (GSP) Blaize. Menurut perusahaan, dengan 16 core GSP dan 16TOPS kinerja inferensi AI dalam amplop daya 7W, GSP dapat memberikan efisiensi tingkat sistem hingga 60x lebih baik dibandingkan dengan GPU/CPU untuk aplikasi edge AI. Ini juga memungkinkan bandwidth memori 50x lebih sedikit, dan latensi 10x lebih rendah. Blaize GSP adalah prosesor yang 100% dapat diprogram dan menampilkan kemampuan canggih seperti multi-threading dan streaming.
Blaize mengatakan pelanggan akses awal untuk Pathfinder dan Xplorer mencari penyebaran produksi dari kasus penggunaan visi cerdas AI edge real-time yang sebelumnya tidak mungkin di seluruh aplikasi industri, automobilitas, ritel cerdas, metro, dan pabrik. Co-founder dan CEO perusahaan, Dinakar Munagala, mengatakan, “Solusi edge saat ini terlalu kecil untuk menghitung beban atau terlalu mahal dan terlalu sulit untuk diproduksi. Produk komputasi edge AI Blaize mengatasi keterbatasan daya, kompleksitas, dan biaya ini untuk melepaskan adopsi AI di edge, memfasilitasi migrasi komputasi AI dari pusat data ke edge.” Pasar Edge AI diperkirakan akan tumbuh pesat karena fungsionalitas AI menjadi persyaratan bagi banyak produk baru. Omdia Research memproyeksikan pendapatan chipset AI akan mencapai $51 miliar pada tahun 2025.
Dua produk baru dari Blaize adalah Pathfinder P1600, sebuah embedded system on module (SOM), dan platform akselerator Xplorer. Blaize mengatakan P1600 membawa manfaat programabilitas dan efisiensi dari GSP ke aplikasi AI tepi tertanam yang digunakan di tepi sensor, atau di tepi jaringan. Tidak ada prosesor host yang diperlukan untuk P1600, jadi ini hanya kasus 'pasang dan pakai'.
Platform Xplorer mempercepat aplikasi AI di tepi perusahaan melalui plug-in ke slot PCIe di server atau alat host. X1600E adalah platform akselerator faktor bentuk kecil untuk lingkungan kecil dan terbatas daya seperti toko serba ada atau lokasi industri. Itu dapat dengan mudah ditambahkan untuk mempercepat aplikasi AI di PC industri atau sebagai rak kartu di server 1U kecil. Atau, ada X1600P, yang merupakan akselerator standar berbasis PCIe dalam faktor bentuk setengah tinggi setengah lebar. X1600P dapat menggantikan GPU desktop yang haus daya di server edge dan memberikan kinerja inferensi AI di mana saja dari 16-64TOPS dalam amplop daya yang sangat rendah.
Rangkaian perangkat lunak Blaize AI dibangun di atas standar terbuka dengan kemudahan aksesibilitas, yang berarti pengembang produk tidak terkunci pada lingkungan pengembangan eksklusif. Terdiri dari kit pengembangan perangkat lunak (SDK) Picasso dan AI Studio, antarmuka visual yang sepenuhnya bebas kode, rangkaian perangkat lunak ini menawarkan alat untuk pengembang tradisional dan pakar domain non-pembuat kode. Selain itu, kedua set alat ini menggunakan Blaize Netdeploy, sistem Blaize dengan algoritme berbasis edge untuk mendapatkan akurasi dan kinerja terbaik untuk penerapan edge.
Bukti pelanggan konsep
Blaize mengatakan memiliki sejumlah pelanggan proof of concept (POC) yang menggunakan sistemnya untuk mengaktifkan AI di edge. Aplikasinya ada di:
Industri:menjalankan lima jaringan saraf independen pada 50FPS dengan latensi agregat kurang dari 100 md yang memantau deteksi dan posisi pose manusia dan robot, ID dan jumlah produk, serta kualitas produk.
Smart City:tiga jaringan saraf independen yang berjalan pada 50FPS memantau deteksi manusia, pose, posisi, deteksi otomatis, serta keselamatan dan keamanan persimpangan lalu lintas.
Penggabungan sensor:video FHD resolusi tinggi dan perpaduan sensor lidar/radar yang berjalan sebagai aplikasi grafik lengkap di Blaize GSP.
Pengiriman terakhir:perpaduan sensor kamera HD pada 30FPS &lidar/radar dengan latensi kurang dari 100 md dan daya kurang dari 15W.
Ritel:empat jaringan saraf independen yang berjalan pada 50FPS memantau deteksi manusia, posisi, topeng, dan pencurian untuk keselamatan dan keamanan toko, serta deteksi produk.
Sampel pelanggan dari kedua lini produk tersedia sekarang dengan produksi penuh diharapkan mulai tahun ini. Blaize Xplorer X1600E tersedia seharga $299 dalam jumlah volume, Pathfinder P1600 SOM tersedia dalam kelas industri seharga $399 dalam jumlah volume, dan Xplorer X1600P tersedia seharga $999 dalam jumlah volume.
