Modul akselerasi AI baru meningkatkan kinerja edge
Pembuat chip kecerdasan buatan (AI) Hailo telah meluncurkan modul akselerasi AI kinerja tinggi M.2 dan Mini PCIe untuk memberdayakan perangkat edge. Berdasarkan prosesor Hailo-8, modul dapat dicolokkan ke berbagai perangkat canggih, memungkinkan kemampuan AI untuk diterapkan di kota pintar, ritel pintar, industri 4.0, dan rumah pintar.
Modul ini memungkinkan pelanggan untuk mengintegrasikan kemampuan AI berkinerja tinggi ke perangkat edge, memberikan solusi yang dioptimalkan untuk mempercepat berbagai aplikasi berbasis pembelajaran mendalam dengan efisiensi tinggi – mengoptimalkan waktu ke pasar dengan faktor bentuk standar.
Modul akselerasi AI Hailo terintegrasi dengan mulus ke dalam kerangka kerja standar, seperti TensorFlow dan ONNX, yang keduanya didukung oleh compiler dataflow Hailo. Pelanggan dapat dengan cepat mem-porting jaringan saraf (NN) mereka ke dalam prosesor Hailo-8.
Solusi plug-in datang pada saat industri semakin memanfaatkan perangkat canggih yang berkinerja tinggi dan hemat biaya. Misalnya, edge box AI tanpa kipas sangat diminati karena memungkinkan banyak kamera atau sensor dihubungkan ke satu perangkat pemrosesan cerdas dalam penerapan di luar ruangan. Modul Hailo – dengan prosesor AI Hailo-8 yang menghadirkan 26 Tera-Operations Per Second (TOPS) dan efisiensi daya 3 TOPS/W – dapat dicolokkan ke perangkat edge mana pun yang ada dengan soket M.2 atau Mini PCIe yang sesuai, memberikan kinerja sekaligus mengurangi latensi dan meningkatkan privasi.
Perbandingan antara Hailo-8 rata-rata frame per detik (FPS) dengan pesaing di beberapa standar NN benchmark (berdasarkan angka terbaru yang diterbitkan) menunjukkan bahwa modul AI Hailo mencapai tingkat FPS 26x lebih tinggi dari modul Intel Myriad-X dan 13x lebih tinggi dari Modul TPU edge Google.
Menurut Orr Danon, CEO Hailo, “Produsen di seluruh industri memahami betapa pentingnya mengintegrasikan kemampuan AI ke perangkat edge mereka. Sederhananya, solusi tanpa AI tidak bisa lagi bersaing. Modul Hailo-8 M.2 dan Mini PCIe kami yang baru akan memberdayakan perusahaan di seluruh dunia untuk menciptakan produk berbasis AI baru yang kuat, hemat biaya, dan inovatif dengan waktu pemasaran yang singkat – sambil tetap berada dalam batasan termal sistem. Efisiensi tinggi dan kinerja terbaik dari modul Hailo adalah gamechanger sejati untuk pasar edge.”
Modul Hailo-8 M.2 sudah terintegrasi ke generasi berikutnya dari BOXiedge Foxconn – miniserver 24-core yang hanya membutuhkan daya 30 watt untuk dijalankan – tanpa perlu mendesain ulang PCB. Solusi ini memberikan efisiensi energi yang baik untuk node inferensi AI mandiri, yang menguntungkan aplikasi termasuk kota pintar, ritel pintar, industri 4.0, dan medis pintar.
“Integrasi modul M.2 AI Hailo ke dalam BOXiedge kami merevolusi perangkat komputasi edge generasi berikutnya dan akan memungkinkan kami untuk terus mendukung misi kami menciptakan produk yang inovatif, efisien, dan kompetitif untuk industri elektronik,” kata Gene Liu, VP subgrup semikonduktor di Foxconn Technology Group. “Modul M.2 dan Mini PCIe Hailo, bersama dengan chip AI Hailo-8 berperforma tinggi, akan memungkinkan banyak industri yang berkembang pesat untuk mengadopsi teknologi canggih dalam waktu yang sangat singkat, mengantarkan generasi baru kinerja tinggi, daya rendah, dan solusi berbasis AI yang lebih cerdas.”
