Edge AI: Mengapa Pemrosesan Bergeser ke Lapisan Perangkat
Poin utama:
- Peningkatan cepat perangkat terhubung dan volume data telah membuat komputasi terdistribusi menjadi tidak terelakkan bagi kecepatan, kinerja, dan keamanan data.
- Langkah strategis dari NVIDIA dan VMware kini memungkinkan beban kerja AI dan machine learning yang intensif data untuk berjalan langsung di edge.
- Pemrosesan edge menawarkan manfaat nyata di berbagai industri—dari IoT industri hingga aplikasi konsumen.
Dengan miliaran sensor dan perangkat cerdas di seluruh dunia, arsitektur cloud terpusat tradisional mencapai batasnya. Meskipun komputasi cloud telah merevolusi kelincahan startup dan skalabilitas perusahaan, beban kerja yang muncul—seperti video high-definition, kendaraan otonom, dan logistik real-time—membutuhkan latensi di bawah detik dan pengolahan data on-premises yang aman.
“Pelanggan menyadari bahwa melemparkan terlalu banyak pemrosesan ke cloud tidak lagi viable,” kata Markus Levy, kepala teknologi AI di NXP Semiconductors, dalam diskusi terbaru tentang embedded AI. “Edge adalah di mana peluang nyata berada.”
Data pasar dari MarketsandMarkets meramalkan pasar edge-computing akan tumbuh dari 3,6 miliar dolar pada 2020 menjadi 15,7 miliar dolar pada 2025—ekspansi lebih dari empat kali lipat yang didorong oleh kebutuhan akan pemrosesan bandwidth tinggi dan latensi rendah.
Gerakan Pasar Mempercepat Adopsi Edge: NVIDIA
Akuisisi NVIDIA sebesar 40 miliar dolar terhadap Arm pada September 2020 adalah langkah bersejarah menuju membawa AI yang dipercepat GPU lebih dekat ke perangkat. Meskipun NVIDIA lama mendominasi GPU data-center, dominasi Arm dalam prosesor mobile—yang disuplai kepada Apple, Qualcomm, Broadcom, dan lainnya—menyediakan platform yang kuat untuk edge AI.
Zeus Kerravala, analis dari sebuah perusahaan riset industri, menyatakan, “Jika Anda melihat AI sebagai masa depan, yang didorong oleh GPU dan CPU, kemampuan NVIDIA untuk membangun sistem end-to-end telah melonjak—terutama dalam arena edge computing.”
Regulator memantau perjanjian ini secara ketat untuk dampak antitrust potensial, mengingat jaringan lisensi yang luas Arm dan pengaruh NVIDIA yang tumbuh dalam pasar CPU mobile.
SmartNICs: Memindahkan Kecerdasan ke Edge
Pada VMworld 2020, VMware meluncurkan Project Monterey—kolaborasi dengan NVIDIA yang memanfaatkan SmartNICs dan BlueField DPU NVIDIA untuk mempercepat beban kerja AI di edge. Dengan melemparkan fungsi hypervisor, jaringan, keamanan, dan penyimpanan dari CPU host ke DPU, Monterey membebaskan hingga 30 persen siklus CPU untuk logika aplikasi.
Alexander Harrowell, analis senior di Omdia, mengamati, “Trennya jelas: memindahkan komputasi lebih dekat data meningkatkan kinerja dan pemanfaatan sumber daya. SmartNICs memindahkan tanggung jawab hypervisor ke jaringan, membuka model komputasi gaya Harvard.”
Greg Lavender, senior VP dan CTO VMware, menjelaskan, “Melemparkan I/O dan komputasi ke inti Arm dalam SmartNICs membebaskan sumber daya CPU, memberikan aplikasi komputasi dan memori tambahan untuk beroperasi lebih cepat.”
Untuk ekosistem perangkat terhubung, pergeseran ini memungkinkan AI real-time—mengubah perangkat IoT pasif menjadi sistem yang cerdas dan responsif, seperti yang ditekankan Levy.
Untuk cakupan lebih lanjut tentang IoT Industri, bergabunglah di Industrial IoT World bulan Desember ini.
