Tren Terus Mendorong Pemrosesan ke Edge untuk AI

Pengambilan utama dari artikel ini meliputi hal berikut:

• Proliferasi perangkat dan volume data sekarang mendukung model komputasi terdistribusi karena alasan kecepatan, kinerja, dan keamanan data
• Pergerakan vendor terbaru oleh NVIDIA dan VMware memberikan dukungan untuk pemrosesan data intensif, seperti AI dan pembelajaran mesin, di edge.
• Banyak proses dan industri akan mendapat manfaat dari mendorong pemrosesan ke ujung tombak, termasuk IoT Industri dan IoT berbasis konsumen.

Seiring berkembang biaknya perangkat yang terhubung, cara pemrosesan baru telah muncul untuk mengakomodasi ledakan perangkat dan data.

Selama bertahun-tahun, organisasi telah beralih ke arsitektur pemrosesan off-site terpusat di cloud dan menjauh dari pusat data lokal. Komputasi awan memungkinkan perusahaan rintisan untuk berinovasi dan memperluas bisnis mereka tanpa memerlukan pengeluaran modal yang besar untuk infrastruktur pusat data atau biaya berkelanjutan untuk manajemen TI. Ini memungkinkan organisasi besar untuk menskalakan dengan cepat dan tetap gesit dengan menggunakan sumber daya sesuai permintaan.

Namun saat perusahaan bergerak ke arah model yang lebih jauh, komunikasi video-intensif, dan proses lainnya, mereka membutuhkan arsitektur komputasi tepi untuk mengakomodasi tugas pembobolan data.

Proses intensif data ini perlu terjadi dalam sepersekian detik:Pikirkan mobil yang dapat mengemudi sendiri, streaming video, atau pelacakan truk pengiriman secara real time di rute mereka. Mengirim data dalam perjalanan pulang pergi ke cloud dan kembali ke perangkat membutuhkan terlalu banyak waktu. Itu juga dapat menambah biaya dan membahayakan data saat transit.

“Pelanggan menyadari bahwa mereka tidak ingin meneruskan banyak pemrosesan ke cloud, jadi mereka berpikir bahwa edge adalah target sebenarnya,” menurut Markus Levy, kepala teknologi AI di NXP Semiconductors, dalam sebuah artikel di munculnya AI yang disematkan.

Dalam beberapa tahun terakhir, arsitektur edge computing telah bergerak ke depan, untuk mengakomodasi proliferasi data dan perangkat serta kecepatan pergerakan data ini.

Pasar komputasi edge diperkirakan akan tumbuh dari $3,6 miliar pada tahun 2020 menjadi $15,7 miliar pada tahun 2025, menurut data MarketsandMarkets.

Pergerakan Pasar Terus Mendorong Pemrosesan ke Edge:NVIDIA

Langkah terbaru NVIDIA, raksasa di pasar unit pemrosesan grafis (GPU), dan VMware, vendor virtualisasi, mendukung arsitektur pemrosesan terdistribusi baru ini dan dengan jelas membuka jalan untuk pemrosesan secepat kilat di edge.

Pertama, pada bulan September, misalnya, NVIDIA mengumumkan niatnya untuk membayar $40 miliar untuk Arm — sebagian untuk terus mendorong AI lebih dekat ke tepi. Sementara NVIDIA mendominasi di pusat data dengan GPU-nya, Arm memiliki kekuatan di pasar seluler, memasok chip ke Apple, Qualcomm, dan lainnya.

“Jika Anda yakin masa depan adalah AI, dan Anda yakin itu didukung oleh GPU dan CPU, maka kemampuan NVIDIA untuk membuat sistem end-to-end ini baru saja meningkat,” kata Zeus Kerravala, dalam sebuah wawancara video di NVIDIA. -Kesepakatan lengan dan prospek AI di ujung tanduk. “Khususnya di pasar komputasi tepi — [NVIDIA] akan mengatasi semua itu.”

Ada kekhawatiran peraturan tentang kesepakatan NVIDIA-Arm, termasuk apakah itu dapat membahayakan bisnis lisensi Arm yang sukses. Arm memiliki ratusan lisensi dengan mitranya — yang, selain pesaing AMD dan Intel — termasuk raksasa seperti Apple, Qualcomm, dan Broadcom. Ada juga kekhawatiran antimonopoli yang serius tentang kontrol baru NVIDIA atas pasar CPU seluler.

SmartNIC:Memindahkan Pemrosesan ke Ujung Bawah

Kedua, pada konferensi virtual VMworld 2020 pada akhir September, VMware mengumumkan Project Monterey untuk memberikan peningkatan kinerja AI dengan teknologi SmartNIC (atau kartu antarmuka jaringan pintar) dan unit pemrosesan data (DPU) NVIDIA. Project Monterey melibatkan kemitraan dengan beberapa perusahaan, termasuk NVIDIA, untuk meningkatkan infrastruktur guna mendukung aplikasi AI di edge.

Monterey memindahkan tugas hypervisor, jaringan, keamanan, dan penyimpanan dari CPU host ke DPU BlueField NVIDIA. Memindahkan pemrosesan ini ke DPU dan SmartNics dapat meneruskan AI, pembelajaran mesin, dan aplikasi pusat data lainnya.

SmartNIC menjalankan tugas non-aplikasi dari CPU server, sehingga server dapat menjalankan lebih banyak aplikasi dengan lebih cepat.

“Ada gelombang minat umum untuk memindahkan komputasi lebih dekat ke data,” kata Alexander Harrowell, analis senior di Omdia.

“Ini memindahkan abstraksi hypervisor turun dari host ke jaringan … dan memindahkan beberapa pekerjaan yang dilakukan hypervisor itu sendiri ke dalam kartu itu,” kata Harrowell. “Itu membuat lebih banyak kekuatan pemrosesan yang Anda bayarkan tersedia. Jadi ada cerita di sini tentang pergeseran dari model klasik Intel x86 ke apa yang disebut Model Komputasi Harvard.”

Tren menuju komputasi terdistribusi ini, menurut Harrowell, akan terus berlanjut dan memungkinkan pemrosesan yang lebih kompleks, seperti pemrosesan AI.

“Dengan membongkar banyak pekerjaan I/O itu ke inti Arm dan memanfaatkan pembongkaran perangkat keras di SmartNIC tersebut,” kata Greg Lavender, wakil presiden senior dan chief technology officer di VMware, “Anda dapat membongkar pemrosesan itu dan bahkan membebaskan sebanyak 30% dari CPU … dan mengembalikannya ke aplikasi sehingga [itu]  mendapatkan manfaat dari sumber daya komputasi dan memori ekstra tersebut.

Untuk pasar barang yang terhubung, memindahkan pemrosesan ke bawah tumpukan dan ke dalam arsitektur edge terdistribusi ini akan menjadi keuntungan besar bagi proses intensif data yang membutuhkan waktu respons cepat.

“Sekarang Anda dapat melakukan AI di ujung tombak, Anda dapat mengubah IoT menjadi sesuatu dengan kemampuan nyata,” kata Levy dari NXP.

>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>

Untuk liputan lebih lanjut tentang IoT Industri, ambil bagian dalam Dunia IoT Industri pada bulan Desember ini.