AI di Edge Masih Sebagian Besar Konsumen, bukan Perusahaan, Pasar

Pengalaman berbasis data kaya, imersif, dan segera. Namun mereka juga merupakan data hog yang tidak toleran terhadap penundaan.

Pikirkan pengiriman pizza dengan drone, kamera video yang dapat merekam kecelakaan lalu lintas di persimpangan, truk barang yang dapat mengidentifikasi potensi kegagalan sistem.

Jenis aktivitas cepat seperti ini membutuhkan banyak data — dengan cepat. Jadi mereka tidak dapat mempertahankan latensi saat data berpindah ke dan dari cloud. Itu bolak-balik memakan waktu terlalu lama. Sebaliknya, banyak dari proses intensif data ini harus tetap dilokalkan dan diproses di edge dan di atau di dekat perangkat keras.

“Kendaraan otonom tidak dapat menunggu bahkan sepersepuluh detik untuk mengaktifkan pengereman darurat ketika algoritme AI [kecerdasan buatan] memprediksi tabrakan yang akan segera terjadi,” tulis profesor Universitas Northwestern Mohanbir Sawhney dalam “Mengapa Apple dan Microsoft Bergerak ke Tepi.” “Dalam situasi ini, AI harus ditempatkan di ujung tombak, di mana keputusan dapat dibuat lebih cepat tanpa bergantung pada konektivitas jaringan dan tanpa memindahkan sejumlah besar data bolak-balik melalui jaringan.”

“Prosesor tepi AI memungkinkan Anda melakukan pemrosesan pada [perangkat] itu sendiri atau memasukkan ke server di ruang belakang daripada memprosesnya dilakukan di cloud,” kata Aditya Kaul, direktur riset di Omdia, sebuah perusahaan riset .

AI di Edge:Adopsi Perusahaan vs. Konsumen

Kemampuan chip AI untuk melakukan tugas seperti inferensi pembelajaran mesin telah berkembang secara dramatis dalam beberapa tahun terakhir. Pertimbangkan unit pemrosesan grafis (GPU), yang menawarkan kinerja lebih dari 10 teraflop, setara dengan 10 triliun kalkulasi floating-point per detik. Smartphone modern memiliki GPU yang dapat menangani miliaran operasi floating-point per detik. Bahkan beberapa tahun yang lalu, pemrosesan di perangkat semacam ini tidak tersedia. Namun hari ini, perangkat canggih — smartphone, kamera, drone — dapat menangani beban kerja AI.

Hanya dengan munculnya chipset pembelajaran mendalam — atau silikon yang mendukung kecerdasan buatan termasuk GPU di antara chip lainnya — hal ini dimungkinkan. Dan pasar chipset AI telah berkembang pesat.

“Dari nol pada dasarnya beberapa tahun yang lalu, [chip AI edge] akan menghasilkan lebih dari US$2,5 miliar pendapatan 'baru' pada tahun 2020, dengan tingkat pertumbuhan 20 persen untuk beberapa tahun ke depan,” tulis laporan Deloitte “Membawa AI ke perangkat." [Lihat gambar “Industri Edge AI Siap untuk Pertumbuhan” dari laporan Deloitte yang disebutkan di atas.]

Menurut laporan Tractica “Deep Learning Chipsets”, pasar untuk chipset AI diperkirakan akan mencapai $72,6 miliar pada tahun 2025.

Menurut para ahli, pasar konsumen telah membuka jalan. Saat ini, pada tahun 2020, pasar perangkat konsumen kemungkinan mewakili 90% dari pasar chip AI terdepan, dalam hal jumlah yang terjual dan nilai dolarnya.

“Pasar smartphone berada di ujung tombak ini,” kata Aditya Kaul, direktur senior di Tractica, sebuah perusahaan analis, yang baru-baru ini merilis laporan “Deep Learning Chipsets.” Ponsel cerdas masih mewakili sekitar 40% -50% pasar chipset AI.

Tetapi, kata Kaul, pemrosesan yang didukung AI di tepi akan datang ke perusahaan, di berbagai bidang seperti IoT industri dan ritel serta perawatan kesehatan dan manufaktur. “Anda dapat menyebutnya sebagai 'tepi AI tingkat perusahaan,' kata Kaul.

Dorongan untuk adopsi perusahaan AI di tepi, kata Kaul, adalah “kejelasan pada kasus penggunaan.” Visi mesin, misalnya, yang mengotomatiskan inspeksi produk dan kontrol proses, dapat meningkatkan kualitas dan efisiensi proses manual sebelumnya di area seperti lantai toko industri.

“Orang-orang mulai menggunakan pembelajaran mendalam [dalam pengaturan industri] untuk mengidentifikasi kesalahan dalam industri otomotif, misalnya:mereka dapat melihat cacat di pintu, pegangan atau kaca selama perakitan. Di industri makanan dan minuman, mereka mengidentifikasi tomat basi, atau pabrik biskuit dapat mengidentifikasi biskuit yang bentuknya tidak tepat,” kata Kaul.

Selain kontrol kualitas, industri menggunakan visi mesin untuk mempromosikan pengalaman baru. “Ritel adalah sektor besar di mana kami melihat beberapa hal ini terjadi, kata Kaul. Ini adalah keunggulan kelas perusahaan dan penggunaan kamera di supermarket untuk analitik pembelanja. Di mana mereka berdiam diri dan melihat produk tertentu?

AI di Edge Bekerja dengan Cloud Computing

AI di ujung tombak telah menghidupkan kembali minat pada perangkat keras, setelah beberapa tahun di mana perangkat lunak menjadi raja.

Namun AI yang terdepan adalah menghadirkan latensi rendah dan hardware terdistribusi dapat memungkinkan pemrosesan tanpa bantuan dari  cloud.

“Dengan pertumbuhan AI, perangkat keras menjadi mode lagi, setelah bertahun-tahun di mana perangkat lunak paling menarik minat perusahaan dan investor,” kata laporan McKinsey “Kecerdasan Buatan:Saatnya Bertindak Sekarang”.

Perangkat keras juga telah membawa arsitektur komputasi terdesentralisasi kembali ke mode, di mana arsitektur terpusat melibatkan masalah latensi dan keamanan data.

“Anda ingin keputusan dibuat saat itu juga, alih-alih mengandalkan latensi cloud,” kata Kaul. “Dan juga, Anda tidak ingin data di cloud pihak ketiga. Dari sudut pandang keamanan, data harus tetap di lokasi.”

Pada akhirnya, para ahli menyarankan bahwa AI di edge akan menjadi arsitektur pelengkap untuk arsitektur komputasi awan yang ada.

“AI di cloud dapat bekerja secara sinergis dengan AI di edge,” tulis Sawhney. “Pertimbangkan kendaraan bertenaga AI seperti Tesla. AI di ujung tombak mendukung keputusan yang tak terhitung jumlahnya secara real time seperti pengereman, kemudi, dan perubahan jalur. Pada malam hari, saat mobil diparkir dan terhubung ke jaringan Wi-Fi, data diunggah ke cloud untuk melatih algoritme lebih lanjut.”

Ekspektasi Pertumbuhan yang Berkelanjutan dalam AI di Edge

Sebagian besar pertumbuhan di pasar chip AI edge disebabkan oleh peningkatan kemampuan perangkat keras itu sendiri. Tetapi juga melibatkan perubahan operasional dalam cara industri mendekati AI.

Memang, sementara industri tradisional seperti manufaktur industri sebelumnya enggan memasukkan kecerdasan buatan ke dalam proses, mereka sekarang melihat AI di ujung tombak bermanfaat — memang, kunci ROI. Akibatnya, mereka memperkenalkan analitik data besar ke dalam proses mereka, melatih algoritme untuk meningkatkan akurasi proses ini, dan melihat hasilnya dalam kontrol kualitas.

“Satu-satunya cara agar model ini akurat adalah dengan melatihnya dengan data yang benar,” kata Kaul. “Dua tahun yang lalu, Anda tidak akan menemukan banyak orang di sektor ini di mana jika Anda bertanya kepada mereka tentang data pelatihan, mereka mungkin melihat Anda dengan cara yang aneh. Namun kini semakin banyak orang yang memahami cara kerja AI,” katanya.

Tractica memperkirakan bahwa pertumbuhan ini akan berlanjut, dan akan ada “titik belok pada 2021-2022”, kata Kaul, dengan “langkah cepat menuju akselerator AI, chip ASIC”.

Namun, harap pertumbuhannya terukur, tegas Kaul.

“Banyak vendor dan pasar ini – dalam hal inovasi – stagnan,” kata Kaul. “Tidak banyak inovasi selama 20, 30 tahun terakhir. Jadi mereka umumnya lambat bergerak. Namun di beberapa area, banyak hal yang meningkat — dalam visi industri, visi medis, dan ritel. Ini masih awal. Tapi keadaan mulai membaik,” katanya.