Mengapa edge AI tidak perlu dipikirkan lagi

Pada tahun 2020, Deloitte memperkirakan bahwa lebih dari 750 juta chip AI edge — chip penuh atau bagian chip yang melakukan atau mempercepat tugas pembelajaran mesin di perangkat, bukan di pusat data jarak jauh — akan dijual, mewakili pendapatan US$2,6 miliar. Selain itu, pasar chip AI edge akan tumbuh jauh lebih cepat daripada pasar chip secara keseluruhan. Pada tahun 2024, kami memperkirakan penjualan unit chip AI edge akan melebihi 1,5 miliar, kemungkinan besar. Itu mewakili pertumbuhan penjualan unit tahunan gabungan minimal 20%, lebih dari dua kali lipat perkiraan jangka panjang CAGR 9% untuk industri semikonduktor secara keseluruhan.

Gambar 1:Lokasi di mana kecerdasan dapat disematkan (Gambar:Deloitte Insights)

Chip AI edge ini kemungkinan akan masuk ke perangkat konsumen yang jumlahnya semakin banyak, seperti smartphone kelas atas, tablet, speaker pintar, dan perangkat yang dapat dikenakan. Mereka juga akan digunakan di beberapa pasar perusahaan:robot, kamera, sensor, dan perangkat lain untuk internet of things. Pasar konsumen untuk chip AI edge jauh lebih besar daripada pasar perusahaan, tetapi kemungkinan akan tumbuh lebih lambat, dengan CAGR 18% diharapkan antara tahun 2020 dan 2024. Pasar chip AI edge perusahaan tumbuh jauh lebih cepat, dengan perkiraan CAGR 50% selama jangka waktu yang sama.

Gambar 2:Pasar chip AI terdepan (Gambar:Deloitte Insights)

Namun demikian, tahun ini, pasar perangkat konsumen kemungkinan akan mewakili lebih dari 90% pasar chip AI edge, baik dari segi jumlah yang terjual dan nilai dolarnya. Sebagian besar chip AI edge ini akan masuk ke smartphone kelas atas, yang mencakup lebih dari 70% dari semua chip AI edge konsumen yang saat ini digunakan. Memang, tidak hanya pada tahun 2020 tetapi untuk beberapa tahun ke depan, pertumbuhan chip AI akan didorong terutama oleh smartphone. Kami percaya bahwa lebih dari sepertiga dari 1,56 miliar unit pasar ponsel cerdas tahun ini mungkin berisi chip AI yang canggih.

Karena persyaratan prosesor yang sangat intensif, komputasi AI hampir semuanya dilakukan dari jarak jauh di pusat data, pada peralatan inti perusahaan, atau pada prosesor tepi telekomunikasi — bukan secara lokal pada perangkat. Chip AI Edge mengubah semua itu. Mereka secara fisik lebih kecil, relatif murah, menggunakan daya yang jauh lebih sedikit, dan menghasilkan lebih sedikit panas, sehingga memungkinkan untuk mengintegrasikannya ke dalam perangkat genggam serta perangkat non-konsumen seperti robot. Dengan mengaktifkan perangkat ini untuk melakukan komputasi AI intensif prosesor secara lokal, chip AI edge mengurangi atau menghilangkan kebutuhan untuk mengirim data dalam jumlah besar ke lokasi yang jauh, sehingga memberikan manfaat dalam kegunaan, kecepatan, serta keamanan dan privasi data.

Menjaga pemrosesan pada perangkat lebih baik dalam hal privasi dan keamanan; informasi pribadi yang tidak pernah meninggalkan telepon tidak dapat disadap atau disalahgunakan. Dan saat chip AI edge ada di ponsel, chip ini dapat melakukan semua hal ini bahkan saat tidak terhubung ke jaringan.

Tentu saja, tidak semua komputasi AI harus dilakukan secara lokal. Untuk beberapa aplikasi — misalnya, ketika ada terlalu banyak data untuk ditangani oleh chip AI tepi perangkat — mengirim data untuk diproses oleh array AI jarak jauh mungkin memadai atau bahkan lebih disukai. Faktanya, sebagian besar waktu, AI akan dilakukan dengan cara hybrid:sebagian di perangkat dan sebagian di cloud. Campuran yang disukai dalam situasi tertentu akan bervariasi tergantung pada jenis pemrosesan AI apa yang perlu dilakukan.

Ekonomi edge AI di smartphone

Smartphone bukan satu-satunya perangkat yang menggunakan chip AI edge; kategori perangkat lain — tablet, perangkat yang dapat dikenakan, speaker pintar — juga memuatnya. Dalam jangka pendek, perangkat non-smartphone ini kemungkinan besar akan memiliki dampak yang jauh lebih kecil pada penjualan chip AI edge daripada smartphone, baik karena pasar tidak berkembang (seperti untuk tablet) atau karena terlalu kecil untuk membuat perbedaan material ( misalnya, gabungan speaker pintar dan perangkat yang dapat dikenakan diharapkan hanya terjual 125 juta unit pada tahun 2020). Namun, banyak perangkat yang dapat dikenakan dan speaker pintar bergantung pada chip AI edge, sehingga penetrasinya sudah tinggi.

Saat ini, hanya smartphone paling mahal — yang berada di sepertiga teratas dari distribusi harga — yang cenderung menggunakan chip AI edge. Tetapi menempatkan chip AI di smartphone tidak harus mahal harganya bagi konsumen.

Dimungkinkan untuk sampai pada perkiraan yang cukup baik tentang konten chip AI tepi smartphone. Hingga saat ini, gambar prosesor ponsel di Samsung, Apple, dan Huawei menunjukkan silikon telanjang dengan semua fiturnya terlihat, memungkinkan identifikasi bagian mana dari chip yang digunakan untuk fungsi mana. Tembakan mati chip untuk Samsung Exynos 9820 menunjukkan bahwa sekitar 5% dari total area chip didedikasikan untuk prosesor AI. Biaya Samsung untuk seluruh prosesor aplikasi SoC diperkirakan US$70,50, yang merupakan komponen ponsel paling mahal kedua (setelah layar), mewakili sekitar 17% dari total tagihan bahan perangkat. Dengan asumsi bahwa biaya porsi AI sama dengan komponen lainnya pada basis area mati, unit pemrosesan saraf
neural AI tepi (NPU) Exynos mewakili sekitar 5% dari total biaya chip. Itu berarti masing-masing sekitar US$3,50.

Gambar 3:Sebuah gambar mati dari chip untuk Samsung Exynos 9820 menunjukkan bahwa sekitar 5% dari total area chip didedikasikan untuk prosesor AI. (Gambar:ChipRebel; Anotasi:AnandTech)

Demikian pula, chip A12 Bionic Apple mendedikasikan sekitar 7% dari area mati untuk pembelajaran mesin. Dengan perkiraan US$72 untuk keseluruhan prosesor, persentase tersebut menunjukkan biaya US$5,10 untuk bagian edge AI. Chip Huawei Kirin 970, diperkirakan menelan biaya pabrikan US$52,50, mendedikasikan 2,1% dari die ke NPU, menunjukkan biaya US$1,10. (Area mati bukan satu-satunya cara untuk mengukur berapa persentase dari total biaya chip yang digunakan untuk AI. Namun, menurut Huawei, NPU Kirin 970 memiliki 150 juta transistor, mewakili 2,7% dari total chip yang berjumlah 5,5 miliar transistor. Itu akan menyarankan biaya NPU yang sedikit lebih tinggi sebesar US$1,42).

Gambar 4:Chip A12 Bionic Apple mendedikasikan sekitar 7% area die untuk pembelajaran mesin. (Gambar:TechInsights/AnandTech)

Meskipun kisaran biaya yang disebutkan luas, masuk akal untuk mengasumsikan bahwa biaya NPU rata-rata US$3,50 per chip. Dikalikan dengan setengah miliar smartphone (belum lagi tablet, speaker, dan perangkat yang dapat dikenakan), yang menghasilkan pasar yang besar, meskipun harga per chipnya rendah. Dengan biaya rata-rata US$3,50 untuk pabrikan, dan kemungkinan minimal US$1, menambahkan NPU AI edge khusus ke chip pemrosesan smartphone mulai tampak seperti hal yang mudah. Dengan asumsi markup normal, menambahkan US$1 ke biaya produksi berarti hanya US$2 lebih untuk pelanggan akhir. Itu berarti NPU dan manfaat yang menyertainya — kamera yang lebih baik, bantuan suara offline, dan sebagainya — dapat dimasukkan ke dalam smartphone seharga US$250 bahkan dengan kenaikan harga kurang dari 1%.

Sumber chip AI:In-house atau pihak ketiga?

Perusahaan yang memproduksi smartphone dan perangkat lain memiliki pendekatan yang berbeda-beda untuk mendapatkan chip AI yang canggih, dengan keputusan yang didorong oleh faktor-faktor seperti model ponsel dan, dalam beberapa kasus, geografi. Beberapa membeli chip prosesor/modem aplikasi dari penyedia pihak ketiga, seperti Qualcomm dan MediaTek, yang secara bersama-sama menguasai sekitar 60% pasar SoC smartphone pada tahun 2018.

Baik Qualcomm dan MediaTek menawarkan berbagai SoC dengan harga yang bervariasi; sementara tidak semuanya menyertakan chip AI edge, penawaran kelas atas (termasuk Qualcomm Snapdragon 845 dan 855 dan MediaTek Helio P60) biasanya ada. Di sisi lain, Apple tidak menggunakan chip AP eksternal sama sekali:Apple mendesain dan menggunakan prosesor SoC-nya sendiri, seperti chip Bionic A11, A12, dan A13, yang semuanya memiliki edge AI.

Pembuat perangkat lain, seperti Samsung dan Huawei, menggunakan strategi hibrida, membeli beberapa SoC dari pemasok silikon pasar pedagang dan menggunakan chip mereka sendiri (seperti Exynos 9820 Samsung dan Kirin 970/980 dari Huawei) untuk sisanya.

>> Lanjutkan membaca halaman kedua ini artikel awalnya diterbitkan di situs saudara kami, EE Times Europe.