Menambahkan ISP dan Akselerasi Pembelajaran Mesin ke Keluarga i.MX 8M

Pelajari bagaimana prosesor aplikasi i.MX 8M Plus memungkinkan komputasi edge, mempercepat pembelajaran mesin untuk berbagai aplikasi termasuk tugas industri.

Komputasi awan, komputasi tepi, dan sistem berbasis visi telah mengambil alih semakin banyak sistem industri dan konsumen. Banyak sistem modern, lebih jauh lagi, menggunakan pembelajaran mesin dan kecerdasan buatan untuk meningkatkan pengalaman pengguna. Pendekatan ini sering membutuhkan desainer sistem tertanam untuk memanfaatkan berbagai SoC yang berbeda dan prosesor khusus untuk menyelesaikan semua tugas ini.

Namun, NXP memutuskan untuk mengambil pendekatan yang berbeda, dan mereka telah menggabungkan prosesor sinyal gambar (ISP), unit pemrosesan saraf (NPU) untuk akselerasi pembelajaran mesin, dan MPU semua dalam satu perangkat:i.MX 8M Plus yang canggih prosesor aplikasi.

Gambar 1. Prosesor aplikasi i.MX 8M Plus.

Cloud Computing vs. Edge Computing

Beberapa konteks diperlukan untuk memahami mengapa prosesor aplikasi i.MX 8M Plus menawarkan solusi canggih untuk komputasi tepi.

Komputasi awan mengacu pada ketersediaan sumber daya sistem komputer berdasarkan permintaan di luar batas jaringan pengguna. Sumber daya ini bisa berupa apa saja. Namun, mereka biasanya digunakan untuk melakukan tugas yang menuntut dan untuk penyimpanan data.

Seringkali, pusat data berbasis cloud tidak eksklusif untuk satu pengguna atau organisasi. Sebaliknya, sumber daya dibagi di antara semua pengguna. Biasanya, layanan cloud publik menggunakan model pay-as-you-go, yang berarti bahwa biaya dapat meningkat dengan cepat jika data yang tidak perlu atau berisik diupload untuk diproses di cloud.

Di situlah komputasi tepi dapat berguna. Komputasi tepi menempatkan beberapa sumber daya antara pengguna dan cloud dalam batas-batas jaringan mereka. Namun, biasanya, tidak semua perhitungan dilakukan di tepi. Sebagai gantinya, sumber daya di tepi digunakan untuk memfilter data dan membuang elemen yang tidak diinginkan sebelum diunggah ke cloud dan menghasilkan biaya yang tidak perlu. Seringkali pembelajaran mesin dan AI digunakan untuk mengkategorikan hasil secara otomatis dan hanya mengunggah informasi yang relevan ke cloud.

Namun, Anda juga dapat menghilangkan cloud sepenuhnya dan menjalankan semua inferensi pembelajaran mesin secara lokal pada prosesor edge — misalnya, prosesor aplikasi i.MX 8M Plus, yang hadir dengan beberapa keunggulan.

Potensi Manfaat Menggunakan Edge Computing dibandingkan Cloud Computing

Komputasi tepi (seperti yang disediakan oleh i.MX 8M Plus) menawarkan sejumlah kemungkinan keunggulan dibandingkan komputasi awan yang patut dipertimbangkan lebih dekat.

Selain faktor biaya, pengurangan data yang diunggah ke cloud juga akan mengurangi lalu lintas jaringan secara keseluruhan, yang dapat mempercepat aplikasi lain yang mengandalkan jaringan. Ini tidak hanya meningkatkan efisiensi dengan tugas-tugas yang secara khusus didedikasikan untuk prosesor, tetapi juga membebaskan sumber daya penting untuk aktivitas dan prioritas tambahan lainnya.

Selanjutnya, menjalankan inferensi secara lokal berarti aplikasi dapat terus berfungsi bahkan saat layanan cloud offline atau saat koneksi jaringan terganggu. Ini mungkin merupakan faktor penting, terutama untuk kasus penggunaan yang kritis terhadap keselamatan, tetapi juga untuk aplikasi lain yang terhubung, seperti perangkat keamanan rumah.

Lebih lanjut, solusi ini memberikan latensi yang lebih baik dan waktu respons yang lebih singkat jika dibandingkan dengan penggunaan layanan cloud. Latensi rendah penting, misalnya, saat melakukan inspeksi visual lantai pabrik dan aplikasi penting waktu lainnya.

Akhirnya, privasi pengguna adalah faktor lain yang perlu dipertimbangkan. Setiap layanan eksternal merupakan risiko keamanan potensial ketika berhadapan dengan data rahasia. Oleh karena itu, menyimpan informasi penting dalam batas jaringan pengguna dapat meningkatkan keamanan seluruh aplikasi. Hal ini tidak hanya penting bagi pengguna industri tetapi juga penting bagi pengguna pribadi dan pelanggan, misalnya, saat menggunakan asisten suara atau saat bekerja dengan file video dan gambar pribadi.

Berapa Performa Pembelajaran Mesin yang Dibutuhkan?

Dengan komputasi awan, kinerja pembelajaran mesin biasanya tidak menjadi masalah atau faktor pembatas. Namun, ketika melakukan operasi ini di tepi, pertanyaannya adalah berapa banyak daya yang dibutuhkan. Cara populer untuk mengukur kinerja pembelajaran mesin adalah TOPS, yang merupakan akronim untuk triliun (tera) operasi per detik, dan itu, seperti namanya, mengacu pada jumlah (biasanya perkalian atau akumulasi bilangan bulat 8-bit) operasi per detik . Namun, kinerja sistem secara keseluruhan akan bergantung pada lebih banyak faktor. TOPS, bagaimanapun, masih sering digunakan untuk membandingkan kinerja sistem pembelajaran mesin dengan cepat.

Pengenalan suara penuh (tidak hanya pencarian kata kunci) di tepi ternyata membutuhkan kinerja sistem sekitar satu hingga dua TOPS. Persyaratan sebenarnya sangat bergantung pada algoritme yang digunakan dan apakah penting untuk memahami apa yang dikatakan pengguna. Deteksi objek pada 60 frame per detik, sebagai contoh lain, membutuhkan sekitar dua hingga tiga TOPS saat menggunakan algoritme seperti Yolov3.

Karena pemrosesan dan pembelajaran mesin di edge menjadi semakin relevan, NXP menambahkan akselerator pembelajaran mesin dengan kinerja sekitar 2,3 TOPS ke prosesor aplikasi i.MX 8M Plus, yang membuatnya dilengkapi dengan baik untuk berbagai tugas industri dan banyak lainnya. aplikasi tanpa perlu menggunakan layanan berbasis cloud eksternal.

Gambar 2. Prosesor aplikasi i.MX 8M Plus dilengkapi dengan baik untuk berbagai tugas industri yang memanfaatkan layanan berbasis cloud eksternal.

i.MX 8M Plus Siap untuk Sistem Berbasis Visi Tertanam

Sejauh ini, artikel ini menyebutkan berbagai contoh aplikasi yang membutuhkan kamera untuk berfungsi. Salah satunya adalah sistem berbasis visi yang membuang bagian yang rusak di akhir jalur produksi setelah inspeksi optik otomatis. Semua sistem tersebut memerlukan input visual, misalnya, gambar dari kamera. Fungsionalitas ISP ada di setiap sistem berbasis kamera. Seringkali, prosesor sinyal gambar hadir di perangkat eksternal, seperti kamera itu sendiri, dan tersembunyi dari pengguna. ISP semacam itu biasanya menangani beberapa tugas pengoptimalan dan pemfilteran gambar yang berbeda.

Dalam banyak kasus, seseorang dapat lolos tanpa menggunakan ISP khusus, misalnya, saat menggunakan webcam USB sederhana. Kemudian, ISP biasanya sudah terpasang di dalam kamera, yang akan melakukan semua konversi yang diperlukan tanpa sepengetahuan pengguna.

Namun, ISP semacam itu memiliki keterbatasan, dan biasanya berfungsi dengan baik untuk resolusi hingga dua Megapiksel. Selain itu, hilangnya kendali atas ISP, kerumitan tambahan, dan konsumsi daya tambahan dapat menjadi masalah dalam beberapa kasus.

Ketika resolusi gambar yang lebih tinggi dari 2MP (1080p) diperlukan, perancang sistem tertanam dapat memanfaatkan ISP eksternal, yang pada gilirannya akan meningkatkan kompleksitas keseluruhan dan konsumsi daya sistem. Atau, perancang dapat menggunakan prosesor aplikasi dengan ISP internal, seperti i.MX 8M Plus. Pendekatan ini menawarkan solusi pencitraan yang dioptimalkan, terutama pada resolusi 2 Megapiksel dan lebih tinggi, tanpa meningkatkan kerumitan sistem.

Ringkasan

Komputasi tepi memiliki beberapa manfaat menarik dibandingkan komputasi awan, dan berpotensi mengubah cara kita bekerja, hidup, dan menghabiskan waktu luang di masa depan. Beberapa manfaatnya mencakup peningkatan keandalan, skalabilitas, dan keamanan, serta penurunan latensi.

Dengan prosesor aplikasi i.MX 8M Plus, NXP telah menggabungkan dua faktor yang memungkinkan aplikasi modern di edge. MPU baru ini akan mendorong pengembangan berbagai perangkat industri dan produk tingkat konsumen yang inovatif. Ini mencakup ISP untuk membangun sistem berbasis visi modern yang memerlukan data masukan resolusi tinggi.

Informasi gambar dari ISP dapat langsung dimasukkan ke dalam NPU bawaan untuk mengaktifkan aplikasi berkecepatan tinggi yang mengandalkan data gambar sambil menjaga CPU tetap bebas untuk tugas-tugas lain. Selain itu, prosesor aplikasi i.MX 8M Plus menawarkan beberapa fitur lain yang layak untuk dilihat, misalnya, pengontrol Ethernet dengan Time-Sensitive Networking, pengontrol DRAM yang mendukung ECC, dan berbagai inti berbeda untuk berbagai aplikasi.

Dengan prosesor aplikasi i.MX 8M Plus, kemungkinan aplikasi berbasis penglihatan berdaya tinggi di edge hampir tak terbatas, baik untuk hub rumah pintar, kontrol bangunan cerdas, atau aplikasi industri.

Artikel Industri adalah bentuk konten yang memungkinkan mitra industri untuk berbagi berita, pesan, dan teknologi yang bermanfaat dengan pembaca All About Circuits dengan cara yang tidak sesuai dengan konten editorial. Semua Artikel Industri tunduk pada pedoman editorial yang ketat dengan tujuan menawarkan kepada pembaca berita, keahlian teknis, atau cerita yang bermanfaat. Sudut pandang dan pendapat yang diungkapkan dalam Artikel Industri adalah dari mitra dan belum tentu dari All About Circuits atau penulisnya.