Arm menawarkan IP pemrosesan saraf untuk prosesor aplikasi
Arm telah menciptakan versi baru dari IP microNPU (neural processing unit) yang cocok untuk digunakan bersama inti CPU Cortex-A dalam prosesor aplikasi. Pemegang lisensi utama NXP berencana untuk menggunakan IP ini dalam keluarga prosesor aplikasi mendatang yang dapat menangani aplikasi AI seperti estimasi pose, pengenalan multi-wajah dan deteksi objek dalam video, dan pengenalan ucapan di luar pengenalan kata kunci dasar.
Etos-U65
Produk microNPU Arm yang sudah ada, Ethos-U55, diluncurkan pada Februari 2020, ditujukan untuk produk kelas mikrokontroler bersama core Cortex-M. Ini memberikan akselerasi hingga 0,5 TOPS (berdasarkan geometri yang lebih kecil seperti 16 atau 7 nm, berjalan pada 1 GHz), dengan antara 3 dan 256 unit akumulasi ganda (MAC). Portofolio Arm juga memiliki Ethos-N77, N57 dan N37 yang masing-masing menawarkan 4, 2 dan 1 TOPS.
Ethos-U65 dirancang untuk mempertahankan efisiensi daya Ethos-U55 sambil menggandakan MAC yang tersedia – hingga 512 MAC paralel pada 1GHz – dengan total 1 TOPS. Kombinasi daya/kinerja ini khusus untuk digunakan bersama inti Cortex-A di perangkat kelas prosesor aplikasi. Dukungan asli Ethos-U line untuk operator ML juga telah diperbarui dan diperluas, menurut Arm.
Pemimpin pemegang lisensi
Mitra teknologi utama (dan pemegang lisensi utama) NXP bekerja erat dengan Arm dalam menentukan aspek tingkat sistem Ethos-U65 dan telah mengatakan bahwa mereka akan mengintegrasikan IP Ethos-U65 ke dalam prosesor aplikasi i.MX generasi berikutnya.
Arsitektur NXP telah hadir untuk prosesor aplikasi dengan microNPU menggunakan inti Cortex-A dan Cortex-M (Gambar:NXP)
Arsitektur yang ada dalam pikiran NXP untuk prosesor aplikasi AI akan melihat microNPU Ethos-U65 duduk di samping inti Cortex-M dan Cortex-A, jelas Ben Eckermann, Chief Engineer AI/ML Hardware, NXP. Cortex-A menjalankan aplikasi, menangani driver untuk (misalnya) mikrofon atau kamera, dan menyajikan beban kerja ke NPU. MicroNPU dan Cortex-M menghitung beban kerja machine learning dan menyajikan jawabannya kembali ke Cortex-A.
“Sama seperti Ethos-U55, [Ethos-U65] mengandalkan prosesor Cortex-M untuk berada di suatu tempat di dekat sistem, untuk berjaga-jaga jika ada operator pembelajaran mesin dari jaringan saraf yang tidak masuk akal untuk diturunkan sepenuhnya. dalam perangkat keras, ”kata Eckermann. “Ada banyak operator pembelajaran mesin yang jarang dipanggil dan mungkin tidak dapat diimplementasikan secara murni di perangkat keras.”
Fleksibilitas yang ditawarkan oleh Cortex-M dalam konfigurasi ini juga memungkinkan sejumlah pemeriksaan di masa depan, kata Eckermann.
U65 telah diberikan bus sistem internal yang lebih lebar daripada U55, dan telah disesuaikan untuk mengatasi buffering ekstra dan latensi yang terkait dengan DRAM (umum pada sistem yang menggunakan prosesor aplikasi, sedangkan sistem Cortex-M biasanya menggunakan SRAM).
Mengisi portofolio
NXP mengisi portofolio SoC yang mendukung AI.
Prosesor aplikasi i.MX 8M+ yang diumumkan sebelumnya oleh perusahaan memiliki blok akselerator AI NPU di samping inti Cortex-A53 ganda atau quad. NPU IP yang disertakan dalam produk ini bukan dari Arm. Ini adalah desain Verisilicon yang menawarkan 2,3 TOPS, cukup untuk segmentasi adegan, pengenalan wajah dan objek video langsung, atau interpretasi aksen ucapan. Di ujung bawah spektrum, mikrokontroler NXP dengan NPU Arm Ethos-U55 dapat menangani deteksi orang, deteksi kata saat bangun, dan denoising video.
Produk yang mendukung Ethos-U65 akan berada di antara dua kategori produk ini, menangani aplikasi AI seperti pengenalan multi-wajah, pengenalan ucapan yang lebih melibatkan, atau estimasi pose. Oleh karena itu, setiap produk baru dalam kategori ini tidak akan tumpang tindih dengan i.MX 8M+, kata Eckermann.
Jumlah komputasi yang diperlukan untuk berbagai aplikasi AI (sumbu x) dan NPU yang sesuai (Gambar:NXP)
>> Artikel ini awalnya diterbitkan pada situs saudara kami, EE Times.
