Nvidia GTC:Modul Jetson baru menawarkan 200 TOPS untuk AI tepi tertanam
Di Nvidia GTC diumumkan Nvidia Jetson AGX Orin, yang menurut perusahaan adalah superkomputer AI terkecil, paling kuat, dan hemat energi di dunia untuk robotika, mesin otonom, perangkat medis, dan bentuk komputasi tertanam lainnya di edge.
Dibangun di atas arsitektur Nvidia Ampere, Jetson AGX Orin memberikan 6x kekuatan pemrosesan dan mempertahankan kompatibilitas faktor bentuk dan pin dengan pendahulunya, Jetson AGX Xavier. Ini memberikan 200 triliun operasi per detik, mirip dengan server yang mendukung GPU tetapi dalam ukuran yang pas di telapak tangan Anda.
Komputer Jetson yang baru mempercepat seluruh rangkaian perangkat lunak Nvidia AI, memungkinkan pengembang untuk menerapkan model terbesar dan paling kompleks yang diperlukan untuk memecahkan tantangan AI dan robotika edge dalam pemahaman bahasa alami, persepsi 3D, dan fusi multisensor.
“Ketika robotika dan komputasi tertanam mengubah manufaktur, perawatan kesehatan, ritel, transportasi, kota pintar, dan sektor ekonomi penting lainnya, permintaan pemrosesan terus meningkat,” kata Deepu Talla, wakil presiden dan manajer umum komputasi tertanam dan tepi di Nvidia. . “Jetson AGX Orin menjawab kebutuhan ini, memungkinkan 850.000 pengembang Jetson dan lebih dari 6.000 perusahaan membangun produk komersial di atasnya untuk membuat dan menerapkan mesin otonom dan aplikasi AI edge yang dulunya tampak mustahil.”
Jetson AGX Orin dilengkapi GPU arsitektur Nvidia Ampere dan CPU Arm Cortex-A78AE, bersama dengan pembelajaran mendalam dan akselerator penglihatan generasi berikutnya. Antarmuka berkecepatan tinggi, bandwidth memori yang lebih cepat, dan dukungan sensor multimodal memberikan kemampuan untuk mengumpankan beberapa saluran aplikasi AI secara bersamaan.
Dukungan perangkat lunak dan ekosistem Pelanggan yang menggunakan Jetson AGX Orin dapat memanfaatkan tumpukan komputasi yang dipercepat CUDA-X, JetPack SDK, dan alat Nvidia terbaru untuk pengembangan dan pengoptimalan aplikasi, termasuk alur kerja pengembangan cloud-native. Model yang telah dilatih sebelumnya dari katalog Nvidia NGC dioptimalkan dan siap untuk disesuaikan dengan toolkit TAO dan set data pelanggan. Hal ini mengurangi waktu dan biaya untuk penerapan AI berkualitas produksi, sementara teknologi cloud-native memungkinkan pembaruan yang lancar sepanjang masa pakai produk.
Ekosistem mitra komputasi tertanam Jetson mencakup berbagai layanan dan produk, termasuk kamera dan sensor multimodal lainnya, papan operator, layanan desain perangkat keras, AI dan perangkat lunak sistem, alat pengembang, dan pengembangan perangkat lunak khusus.
“Didorong oleh kemajuan AI, pasar robotika tumbuh secara eksponensial,” kata Jim McGregor, analis utama di TIRIAS Research. “Nvidia adalah pemimpin yang diakui dalam AI dan terus memanfaatkan keahlian ini untuk memajukan robotika melalui ekosistem yang kuat dan solusi ujung-ke-ujung yang lengkap, termasuk berbagai platform perangkat keras yang memanfaatkan alat umum dan model jaringan saraf. Platform Jetson baru menghadirkan kinerja dan keserbagunaan arsitektur Nvidia Ampere untuk memungkinkan kemajuan lebih lanjut dalam robot seluler otonom untuk berbagai aplikasi mulai dari pertanian dan manufaktur hingga perawatan kesehatan dan kota pintar.”
Untuk kasus penggunaan tertentu, kerangka kerja perangkat lunak mencakup Nvidia Isaac Sim di Omniverse untuk robotika, Nvidia Clara Holoscan SDK untuk perawatan kesehatan, dan Nvidia DRIVE untuk mengemudi secara otonom. Rilis Isaac terbaru mencakup dukungan signifikan untuk komunitas pengembang Robot Operating System (ROS). Nvidia juga telah merilis Omniverse Replicator baru untuk pembuatan data sintetis dan Isaac GEM, paket perangkat lunak yang dipercepat perangkat keras yang memudahkan pengembang ROS untuk membangun robot berkemampuan AI berkinerja tinggi di platform Jetson.
Penginderaan waktu nyata untuk instrumen, perangkat medis AGX Orin mendukung Nvidia Clara Holoscan, platform komputasi baru untuk industri perawatan kesehatan yang memungkinkan pengembang membangun perangkat medis yang ditentukan perangkat lunak yang menjalankan aplikasi streaming latensi rendah di edge. Kekuatan pemrosesan ini diperlukan untuk perangkat seperti bedah robotik, endoskopi, dan sistem pencitraan diagnostik untuk memproses fisika, pencitraan, dan visualisasi serta memungkinkan dukungan keputusan AI waktu nyata untuk dokter. Clara Holoscan memberi pengembang platform yang fleksibel untuk membuat layanan mikro AI yang menjalankan aplikasi streaming berlatensi rendah di perangkat sambil meneruskan tugas yang lebih kompleks ke pusat data.
Asisten AI Transportasi DRIVE AGX Orin, juga didukung oleh arsitektur Ampere seperti Jetson AGX Orin, adalah platform untuk industri transportasi. Ini adalah prosesor canggih di balik Nvidia DRIVE concierge dan DRIVE chauffeur yang baru diumumkan — dua platform AI yang didedikasikan untuk mendefinisikan ulang pengalaman penumpang di dalam mobil melalui asisten AI, dan masing-masing untuk memberi daya pada pengemudian otonom yang aman. Banyak pembuat mobil dan truk global, perusahaan rintisan kendaraan energi baru, dan perusahaan antar-jemput menggunakan komputasi AI berperforma tinggi untuk solusi mobilitas cerdas yang ditentukan perangkat lunak generasi berikutnya.
Modul dan kit pengembang Jetson AGX Orin akan tersedia pada kuartal pertama tahun 2022.