Qualcomm Meluncurkan Cloud AI 100: Aksenlerator Edge AI Hemat Daya untuk 5G dan Di Luarnya

Hampir 18 bulan setelah diperkenalkan pertama kali pada April 2019, Qualcomm kini mengonfirmasi bahwa silikon Cloud AI 100 sedang dalam produksi dan akan dikirim pada setengah pertama tahun 2021. Perusahaan juga mengungkapkan faktor bentuk kartu dan indikator performa yang menekankan kesiapannya untuk beban kerja edge-AI.

Sementara Qualcomm telah lama mendominasi pasar ponsel pintar dengan garis Snapdragon, garis Centriq kelas server sebelumnya dihentikan pada tahun 2018. Cloud AI 100 menandai masuk strategis Qualcomm ke pasar server near-edge, menyediakan inferensi AI dengan throughput tinggi dan efisiensi daya yang luar biasa.

Cloud AI 100 Qualcomm dirancang untuk beban kerja AI near-edge seperti infrastruktur 5G dan pusat data perusahaan.

Faktor Bentuk dan Performa

Qualcomm akan awalnya menawarkan Cloud AI 100 dalam tiga format kartu:

• Dual M.2 Edge (DM.2e) – lebih dari 50 TOPS pada 15 W
• Dual M.2 (DM.2) – 200 TOPS pada 25 W
• PCIe – hingga 400 TOPS pada 75 W

Angka ini mewakili TOPS "mentah" teoretis dan tidak mencakup overhead aplikasi dunia nyata. Namun, kurva performa Qualcomm sendiri menunjukkan versi PCIe mengalahkan banyak solusi terdepan sambil mengkonsumsi hanya sebagian kecil daya.

Throughput inferensi ResNet-50 versus konsumsi daya. Kartu Qualcomm memimpin dalam efisiensi daya, dengan ukuran batch 8 (kecuali Nvidia A100).

John Kehrli, Senior Director of Product Management Qualcomm, menyatakan, "Kami membawa lebih dari satu dekade R&D AI dari platform seluler kami ke inti baru ini. Meskipun arsitektur berbeda dari Snapdragon, keahlian dan performa per watt jelas."

Arsitektur Chip

Cloud AI 100 adalah aksenlerator inferensi yang dibangun pada proses 7 nm FinFET. Ia menampung hingga 16 inti AI yang mendukung presisi INT8, INT16, FP16, dan FP32. Die berisi 144 MB SRAM on-chip (128 MB bersama, 1 MB per inti) dan berinteraksi dengan hingga 32 GB DRAM LPDDR4x (4×64 LPDDR4x pada 2,1 GHz), menyediakan bandwidth memori tinggi yang penting untuk beban kerja AI.

Aplikasi Target

Aksenlerator ini dirancang untuk berbagai kasus penggunaan edge, termasuk visi komputer, pengenalan ucapan, pengemudi otonom, terjemahan bahasa, dan mesin rekomendasi. Qualcomm memposisikan Cloud AI 100 untuk empat pasar utama:

• Pusat data di tepi cloud
• Sistem Bantuan Pengemudi Lanjutan (ADAS)
• 5G edge boxes (perangkat mandiri on-premise untuk penggunaan kota pintar dan perusahaan)
• Infrastruktur 5G (pengoptimalan beam-forming dan stasiun dasar yang didayai AI)

Di ruang pengemudi otonom, turunan dari Cloud AI 100 mendayai platform Snapdragon Ride Qualcomm, memanfaatkan arsitektur dan tumpukan perangkat lunak yang sama.

Desain Referensi & Development Kit

Qualcomm memperkenalkan development kit baru yang menampilkan desain referensi untuk 5G edge box yang didayai oleh Cloud AI 100. Kit ini memadukan aksenlerator dengan prosesor host Snapdragon 865, menawarkan pipeline video penuh yang mendukung hingga 24 stream dekode video full-HD. Ini juga menyertakan modem 5G Snapdragon X55 yang sudah disertifikasi.

Kehrli menekankan, "Kit ini memungkinkan pelanggan meluncurkan aplikasi demo segera. Ini datang terkompilasi dengan ResNet-50, memberikan awal cepat untuk solusi edge AI."

Timeline Penerapan

Qualcomm mengasumsikan penerapan komersial awal akan berfokus pada skenario edge—kota pintar, analitik ritail, dan manufaktur—karena siklus sertifikasi yang lebih pendek. Sampling Cloud AI 100 sudah berlangsung dengan pelanggan terpilih, dan development kit akan disampling bulan depan untuk audiens terbatas.

Catatan: Artikel ini awalnya diterbitkan pada EE Times.