Xilinx Meluncurkan SmartNIC Composable, Analitik Video AI, Perdagangan Low-Latency, dan App Store untuk Akselerasi Data Center
Xilinx telah memperkenalkan serangkaian solusi data center yang dibangun pada hardware composable, dirancang untuk meningkatkan adaptabilitas dan fleksibilitas sebagai respons terhadap beban kerja yang berkembang, sambil juga menangani tantangan latensi dalam analitik video dan perdagangan algoritmik.
Lineup mencakup keluarga baru Alveo SmartNIC, alat analitik video yang didorong AI, desain referensi untuk perdagangan algoritmik sub-mikrodetik, dan Xilinx App Store. Offering ini memungkinkan pengembang untuk menghadirkan beban kerja komputasi intensif tanpa biaya dan waktu desain hardware tradisional, secara efektif menghilangkan hambatan untuk deployment hardware-accelerated yang cepat, software-defined, pada kartu Alveo.
Data center menghadapi permintaan bandwidth yang meningkat dan kebutuhan untuk mengoptimalkan beban kerja AI dan real-time analytics yang terus berkembang, yang menegangkan infrastruktur yang ada. Xilinx berpendapat bahwa ini mendorong permintaan akan accelerator software-defined yang sepenuhnya composable yang dapat di-tune untuk aplikasi yang menuntut, segera mengadopsi protokol baru, dan memberikan performa line-rate.
“Composable” SmartNIC
Flagship dari keluarga data center baru ini adalah Xilinx Alveo SN1000, garis SmartNIC composable yang menyediakan akselerasi hardware yang didefinisikan perangkat lunak untuk setiap fungsi offload.
Dalam briefing dengan embedded.com, Kartik Srinivasan, direktur pemasaran untuk grup data center di Xilinx, katanya, “Dalam keterlibatan kami dengan hyperscaler dan early adopter, setiap orang memiliki kebutuhan yang berbeda, tetapi semuanya membutuhkan inovasi fitur yang berkelanjutan, sambil tidak harus berkompromi pada performa. Dengan NIC sebagai komponen kritis dalam I/O server, di luar 25Gb, offload NIC mulai muncul.”
“Dengan implementasi ASIC dari offload NIC ini, tidak ada pemrograman dan hence tidak ada cara untuk menskala dan menyesuaikan untuk kebutuhan yang berbeda. Demikian pula, untuk implementasi CPU, sementara beberapa mungkin memiliki aspek pemrograman, mereka tidak efisien dan tidak dapat menskala ke konektivitas 100Gb dan di luarnya.”
SmartNIC SN1000 offload tugas intensif CPU untuk meningkatkan throughput jaringan, dengan arsitektur terbuka yang mempercepat berbagai fungsi jaringan pada line rate. Mereka menyediakan akselerasi software-defined untuk offload jaringan, keamanan, dan penyimpanan—termasuk Open vSwitch, Virtio.NET virtualization, IPsec, kTLS, SSL/TLS, Virtio.blk, NVMe-over-TCP, Ceph, serta layanan kompresi dan kriptografi.
Pengembang memanfaatkan platform Vitis Networking, bersama dengan bahasa tingkat tinggi seperti P4, C, dan C++, untuk memrogram fungsi jaringan, protokol, dan aplikasi yang berjalan natively dalam hardware pada SmartNIC. Framework ini memungkinkan organisasi untuk dengan cepat menyusun atau menyesuaikan fungsi untuk mendukung protokol yang muncul, menghilangkan kebutuhan akan perubahan hardware dan melindungi investasi masa depan.
Srinivasan menambahkan, “Pelanggan mendapatkan pengalaman plug and play out-of-the-box. Kami memrogram beberapa fitur yang kami pikir diperlukan pelanggan, plus akselerasi, dan kemudian pelanggan dapat menghapus blok atau menambahkan accelerator kustom mereka sendiri.”
Pada peluncuran, Xilinx mengatakan telah mendapatkan dukungan industri yang baik untuk SmartNIC-nya. Lee Caswell, vice president pemasaran untuk unit bisnis platform cloud VMware, katanya, “VMware mendefinisikan arsitektur hybrid cloud untuk aplikasi generasi mendatang dengan persyaratan keamanan yang ditingkatkan. SmartNIC akan memainkan peran kritis dalam arsitektur cloud foundation VMware dengan memberikan pelanggan model manajemen, keamanan, dan ketahanan yang terpadu yang mencakup lingkungan bare metal dan virtualisasi tempat composability Xilinx Alveo SN1000 SmartNIC akan memberikan solusi yang fleksibel, terintegrasi, dan terqualifikasi bagi pelanggan.”
Ben Li, general manager unit bisnis jaringan di Inspur, menambahkan, “Data center software-defined saat ini menuntut fleksibilitas dan skalabilitas untuk memenuhi kebutuhan beban kerja pelanggan yang selalu berubah. Framework offload composable inovatif dari keluarga SmartNIC Xilinx Alveo SN1000 memberikan Inspur ketangkasan untuk beradaptasi dengan kebutuhan pelanggan yang berkembang dengan dengan cepat mengembangkan dan menerapkan beban kerja kustom.”
Berdasarkan arsitektur Xilinx 16nm UltraScale+™, keluarga SmartNIC SN1000 didukung oleh FPGA Xilinx XCU26 dengan latensi rendah dan prosesor Arm® 16-core. SmartNIC SN1000 menyediakan port dual-QSFP untuk konektivitas 10/25/100Gb/s dengan performa paket kecil terkemuka dan interkoneksi PCIe Gen 4. Model pertama dalam keluarga adalah SN1022, yang ditawarkan dalam bentuk full-height, half-length dalam envelop daya 75-Watt.
Platform analitik video target AI video inferencing yang sensitif latensi
Produk data center kedua yang diluncurkan Xilinx adalah platform analitik video smart world, bersama dengan ekosistem solusi mitra yang dirancang untuk mempercepat beban kerja AI video inferencing yang paling kompleks dan sensitif latensi.
Didukung oleh Xilinx video machine-learning streaming server, ia menyediakan akselerasi aplikasi penuh dan dapat menjalankan banyak jaringan saraf pada satu kartu akselerator Alveo dengan latensi pipeline sub-100ms yang deterministik. Xilinx klaim ini menghasilkan total cost of ownership terendah di industri untuk aplikasi analitik video AI yang menuntut.
Solusi mitra yang tersedia saat peluncuran meliputi:
Aupera: menawarkan solusi smart-city dan smart-retail turnkey yang menggabungkan pemrosesan video cerdas Aupera dengan accelerator Alveo.
Mipsology: menyediakan toolset untuk migrasi mudah aplikasi AI yang ada dari arsitektur berbasis GPU ke platform Alveo, serta akselerasi inferensi AI plug-and-play berkinerja tinggi.
DeepAI: menyediakan pelatihan AI di edge pada accelerator Alveo dengan keunggulan performa-per-biaya hingga 10× dibandingkan solusi berbasis GPU.
Xilinx memberitahu embedded.com bahwa pasar ritail adalah target vertikal kunci untuk platform produk ini, mengingat penyerangan dari pencurian adalah masalah besar di sektor.
Desain referensi untuk perdagangan keuangan elektronik dengan latensi rendah
Mencapai latensi sub-mikrodetik dalam perdagangan algoritmik tradisional telah membutuhkan pengembangan hardware yang mahal dan memakan waktu. Platform pengembangan Vitis kini mencakup desain referensi perdagangan algoritmik yang dipercepat (AAT), memungkinkan pengembang perangkat lunak untuk dengan cepat dan hemat biaya menyediakan performa perdagangan sub-mikrodetik tanpa hardware kustom.
AAT, diimplementasikan pada kartu akselerator Alveo, menyediakan desain modular yang mencakup semua komponen solusi perdagangan end-to-end dengan latensi rendah. Setiap modul dapat disesuaikan menggunakan C dan C++ di platform Vitis untuk memenuhi persyaratan spesifik perusahaan. Desain referensi AAT tersedia hari ini secara gratis untuk pelanggan kartu akselerator Alveo.
App store dengan solusi analitik video dan perdagangan keuangan siap terdeploy
Melengkapi lineup, Xilinx juga telah meluncurkan app store yang menawarkan aplikasi terkontainer siap pakai yang mencakup AI video analytics smart-world, anti-pencucian uang, dan transcoding video langsung. Dikembangkan oleh mitra ekosistem Xilinx, solusi siap terdeploy ini memungkinkan pelanggan mengevaluasi, membeli, dan menerapkan aplikasi yang dipercepat dalam menit.