Zebra Mipsology Mengubah Kode AI GPU menjadi Akselerator FPGA dengan Satu Perintah
Mipsology, startup perangkat lunak AI yang berpikir maju, telah bekerjasama dengan Xilinx untuk membuka potensi penuh FPGA untuk beban kerja AI. Solusi "zero-effort" mereka, Zebra, menerjemahkan kode GPU yang ada sehingga dapat berjalan di mesin komputasi AI custom Mipsology pada FPGA—tanpa perubahan kode atau pelatihan ulang yang diperlukan.
Kemarin Xilinx mengirimkan Zebra dengan build terbaru dari kartu akselerator data-center Alveo U50, menambahkan konversi GPU-ke-FPGA yang mulus ke perangkat secara out-of-the-box. Zebra sudah mempercepat inferensi pada papan Xilinx lainnya, termasuk Alveo U200 dan Alveo U250.
Build terbaru kartu akselerator data-center Alveo U50 Xilinx kini dikirim dengan perangkat lunak Zebra Mipsology, memungkinkan kode AI GPU berjalan pada FPGA (Gambar: Xilinx)
"Akselerasi yang disampaikan Zebra pada kartu Alveo kami melampaui CPU dan GPU," kata Ramine Roane, vice president pemasaran Xilinx. "Dengan Zebra, Alveo U50 memenuhi kebutuhan fleksibilitas, kinerja, throughput tinggi, dan low-latency beban kerja AI, menjadikannya pilihan yang menarik untuk setiap implementasi."
FPGA Plug-and-Play
Secara historis, FPGA dianggap sulit untuk diprogram, terutama untuk non-spesialis. Visi Mipsology adalah membuat FPGA menjadi platform plug-and-play—sederhana untuk digunakan seperti CPU atau GPU. Tujuannya adalah memungkinkan pengguna beralih dari akselerator tradisional ke FPGA dengan satu baris kode.
"Mipsology pada dasarnya adalah CUDA dari FPGA," kata CEO Ludovic Larzul dalam wawancara dengan EE Times. "Kami menyediakan perangkat lunak yang mengabstraksi FPGA sehingga pengguna AI dapat fokus pada model, bukan hardware."
Secara kritis, transisi ini dapat dicapai oleh non-ahli. Tidak diperlukan keahlian AI atau FPGA yang dalam, dan model tidak perlu dilatih ulang.
"Kemudahan penggunaan adalah yang terpenting. Banyak proyek AI dikelola oleh tim yang tidak memiliki spesialis AI atau FPGA internal," jelas Larzul. "Mereka mungkin mengembangkan jaringan saraf di tempat lain, dan setelah model dilatih, mereka ingin men-deploy-nya tanpa merancang ulang."
Stack Zebra. Teknologi ini mencakup kasus penggunaan data-center, edge, dan embedded (Gambar: Mipsology)
Mengapa Tidak Vitis?
Xilinx sudah menawarkan Vitis, toolchain komprehensif untuk membawa FPGA kepada ilmuwan data dan pengembang. Jadi mengapa bekerjasama dengan pihak ketiga? Larzul mengatakan jawabannya sederhana: kinerja dan kesederhanaan.
"Kami melakukan lebih baik," katanya. "Dan kami melakukannya dengan benar."
Zebra Mipsology sepenuhnya independen dari Vitis, XDNN, atau mesin akselerator jaringan saraf Xilinx. Sebaliknya, berjalan pada mesin komputasi terdidukung yang secara natif mendukung model CNN yang ada pelanggan. Di sisi lain, XDNN, although capable, kurang cocok untuk jaringan custom dan dapat rumit untuk diintegrasikan.
"Kami diposisikan untuk membiarkan FPGA bersaing langsung dengan GPU, mencocokkannya dalam kinerja, biaya, dan kegunaan," tambah Larzul.
Stack Zebra secara detail. Kami menyembunyikan kompleksitas hardware untuk membuat FPGA menjadi pergantian yang mulus dari GPU atau CPU (Gambar: Mipsology)
Biaya adalah penggerak utama untuk banyak pelanggan. "Mereka ingin biaya hardware yang lebih rendah tanpa merancang ulang jaringan," kata Larzul. "Dengan menghilangkan pelatihan ulang dan modifikasi jaringan, kami mengurangi biaya engineering non-recurring."
FPGA juga menawarkan keandalan yang superior. Karena mengkonsumsi lebih sedikit luas silikon dan beroperasi pada suhu lebih rendah daripada GPU, mereka menimbulkan biaya pemeliharaan jangka panjang yang lebih rendah—pertimbangan penting untuk operator data-center.
"Total cost of ownership mencakup lebih dari sekadar harga papan," menekankan Larzul. "Masuk juga menjaga sistem tetap operasional."
Zebra dirancang untuk menutup kesenjangan kinerja. Meskipun FPGA biasanya menyediakan lebih sedikit tera-operasi per detik (TOPS) dibandingkan akselerator lain, mesin komputasi Zebra memaksimalkan efisiensi. "FPGA kami dapat memproses lebih banyak gambar per detik daripada GPU dengan enam kali TOPS," klaim Larzul.
Bagaimana ini dicapai? Meskipun detail spesifik adalah proprietary, Larzul mencatat bahwa Zebra menghindari pruning (yang akan menurunkan akurasi tanpa pelatihan ulang) dan menjauh dari quantisasi ekstrem di bawah 8-bit, mempertahankan fidelitas model.
Di luar CNN—yang dominan dalam tugas gambar dan video—Zebra juga mendukung BERT, model NLP Google yang berbagi struktur matematika yang sama. Rilis mendatang mungkin menargetkan arsitektur LSTM dan RNN, meskipun ini menantang tambahan.
Tim di Balik Zebra
Didirikan pada 2015, Mipsology employs sekitar 30 insinyur R&D di Prancis, dengan tim pengembangan bisnis yang ramping di California. Perusahaan telah mengumpulkan $7 juta, termasuk award $2 juta dari kompetisi inovasi pemerintah Prancis pada 2019.
Bakat inti Mipsology berasal dari EVE, perusahaan emulator ASIC yang diakuisisi Synopsys pada 2012 untuk produk verifikasi ZeBu. Teknologi EVE—memanfaatkan ribuan FPGA yang saling terhubung untuk mereplikasi perilaku ASIC—telah digunakan oleh vendor ASIC besar di seluruh dunia.
Dengan 12 paten yang menunggu, Mipsology bekerja erat dengan Xilinx dan tetap kompatibel dengan kartu akselerator pihak ketiga, seperti Western Digital small-form-factor (SFF U.2) dan Advantech Vega-4001.
>> Artikel ini awalnya dipublikasikan di situs kawan kami, EE Times.
