NVIDIA dan VMware Bekerja Sama untuk Mempercepat Efisiensi Biaya AI dengan Virtualisasi GPU
Dengan meningkatkan tingkat utilizasi GPU, biaya untuk membangun dan menerapkan aplikasi AI akan berkurang secara signifikan.
Pada konferensi VMworld 2019 hari ini, NVIDIA dan VMware mengumumkan bahwa mereka bersama-sama akan memungkinkan untuk sekarang menerapkan mesin virtual VMware pada unit pemroses grafis (GPU).
Sebagai bagian dari inisiatif ini, NVIDIA mengumumkan bahwa perangkat lunak virtual GPU (vGPU)nya kini dapat diterapkan pada mesin virtual pada server selain dukungan yang ada untuk sistem klien. Perangkat lunak NVIDIA Virtual Compute Server (vComputeServer) untuk GPU juga diperluas untuk menambahkan dukungan untuk platform VMware vSphere. NVIDIA juga berkomitmen untuk membuat hubnya untuk mengakses alat untuk membangun aplikasi kecerdasan buatan (AI) tersedia pada platform VMware.
Lihat juga: Apa saja 3 Komponen Utama Kesiapan Kecerdasan Buatan?
Menggunakan teknologi NVIDIA ini, VMware berjanji untuk menyediakan layanan cloud yang terdiri dari instance bare metal Amazon EC2 yang dipercepat oleh GPU NVIDIA T4 yang menjalankan perangkat lunak vComputeServer pada VMware Cloud on AWS.
Secara kolektif, kemajuan ini tidak hanya memiliki implikasi signifikan untuk meningkatkan utilizasi GPU, mereka juga memungkinkan ilmuwan data untuk mengagregasi banyak beban kerja pada GPU yang berjalan pada server VMware yang berada on-premises atau di cloud, kata John Fanelli, vice president produk untuk NVIDIA Grid.
Meskipun minat dalam menggunakan GPU untuk membangun aplikasi kecerdasan buatan (AI) telah massal, biaya untuk membangun aplikasi tersebut seringkali melarang. Dalam hal tidak ada mesin virtual, setiap GPU sebelumnya didedikasikan untuk menjalankan satu beban kerja pada satu waktu. Dengan meningkatkan tingkat utilizasi GPU, biaya untuk membangun dan menerapkan aplikasi AI akan berkurang secara signifikan, kata Fanelli.
Itu kritis karena biaya tersebut telah mencegah organisasi untuk berinvestasi lebih banyak dalam aplikasi AI yang memiliki potensi untuk mentransformasi hampir setiap aspek kehidupan manusia.
"AI adalah teknologi paling kuat di zaman kita," kata Fanelli.
Performa beban kerja AI yang berjalan pada mesin virtual, however, akan bervariasi tergantung pada atribut individu mereka, kata Fanelli. Banyak pengembang akan dapat menindaklanjuti masalah performa dengan mengambil keuntungan dari NVIDIA CUDA toolkit untuk menjalankan beban kerja AI secara paralel, kata Fanelli.
Saat menjadi lebih terjangkau untuk membangun dan menerapkan aplikasi AI secara efisien, jumlah proyek AI yang akan diluncurkan di bulan-bulan mendatang seharusnya meningkat. Untuk mempercepat proses itu, VMware juga mengatakan bahwa pelanggan akan dapat memigrasikan beban kerja dari instance GPU yang berjalan di data center lokal ke cloud menggunakan alat VMware HCX yang mengotomatisasi perpindahan mesin virtual dan mempercepat transfer data antara platform.
GPU yang diakses terutama di cloud telah menjadi platform pilihan untuk pelatihan model AI karena bagaimana GPU mengelola overhead memori dan I/O. Namun, NVIDIA telah berusaha dengan keberhasilan campuran untuk juga mengandalkan GPU untuk menjalankan mesin inferensi yang diperlukan untuk menjalankan model AI tersebut sebagai gantinya server x86. Dengan menambahkan dukungan untuk mesin virtual server ke perangkat lunaknya, seharusnya menjadi jauh lebih dapat dilakukan untuk menjalankan banyak mesin inferensi pada platform GPU yang sama dengan cara yang sama mesin inferensi diterapkan pada platform x86.
Tentu saja, memiliki akses ke sumber daya infrastruktur tambahan tidak selalu menjamin keberhasilan AI. Namun, sumber daya tersebut akan sangat membantu dalam mengurangi biaya dari kesalahan selama proses pengembangan AI.
