Kubernetes Memberdayakan Start-up AI dengan Solusi Terkontainer yang Skalabel
Carmine Rimi, manajer produk AI di Canonical (tim di balik Ubuntu), berbagi wawasan tentang interseksi AI dan Kubernetes.
Studi Universitas Stanford melaporkan kenaikkan 14 kali lipat startup AI sejak 2000, sementara pengembang AI di Inggris mengalami lonjakan 200% pendanaan venture capital hanya tahun lalu. Angka ini mengundur permintaan yang meningkat untuk infrastruktur AI yang andal dan skalabel.
Membangun aplikasi AI secara inheren kompleks. Pengembang harus mengelola ekstraksi fitur, verifikasi pengumpulan data, analisis statistik, dan orkestrasi sumber daya sebelum bahkan menulis satu baris kode ML. Pemeliharaan berkelanjutan diperlukan untuk menjaga model tetap terkini dan aman.
Contain yourself
Sebagai respons, industri telah beralih ke Kubernetes—platform open source gratis yang mengotomatisasi penerapan dan manajemen beban kerja terkontainer, termasuk pipeline AI dan pembelajaran mesin. Dengan mengabstrak detail infrastruktur, Kubernetes memungkinkan tim untuk berfokus pada pengembangan model daripada overhead operasional.
Forrester baru-baru ini menyatakan bahwa "Kubernetes telah memenangkan perang orkestrasi kontainer dominasi dan harus menjadi inti dari rencana mikrolayanan Anda." Kontainer menyediakan lingkungan yang ringan dan portabel yang dapat dengan mudah diskalakan melalui sumber daya on-premise atau cloud, memungkinkan layanan AI monolitik dipecah menjadi mikrolayanan modular yang dapat dirawat.
Survei Cloud Native Computing Foundation menunjukkan bahwa sebagian besar pengembang sudah memanfaatkan Kubernetes di berbagai tahap siklus hidup AI—dari pelatihan hingga inferensi. Kubernetes unggul dalam menskalakan model pembelajaran dalam yang intensif komputasi dan mengelola kumpulan data besar pada server komoditas.
Di luar pelatihan, Kubernetes mendukung inferensi terdistribusi di perangkat edge dan pusat data pusat, menyederhanakan skenario penerapan yang sebaliknya memerlukan solusi non-kontainer yang khusus.
Changing focus
Saat bisnis mengadopsi AI untuk mengurangi biaya, meningkatkan pengambilan keputusan, dan menyampaikan pengalaman yang dipersonalisasi, kontainer berbasis Kubernetes telah muncul sebagai platform pilihan. Pada Desember 2020, proyek Kubernetes memperkenalkan Kubeflow, kerangka kerja yang menyederhanakan alur kerja pembelajaran mesin di Kubernetes.
Awalnya dirancang untuk layanan stateless, Kubernetes sekarang mendukung beban kerja AI yang kompleks dan stateful berkat API yang kaya, keandalan, dan performa. Pada 2017, hanya Google Kubernetes Engine (GKE) Google Cloud Platform yang mendukung platform ini; kini, setiap cloud besar—AKS Microsoft Azure, EKS Amazon, dan lainnya—menawarkan layanan Kubernetes terkelola.
Adopsi cepat Kubernetes oleh perusahaan dan penyedia cloud menunjukkan efektivitasnya dalam memberikan repeatability, fault tolerance, dan skalabilitas untuk aplikasi AI. Kubernetes telah menjadi standar de facto untuk mengelola beban kerja AI terkontainer, dan manfaatnya diproyeksi akan tumbuh seiring adopsi AI yang berlanjut.
Penulis adalah Carmine Rimi, manajer produk AI di Canonical.
