Selasa Teknis:Menguasai AgentOps untuk Penerapan AI Perusahaan

Agen AI beralih dari demo ke beban kerja produksi yang menyentuh data nyata, sistem nyata, dan hasil bisnis nyata. Menurut laporan AI Agents Insights tahun 2025 dari G2, 57% perusahaan telah menjalankan agen AI dalam tahap produksinya, yang merupakan sebuah sinyal jelas bahwa hal ini tidak lagi bersifat eksperimental. Namun dengan penerapan produksi, muncul beban operasional baru:kontrol akses alat, kemampuan audit, deteksi penyimpangan, dan pencegahan biaya yang tidak terkendali.

Pergeseran ini menuntut disiplin operasi baru bagi para pemimpin TI dan teknologi.

AgentOps, kependekan dari operasi agen, adalah serangkaian praktik yang muncul untuk mengelola siklus hidup penuh agen AI dalam produksi. Ini memperluas prinsip-prinsip dari DevOps dan MLOps ke sistem agen, dengan fokus pada keandalan, tata kelola, transparansi, keamanan, dan pengendalian biaya.

Tidak seperti operasi perangkat lunak tradisional, AgentOps harus menghadapi perilaku non-deterministik, penggunaan alat otonom, dan penalaran yang bergantung pada konteks. Ini adalah tantangan-tantangan yang tidak dapat diatasi oleh pemantauan konvensional, seperti yang telah dibuktikan dalam penelitian baru. Wang dkk. (2025) meresmikan hal ini dalam survei mereka, “A Survey on AgentOps,” yang mengusulkan kerangka kerja operasional empat tahap (pemantauan, deteksi anomali, analisis akar masalah, dan resolusi) yang secara khusus diadaptasi untuk sistem agen yang didukung model bahasa besar (LLM).

Posting ini menguraikan praktik terbaik untuk AgentOps perusahaan. Hal ini mencakup tujuan dan batasan, konektivitas alat dan data, orkestrasi untuk proses yang berjalan lama, tata kelola siklus hidup, pola human-in-the-loop, dan optimalisasi berkelanjutan melalui evaluasi dan telemetri operasional. Nantinya, kami memetakan praktik ini pada bagaimana UiPath Platform™ mendukung orkestrasi agen dalam produksi.

Daftar periksa AgentOps yang dapat Anda gunakan kembali

Sebelum memasukkan agen ke dalam produksi, tim harus dapat menjawab pertanyaan-pertanyaan berikut dengan jelas:

• Tahukah kita apa tanggung jawab masing-masing agen, dan siapa pemiliknya?

• Bisakah kita mengontrol alat apa yang boleh digunakan oleh agen, dan dengan masukan apa?

• Bisakah kami menjelaskan apa yang dilakukan agen pada proses tertentu, termasuk alat apa yang dipanggil dan data apa yang digunakan?

• Bisakah kita memvalidasi perilaku agen sebelum rilis, bukan hanya hasil tetapi juga pilihan alat dan jalur eksekusi?

• Bisakah kita mendeteksi penyimpangan dan regresi menggunakan kriteria evaluasi yang konsisten dari waktu ke waktu?

• Bisakah kita membatasi dan memperkirakan pemicu biaya seperti panggilan model, percobaan ulang, ukuran konteks, dan durasi orkestrasi?

• Bisakah kita meluncurkan perubahan secara aman dengan kontrol versi, promosi lingkungan, dan rollback?

• Apakah kita memiliki model human-in-the-loop yang jelas untuk tindakan dan pengecualian yang berdampak besar?

Dari perintah hingga agen operasional:tujuan, pagar pembatas, dan kepercayaan

Agen produksi memerlukan tujuan, batasan, dan akuntabilitas yang jelas. Pemerintah harus mempunyai kejelasan mengenai hasil yang menjadi tanggung jawabnya, kebijakan yang harus dipatuhi, bukti atau pembenaran apa yang diperlukan, dan kapan harus menyerahkan keputusan tersebut kepada seseorang.

Praktik terbaik pertama adalah menentukan tujuan, batasan, dan aturan eskalasi setiap agen sebelum penerapan.

Organisasi harus menerapkan tata kelola berlapis sehingga perilaku agen tetap selaras dengan persyaratan keamanan dan kepatuhan. Minimal, tata kelola harus mencakup siapa yang dapat membangun dan mempublikasikan agen AI, model mana yang dapat digunakan, data dan alat apa yang dapat dijangkau saat runtime, dan tindakan apa yang diperbolehkan tanpa pengawasan manusia.

Agen AI harus dibatasi oleh batasan alat yang menentukan alat mana yang dapat dipanggil, input apa yang diizinkan, efek samping apa yang diperbolehkan, dan kapan panggilan alat harus diblokir atau dialihkan ke manusia.

Melalui pengalaman pengembangan berkode rendah dan berkode, tim harus dapat menentukan buku aturan agen mereka (perilaku, akses alat, dan batasan waktu proses) secara terstruktur, tepercaya, dan transparan. Penilaian, evaluasi, dan pemantauan bawaan membantu menjaga konsistensi kinerja agen dan mencegah penyimpangan dan regresi.

Sama pentingnya, tim memerlukan cara yang aman untuk menguji bagaimana agen berperilaku sebelum terhubung ke sistem langsung. Mampu memvalidasi dan menghasilkan skenario runtime baru sebelum produksi melalui simulasi membantu mengetahui kerapuhan integrasi sejak dini, mengurangi kejutan runtime, dan membangun keyakinan bahwa agen akan berperilaku andal saat terhubung ke aplikasi perusahaan nyata. Pengguna harus dapat membuat skenario masukan yang mungkin ditemui agen mereka, dan jika diperlukan, panggilan alat tiruan dalam proses debug dan evaluasi dilakukan secara menyeluruh. Hal ini memudahkan untuk melihat apakah agen memilih alat yang tepat, meneruskan masukan yang valid, menangani kegagalan alat dengan baik, dan memberikan hasil yang diharapkan tanpa membahayakan sistem atau data langsung.

Menghubungkan agen AI ke alat dan data perusahaan

Untuk menciptakan nilai bisnis, agen AI harus terhubung ke aplikasi perusahaan seperti manajemen hubungan pelanggan (CRM), perencanaan sumber daya perusahaan (ERP), tiket, repositori pengetahuan, dan API internal, termasuk sistem yang tidak memiliki API bersih.

Praktik terbaik AgentOps yang utama adalah akses alat yang terkontrol. Alat harus eksplisit, diatur, dan dapat diaudit. Dalam praktiknya, ini berarti agen tidak boleh melakukan tindakan sewenang-wenang dengan cara yang tidak terkendali. Ini harus beroperasi melalui antarmuka yang disetujui dengan input dan output yang ditentukan, validasi, logging, dan penanganan kesalahan.

Setiap pemanggilan alat harus dapat diamati dan diaudit sehingga operator dapat memahami apa yang terjadi dan alasannya.

Pendekatan standar terhadap alat dan konteks penerbitan dapat membantu tim menskalakannya dengan aman. Misalnya, server Model Context Protocol (MCP) menyediakan cara terstruktur untuk mengekspos sumber daya perusahaan ke agen dalam format yang konsisten dan dapat ditemukan sambil menerapkan kontrol otentikasi, otorisasi, dan kebijakan. Standardisasi juga memungkinkan penggunaan kembali di seluruh agen dan alur kerja, sehingga aset otomatisasi tepercaya dapat dibagikan dengan aman dan konsisten.

Organisasi juga memerlukan pola penerapan yang fleksibel. Agen AI mungkin menambah proses deterministik dengan penalaran, ditampilkan sebagai alat yang dapat digunakan kembali, atau dijalankan sebagai komponen mandiri yang diatur sebagai bagian dari alur kerja bisnis yang lebih luas. Fleksibilitas penting karena memungkinkan adopsi bertahap sambil menjaga kontrol, keamanan, dan keandalan operasional.

Tata kelola siklus hidup:agen pengelola sebagai aset perusahaan

Seiring dengan skala penerapan agen, organisasi harus memperlakukan agen sebagai aset perusahaan. Praktik terbaik mencakup pemeliharaan inventaris agen, kepemilikan yang jelas, pembuatan versi, izin, dan visibilitas terhadap apa yang disentuh oleh setiap agen.

Para eksekutif dan tim risiko memerlukan jawaban yang jelas mengenai agen apa yang ada, siapa pemiliknya, data dan sistem apa yang mereka akses, proses apa yang bergantung pada agen tersebut, dan versi apa yang berjalan di lingkungan apa.

Pendekatan siklus hidup ini bergantung pada identitas, manajemen akses, dan kemampuan penelusuran. Agen harus berjalan di bawah cakupan identitas dengan izin hak istimewa paling rendah. Tata kelola harus menegakkan siapa yang dapat membangun, menyebarkan, dan mengoperasikan agen, dan perilaku runtime apa yang diizinkan. Pendekatan berkode rendah dan berkode keduanya dapat berperan. Kode rendah dapat membuat logika dapat ditinjau dan kolaboratif, sementara jalur berkode dapat memungkinkan validasi yang lebih kuat, pustaka bersama, dan penegakan kebijakan terstandarisasi di seluruh tim.

Transparansi juga sama pentingnya. AgentOps tingkat produksi memerlukan kemampuan untuk memahami apa yang dilakukan agen AI, alat apa yang dipanggil, input dan output apa yang terlibat, dan alasan pengambilan keputusan. Ketertelusuran ini mendukung audit, peninjauan insiden, dan pembangunan kepercayaan di seluruh pemangku kepentingan teknis dan bisnis.

Visibilitas operasional pada tingkat instans adalah saat dimana hal ini menjadi nyata dalam skala besar. Tim memerlukan pandangan agregat di seluruh armada agen, termasuk kemampuan untuk memutar ulang sesi, melihat tren keandalan berdasarkan agen atau versi, dan memahami integrasi mana yang paling sering digunakan dan mana yang gagal.

Pandangan ini penting karena, tanpa mereka, organisasi akan mengelola agen secara diam-diam, dan tidak dapat mengetahui apakah lonjakan biaya disebabkan oleh satu agen yang salah dikonfigurasi atau masalah sistemik di seluruh armada.

Manusia dalam lingkaran sebagai pola kelas satu

Pengawasan manusia tetap penting bagi banyak alur kerja perusahaan. Cara terbaik untuk merancang langkah-langkah yang bersifat human-in-the-loop adalah dengan merencanakannya secara proaktif, bukan hanya sebagai langkah mundur. Orang mungkin menyetujui tindakan yang berdampak besar, memperbaiki keluaran, memberikan konteks yang hilang, atau mengambil alih skenario pengecualian.

AgentOps harus mendukung langkah-langkah aktivitas manusia yang eksplisit seperti persetujuan, peninjauan, dan penanganan pengecualian. Agen harus dikonfigurasi untuk melakukan eskalasi berdasarkan ambang batas keyakinan, risiko transaksi, atau batasan kebijakan. Hal ini menciptakan model operasi yang terkendali di mana AI menangani kasus-kasus rutin dan orang-orang mengatur kasus-kasus rumit dan keputusan-keputusan berisiko tinggi.

Pengoptimalan berkelanjutan:menjaga agen AI tetap andal dan berkembang

Menyebarkan agen adalah awal dari siklus hidupnya, bukan akhir. Dalam produksi, agen menghadapi masukan baru, data yang berkembang, dan sistem yang berubah. Kekhawatiran utama yang muncul adalah penyimpangan agen, di mana kinerja agen dalam produksi berbeda dibandingkan selama evaluasi karena perubahan dalam tujuan, konteks, alasan, atau interaksi alat. Drift dapat terwujud dalam beberapa cara. Distribusi tugas yang masuk bergeser, data yang mendasari atau sumber pengetahuan berubah, perilaku LLM berkembang di seluruh versi model, atau integrasi dengan alat eksternal menurun.

Deteksi penyimpangan yang berkelanjutan harus menjadi tanggung jawab inti AgentOps, dihitung secara berkala, dibandingkan dengan garis dasar, dan memicu remediasi ketika ambang batas terlampaui.

Filosofi pembangunan berbasis evaluasi memperlakukan evaluasi sebagai artefak kelas satu sepanjang siklus hidup ini, bukan gerbang yang hanya dilakukan satu kali saja. Evaluasi waktu desain dan pasca penerapan membentuk lingkaran berkelanjutan yang mendefinisikan kualitas, mengukurnya secara konsisten, dan memandu iterasi yang aman seiring berkembangnya agen.

Evaluasi waktu desain dan waktu proses didasarkan pada sinyal kualitas yang konsisten

Pada waktu desain, evaluasi menetapkan apa yang “baik” sebelum agen mencapai produksi, yang mencakup hasil dan perilaku yang penting, seperti pemilihan alat, keputusan perantara, dan lintasan eksekusi.

Setelah penerapan, kriteria yang sama dapat diterapkan pada proses produksi nyata menggunakan jejak eksekusi. Hasil dari kedua fase tersebut harus digabungkan menjadi sinyal performa yang konsisten untuk melacak kualitas dari waktu ke waktu, membandingkan versi, dan mendeteksi regresi sejak dini, sambil tetap memungkinkan tim menelusuri akar permasalahan.

Optimasi, masukan, dan memori sebagai bagian dari loop

Hasil evaluasi lebih dari sekadar mengukur kualitas. Mereka harus secara aktif mendorong perbaikan. Umpan balik manusia dan hasil operasional dapat dihubungkan kembali ke evaluasi dan penelusuran, memperluas rangkaian regresi dan, jika sesuai, menginformasikan memori agen yang diatur.

Bersama-sama, evaluasi, putaran umpan balik yang terkontrol, dan praktik memori yang disiplin menciptakan sistem yang memungkinkan agen berkembang melalui perubahan yang terukur, dapat dijelaskan, dan terus divalidasi.

Manajemen biaya sebagai disiplin AgentOps

Agen AI memperkenalkan penggerak biaya dinamis yang terkait dengan perilaku waktu proses. Panggilan model, penggunaan alat, percobaan ulang, durasi orkestrasi, dan ukuran konteks semuanya bertambah.

Biaya harus diperlakukan sebagai perhatian kelas satu sejak dini.

Tim harus dapat membandingkan efisiensi di seluruh versi agen sebelum penerapan, mengidentifikasi lintasan yang boros atau penggunaan alat yang tidak perlu, dan menangkap konteks yang terlalu besar sebelum menjadi mahal dalam produksi.

Dalam produksi, organisasi memerlukan visibilitas biaya per proses, per agen, dan secara agregat, sehingga operator, admin, dan pemimpin bekerja dari sumber kebenaran yang sama. Batasan dan peringatan membantu mencegah pembelanjaan yang tidak terkendali, sementara kontrol orkestrasi seperti percobaan ulang, batas waktu, dan jalur eskalasi membatasi eksekusi. Secara keseluruhan, hal ini memungkinkan pengoptimalan biaya berkelanjutan di mana perubahan dievaluasi kualitas dan efisiensinya sebelum dirilis dan divalidasi dengan data eksekusi nyata setelah peluncuran.

Standarisasi dan penerapan pada skala perusahaan

Penskalaan otomatisasi agen memerlukan model operasi berulang di mana agen baru mewarisi pola yang telah terbukti secara default. Standardisasi mengurangi variasi antar tim sekaligus memastikan pengendalian kualitas, keamanan, dan biaya diterapkan secara konsisten. Struktur yang dapat digunakan kembali, kontrak alat yang konsisten, dan pendekatan evaluasi bersama membantu tim bergerak lebih cepat tanpa mempelajari kembali pembelajaran yang sama.

Pada saat runtime, organisasi mendapat manfaat dari bidang kendali terpadu yang mengatur eksekusi terlepas dari bagaimana agen dibuat. Masalah umum seperti persetujuan, percobaan ulang, penanganan pengecualian, dan keterlibatan manusia harus diterapkan satu kali dan digunakan kembali di seluruh alur kerja. Aset, kebijakan, dan pagar pembatas bersama harus menyebarkan perbaikan di seluruh armada agen, sekaligus mendukung kode rendah dan kode sehingga tim dapat beralih dari eksperimen ke produksi yang lebih ketat tanpa memutus siklus hidup atau kehilangan visibilitas terhadap biaya dan penggunaan seiring meningkatnya skala.

Bagaimana UiPath mendukung AgentOps dalam praktiknya

Tujuan, pagar pembatas, dan kepercayaan

UiPath memberikan landasan kepercayaan dan tata kelola yang dirancang untuk menyelaraskan perilaku agen dengan persyaratan keamanan dan kepatuhan perusahaan. Organisasi dapat menerapkan tata kelola berlapis:

• Tata kelola agen:pagar kebijakan tingkat platform menegakkan akses pengembang, penggunaan LLM, memeriksa nilai skor agen pada acara publikasi, dan akses data. Agen dapat dirancang dengan LLM dan pagar pembatas alat yang membatasi cara agen berinteraksi dengan sistem perusahaan, termasuk alat mana yang dapat dipanggil, input apa yang diizinkan, efek samping apa yang diperbolehkan, dan kapan panggilan alat harus diblokir atau dialihkan ke manusia.

• Tata kelola TI:UiPath memberikan identitas untuk artefak yang dapat dijalankan, melacak kontrol akses berbasis peran (RBAC), deteksi informasi pengidentifikasi pribadi (PII) dalam penerbangan, dan tata kelola data untuk melindungi otomatisasi agen yang sensitif. Akses disengaja dan transparan.

• Tata kelola infrastruktur:residensi data, enkripsi, batasan jaringan, penguatan keamanan, dan kepatuhan terhadap standar seperti Peraturan Perlindungan Data Umum (GDPR), Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan tahun 1996 (HIPAA), Program Manajemen Risiko dan Otorisasi Federal (FedRAMP®), dan ISO 27001.

UiPath juga mendukung pembangunan kepercayaan diri pra-produksi melalui simulasi. Pengguna dapat menggunakan bahasa alami untuk menghasilkan skenario masukan yang mungkin ditemui agen mereka saat dipanggil. Mereka juga dapat memilih untuk meniru panggilan alat dalam proses debug dan evaluasi secara menyeluruh untuk memahami lintasannya. Hal ini membantu memvalidasi pemilihan alat, kebenaran masukan, ketahanan terhadap kegagalan alat, dan hasil yang diharapkan tanpa membahayakan sistem atau data langsung.

Konektivitas alat dan data

Di Platform UiPath, “alat” adalah integrasi dan otomatisasi nyata dengan input dan output yang ditentukan, validasi, logging, dan penanganan kesalahan. Setiap pemanggilan alat dapat dipantau, dilacak, dan diatur.

UiPath juga mendukung server MCP sebagai cara standar untuk mengekspos otomatisasi dan sumber daya perusahaan kepada agen. Server MCP bertindak sebagai gerbang terkelola yang mempublikasikan alat, tindakan, dan konteks dalam format yang konsisten dan dapat ditemukan sambil menerapkan autentikasi, otorisasi, dan kontrol kebijakan. Server MCP selanjutnya memungkinkan penggunaan kembali di seluruh agen dan alur kerja, memastikan aset otomatisasi tepercaya yang sama dapat dibagikan dengan aman dan konsisten.

UiPath mendukung pola penerapan yang fleksibel. Agen dapat disematkan untuk menambah proses deterministik dengan penalaran, diekspos melalui MCP sebagai agen atau alat yang dapat digunakan kembali, atau diterapkan sebagai komponen agen mandiri yang diatur sebagai bagian dari alur kerja bisnis yang lebih luas di UiPath Maestro™.

Tata kelola siklus hidup dan ketertelusuran

Setiap agen dapat berjalan dengan identitas tercakup dengan izin hak istimewa paling rendah. Tata kelola platform menetapkan siapa yang dapat membangun, menyebarkan, dan mengoperasikan agen, serta perilaku runtime apa yang diizinkan. Pendekatan yang berkode rendah dan berkode membantu menjaga tata kelola dalam skala besar.

Layanan penelusuran UiPath menyediakan log runtime terperinci tentang status agen, pemanggilan alat, dan penjelasan dari alasan LLM di loop agen. Ini tersedia pada waktu desain, waktu evaluasi, dan waktu proses untuk semua agen yang dikelola di UiPath dan dapat diperluas melalui OTEL ke vendor intelijen bisnis yang didukung.

UiPath menampilkan tampilan agregat di seluruh armada agen, termasuk pemutaran ulang sesi, dasbor tingkat kegagalan yang mengungkapkan tren keandalan per agen atau versi, dan statistik penggunaan alat.

Pola manusia dalam lingkaran

UiPath mendukung langkah-langkah aktivitas manusia yang eksplisit seperti persetujuan, peninjauan, dan penanganan pengecualian. Agen dapat dikonfigurasi untuk melakukan eskalasi berdasarkan ambang batas keyakinan, risiko transaksi, atau batasan kebijakan.

Evaluasi, pengoptimalan, dan memori terkontrol

Hasil evaluasi waktu desain dan waktu proses digabungkan ke dalam Skor Agen, sinyal performa yang konsisten untuk melacak kualitas dari waktu ke waktu, membandingkan versi, dan mendeteksi regresi sejak dini.

Fitur pengoptimalan di UiPath Maestro™ dan Agent Builder di UiPath Studio menilai data evaluasi dan runtime untuk membuat saran terukur untuk perbaikan yang dapat diterapkan kembali ke definisi yang sesuai. Umpan balik manusia dan hasil operasional dapat dihubungkan kembali ke evaluasi dan penelusuran, memperluas rangkaian regresi dan, jika sesuai, menginformasikan memori agen yang diatur.

Manajemen biaya dan eksekusi terbatas

UiPath memberikan visibilitas biaya per proses, per agen, dan agregat. Batasan dan peringatan pemberian lisensi yang ketat mencegah pembelanjaan yang tidak terkendali, sementara kontrol orkestrasi seperti percobaan ulang, batas waktu, dan jalur eskalasi membatasi eksekusi.

Standarisasi dan orkestrasi

Saat runtime, UiPath Maestro bertindak sebagai bidang kontrol pemersatu yang mengatur eksekusi terlepas dari cara agen dibuat. Masalah umum seperti persetujuan, percobaan ulang, penanganan pengecualian, dan keterlibatan manusia diterapkan satu kali dan digunakan kembali di seluruh alur kerja. Aset, kebijakan, dan batasan bersama menyebarkan peningkatan di seluruh armada agen AI.

Ringkasan

AgentOps mengubah agen AI menjadi kemampuan perusahaan yang tahan lama. Hal ini menuntut tata kelola, transparansi, rekayasa keandalan, ketelitian evaluasi, dan pengendalian biaya.

Kombinasi Maestro dan Agent Builder dari Platform UiPath di UiPath Studio mendukung persyaratan ini dengan memadukan pembuatan dan evaluasi agen dengan orkestrasi yang tahan lama dan tata kelola perusahaan. Bersama-sama, mereka mendukung model perusahaan di mana agen menangani interpretasi dan perencanaan, otomatisasi menjalankan langkah-langkah deterministik, dan orang-orang tetap memegang kendali melalui persetujuan dan pengawasan.

Ini adalah landasan yang dibutuhkan perusahaan untuk meningkatkan otomatisasi agen secara aman dan kredibel. Agen AI beroperasi sebagai aset yang diatur dalam proses bisnis nyata, dengan akuntabilitas yang jelas, kinerja yang terukur, dan peningkatan berkelanjutan.