Membangun AI yang Bertanggung Jawab dan Dapat Dipercaya: Panduan tentang Explainability, Accountability, dan Etika
Scott Zoldi of FICO
Sementara kecerdasan buatan meresap ke setiap industri, “melakukan yang terbaik” tidak lagi cukup. Dalam tulisan ini, Dr. Scott Zoldi, chief analytics officer di FICO, menjelaskan mengapa AI yang bertanggung jawab menjadi norma baru industri dan tiga pilar dasar yang harus diadopsi setiap organisasi.
AI telah mengubah kesehatan, ritail, perbankan, asuransi, dan bahkan respons global terhadap COVID-19. Namun, pertumbuhan meledaknya data yang dihasilkan secara digital dan otomatisasi pengambilan keputusan menciptakan tantangan baru—terutama sekitar transparansi bagaimana algoritma mencapai kesimpulan mereka.
Saat sistem AI membuat keputusan yang langsung mempengaruhi orang, alasan di balik keputusan itu dapat terasa jauh atau acak. Dalam beberapa kasus, perusahaan telah membela hasil yang tidak populer dengan menyebutkan data dan algoritma, menimbulkan kecemasan ketika pemimpin terkenal membuat kesalahan yang mempengaruhi nyawa.
Insiden terkenal menyoroti risiko: chatbot Microsoft pada 2016 yang menampilkan konten rasisme, alat rekrutmen yang didorong AI Amazon pada 2018 yang menyinggih calon perempuan, dan tabrakan Autopilot Tesla pada 2019 yang salah mengidentifikasi truk sebagai lampu lalu lintas.
Di luar hasil yang salah, bias tetap menjadi ancaman inti. Itu sebabnya regulator di seluruh dunia—seperti AI Act Uni Eropa dan pedoman emergente FTC AS—memperketat pengawasan untuk melindungi konsumen dan memastikan sistem AI berperilaku adil.
Pilar-Pilar AI yang Bertanggung Jawab
Organisasi harus menyematkan AI yang bertanggung jawab sejak awal. Tiga pilar—explainability, accountability, dan etika—menyediakan kerangka kerja yang terbukti untuk pengambilan keputusan digital yang dapat dipercaya.
Explainability: Bisnis yang mengandalkan AI harus mendokumentasikan hubungan antara variabel keputusan dan hasil akhir. Dengan membuat logika algoritma terlihat, analis dapat menginterogasi, memvalidasi, dan menyempurnakan keputusan—seperti mengapa transaksi ditandai sebagai risiko penipuan tinggi.
Accountability: Model harus dibangun dengan pemahaman yang jelas tentang keterbatasan mereka dan dengan dokumentasi yang kuat. Transparansi dalam data pelatihan, seleksi fitur, dan metodologi skor memastikan keputusan bertumbuh secara logis dengan tingkat risiko.
Kehanggaan dalam AI berarti menerapkan model hanya pada data yang mirip dengan data yang digunakan untuk melatihnya. Saat asumsi itu terpatah, fallback ke algoritma yang lebih sederhana dan lebih transparan adalah pilihan yang lebih aman.
Ethics: Etika meluas di luar keadilan ke mitigasi bias aktif. Dengan mengekstrak hubungan non-linier yang tersembunyi dalam model, tim dapat mengidentifikasi bias sosial yang tertanam dalam data pelatihan dan secara sistematis menghapusnya.
Menerapkan AI yang Bertanggung Jawab: Regulasi, Audit, Advokasi
Membangun AI yang dapat dipercaya adalah maraton, bukan lari cepat. Pengawasan berkelanjutan—melalui regulasi, audit, dan advokasi—esensial.
Regulasi menetapkan dasar hukum untuk perilaku algoritma. Namun, memenuhi huruf hukum memerlukan kepatuhan yang dapat ditunjukkan, yang di mana audit masuk.
Audit yang efektif memerlukan jejak audit yang lengkap: dari pengumpulan data dan engineering fitur hingga pengujian bias dan ambang skor. Banyak organisasi masih melakukan audit secara parsial. Kerangka audit berbasis blockchain yang muncul menjanjikan catatan yang tidak dapat diubah dari setiap iterasi model dan persetujuan pemangku kepentingan.
Singkatnya, “melakukan yang terbaik” tidak lagi cukup. Seiring pertumbuhan pengaruh AI dan kenaikan taruhan, AI yang bertanggung jawab adalah standar yang tak terelakkan—secara global dan di seluruh industri.
Untuk tetap unggul, organisasi harus secara proaktif mengadopsi pilar explainability, accountability, dan etika, dan menyatukannya ke dalam setiap tahap siklus hidup AI.
Penulis: Dr. Scott Zoldi, Chief Analytics Officer di FICO
Tentang Penulis
Dr. Scott Zoldi adalah chief analytics officer di FICO. Ia memiliki Ph.D. dalam fisika teoretis dan komputasi dari Duke University dan telah menulis 110 paten—56 diberikan dan 54 tertunda. Risetnya meliputi analitik adaptif, profil kolaboratif, dan analitik yang kalibrasi diri, dan ia menjabat dewan di Software San Diego dan Cyber Centre of Excellence.
