Mengatasi Bias Pelatihan di AI: Toolkit AI Fairness 360 IBM
Mengatasi Bias Pelatihan di AI: Toolkit AI Fairness 360 IBM
Keadilan adalah tiang tangga kecerdasan buatan yang bertanggung jawab. Namun, menentukan dan memberlakukannya tetap menjadi tantangan yang kompleks—terutama ketika teknologi digunakan dalam domain berisiko tinggi seperti kesehatan, perekrutan, dan kendaraan otonom.
Pendekatan Baru IBM
IBM Research meluncurkan AI Fairness 360, layanan deteksi dan mitigasi bias berbasis cloud yang memungkinkan organisasi untuk menguji dan memverifikasi keadilan sistem AI mereka. Toolkit ini dibangun pada metrik dan algoritma open-source yang mengukur bias di seluruh dataset dan model.
Kesenjangan Keadilan dalam Praktik AI Saat Ini
Menurut Saska Mojsilovic, Fellow di IBM Research, industri secara tradisional telah mengutamakan akurasi atas keadilan. Dia mencatat bahwa pertanyaan pertama yang biasanya ditanyakan tentang AI adalah, “Bisakah mesin mengalahkan manusia?” Sebaliknya, Mojsilovic berpendapat, “Bagaimana dengan keadilan?” dan memperingatkan bahwa bias yang tidak terkendali dapat mengakibatkan hasil yang berbahaya di sektor vital.
Membongkar Keadilan
Untuk membuat konsep dapat ditindaklanjuti, tim IBM memulai dengan memecah keadilan menjadi komponen yang dapat diukur. Kush Varshney, Ilwan Penyelidik di IBM, menjelaskan bahwa mereka memeriksa keadilan baik di tingkat individu maupun kelompok, mempertimbangkan atribut seperti jenis kelamin dan ras, serta implikasi hukum dan peraturan. Hasilnya adalah sekumpulan 30 metrik yang berbeda yang mengevaluasi bias dalam data, model, dan proses pengambilan keputusan.
Mengukur dan Mengurangi Bias
Toolkit AI Fairness 360 menggabungkan metrik ini dan menawarkan algoritma tidak hanya untuk mendeteksi bias tetapi juga untuk mengdebias model. Tujuannya adalah untuk memberikan wawasan yang dapat ditindaklanjuti kepada pengembang yang dapat diterapkan selama siklus hidup AI.
Mengurangi bias selama siklus hidup AI (Sumber: IBM)
Kolaborasi Multidisiplin
Mengenali bahwa keadilan melampaui ilmu komputer, IBM telah melibatkan sarjana dari etika, hukum, dan ilmu sosial. Varshney telah berpresentasi di Konferensi Etika Uehiro-Carnegie-Oxford, sementara Mojsilovic berpartisipasi dalam bengkel AI di UC Berkeley Law School. Kolaborasi mereka memastikan bahwa toolkit mencerminkan ketelitian teknis dan nilai sosial.
Apakah Algoritma Netral?
Sarjana ilmu sosial seperti Young Mie Kim dari University of Wisconsin—Madison menitikberatkan bahwa bias AI dapat muncul di setiap tahap—dari sampling data hingga pelatihan model. Dalam studinya “Algorithmic Opportunity: Digital Advertising and Inequality of Political Involvement,” Kim menunjukkan bagaimana keputusan algoritma dapat memperkuat kesenjangan yang ada. Dia memperingatkan bahwa klaim bahwa algoritma “netral” mengabaikan bias yang tertanam yang muncul selama pengembangan dan penerapan.
Dengan menyediakan metrik yang transparan dan strategi mitigasi, AI Fairness 360 memberdayakan organisasi untuk membangun sistem AI yang tidak hanya akurat tetapi juga adil.
