AI dan Viztech: Era Baru Konten Online yang Lebih Aman
Perusahaan media online kesulitan memantau materi ekstremis sebelum muncul online. David Fulton, CEO WeSee, berargumen bahwa teknologi yang didorong AI dapat mendeteksi konten berbahaya sebelum itu pernah menjadi live.
Wakil pemerintah dan akademisi telah membahas cara terbaik untuk menaklukan lonjakan konten teroris online. Sementara platform seperti Facebook, Twitter, dan YouTube menghadapi tekanan regulasi yang meningkat—lawmaker Jerman baru-baru ini menetapkan undang-undang yang mengharuskan perusahaan internet besar untuk menghapus materi “yang jelas ilegal” dalam 24 jam atau berisiko denda hingga $57 juta—kepercayaan terhadap kemampuan moderasi saat ini masih rendah.
Pada Juni, Universitas Harvard mengadopsi konferensi Harmful Speech Online: At the Intersection of Algorithms and Human Behaviour, yang diselenggarakan bersama oleh Berkman Klein Center, Shorenstein Center, dan Institute for Strategic Dialogue berbasis London. Acara ini menyoroti kesenjangan kritis antara masalah wicara berbahaya yang berkembang dan alat yang tersedia untuk mengatasinya.
Pidato pembuka menyoroti bagaimana konten ekstremis membentuk opini publik dan wacana politik, mencatat defisit sumber daya dan penelitian yang menghambat respons yang efektif.
Deteksi Otomatis: Panggilan Mendesak
Pada September, pemimpin dari Inggris, Prancis, dan Italia bertemu dengan perusahaan internet besar di Rapat Umum PBB di New York. Perdana Menteri Inggris Theresa May memperingatkan bahwa kegagalan untuk mendeteksi dan menghapus konten teroris dalam dua jam dapat memicu denda yang tinggi. Tenggat waktu ini signifikan—penelitian menunjukkan bahwa dua pertiga propaganda dibagikan dalam jendela waktu itu, menimbulkan pertanyaan apakah batas waktu itu realistis.
Google dan YouTube mengumumkan rencana untuk menskalakan sistem identifikasi konten yang didorong AI. Namun masalahnya tetap ada. Sebuah artikel Telegraph terbaru melaporkan bahwa 54.000 situs yang menawarkan instruksi pembuatan bom dan propaganda ekstremis lainnya aktif antara Agustus tahun lalu dan Mei tahun ini, semuanya terkait dengan pendukung Negara Islam.
Proyeksi Cisco menunjukkan bahwa pada tahun 2020 web akan menghosting 65 triliun gambar dan 6 triliun video, lalu lintas gambar dan video diperkirakan menyusun lebih dari 80% lalu lintas internet total dalam kurang dari tiga tahun. Memantau volume seperti itu untuk konten ekstremis adalah tugas yang menakutkan—salah satunya kecerdasan buatan canggih mungkin membantu menyelesaikan.
Viztech: Pendekatan Prediktif
Viztech, pemain pioneer dalam analisis konten visual berbasis AI, telah mengembangkan filter canggih yang dapat mendeteksi materi dewasa dan kekerasan—bersama dengan citra teroris—sebelum dipublikasikan. Dengan mengenali simbol seperti bendera ISIS atau wajah tokoh ekstremis yang dikenal, sistem Viztech dapat menandai konten dalam waktu nyata, jauh sebelum interaksi pengguna.
Dibangun pada jaringan saraf deep learning, teknologi ini beroperasi dengan kecepatan hingga 1.000 kali lebih cepat dari kognisi manusia, menawarkan filtering prediktif dan kategorisasi yang presisi dari video dan gambar statis. Dalam esensinya, Viztech beralih dari moderasi reaktif ke pencegahan proaktif, menyediakan pemerintah, peneliti, dan platform dengan alat yang kuat untuk melindungi ekosistem online.
David Fulton, CEO of WeSee
