Dewan Pengawas Meta melaporkan bahwa metode yang digunakan oleh Meta untuk mengidentifikasi konten deepfake saat ini “tidak cukup kuat atau komprehensif”. Penilaian ini muncul di tengah maraknya penyebaran informasi yang salah, terutama selama konflik bersenjata seperti yang terjadi di Iran. Dewan Pengawas, yang berfungsi sebagai badan semi-independen untuk memberikan panduan tentang praktik moderasi konten Meta, mendesak perusahaan untuk melakukan perombakan dalam cara mereka menampilkan dan memberi label konten yang dihasilkan oleh AI di platform seperti Facebook, Instagram, dan Threads.
Panggilan untuk tindakan ini berakar dari penyelidikan terhadap video AI palsu yang menunjukkan kerusakan bangunan di Israel, yang dibagikan di platform sosial Meta tahun lalu. Dewan menegaskan bahwa rekomendasi mereka sangat relevan saat ini, mengingat adanya “eskalasi militer besar-besaran” di Timur Tengah dalam beberapa waktu terakhir. Dalam pengumumannya, Dewan menyatakan bahwa akses terhadap informasi yang akurat dan dapat dipercaya sangat penting untuk keselamatan masyarakat, terutama di tengah risiko tinggi penggunaan alat AI untuk menyebarkan disinformasi.
Temuan dan Rekomendasi Dewan Pengawas
Dewan Pengawas menyatakan, “Temuan ini menyoroti bahwa sistem Meta saat ini untuk melabeli konten AI terlalu bergantung pada pengungkapan diri penggunaan AI dan peninjauan yang meningkat, dan tidak memenuhi realitas lingkungan online saat ini.” Kasus ini juga menunjukkan tantangan dalam penyebaran konten di berbagai platform, di mana konten yang tampaknya berasal dari TikTok muncul di Facebook, Instagram, dan X.
Rekomendasi yang dikeluarkan oleh Dewan mencakup dorongan bagi Meta untuk memperbaiki aturan yang ada mengenai disinformasi, khususnya terkait dengan deepfake yang menipu. Mereka juga meminta agar Meta menetapkan standar komunitas baru yang terpisah untuk konten yang dihasilkan oleh AI. Selain itu, Meta diminta untuk mengembangkan alat deteksi AI yang lebih baik, transparan mengenai sanksi untuk pelanggaran kebijakan AI, dan memperluas upaya pelabelan konten AI.
Pentingnya Tindakan Segera
Dewan menekankan perlunya penambahan label “AI Berisiko Tinggi” pada gambar dan video sintetis secara lebih sering. Mereka juga menyarankan agar adopsi C2PA (Content Credentials) ditingkatkan agar informasi terkait konten yang dihasilkan oleh AI dapat “jelas terlihat dan diakses oleh pengguna.” Dewan juga mengungkapkan keprihatinan atas laporan bahwa Meta “tidak konsisten” dalam menerapkan standar C2PA, bahkan pada konten yang dihasilkan oleh alat AI mereka sendiri, dengan hanya “sebagian” hasil AI Meta yang diberi label dengan benar.
Walaupun Meta tidak terikat untuk menerapkan rekomendasi ini, langkah-langkah tersebut sejalan dengan kekhawatiran yang diungkapkan oleh kepala Instagram, Adam Mosseri, tahun lalu mengenai perlunya meningkatkan cara mengidentifikasi foto dan video yang autentik di platform Meta.
Dampak bagi Pengguna di Indonesia
Bagi pengguna di Indonesia, situasi ini semakin menekankan pentingnya kesadaran terhadap informasi yang beredar di media sosial. Dengan meningkatnya potensi penyebaran disinformasi melalui alat AI, masyarakat harus lebih kritis dalam menilai sumber informasi. Jika Meta tidak melakukan perbaikan yang diperlukan, risiko penyebaran berita palsu akan semakin meningkat, yang dapat memicu dampak sosial dan politik di berbagai negara, termasuk Indonesia.
Kesimpulan
Dewan Pengawas Meta menyoroti fakta bahwa perusahaan perlu segera memperbaiki sistem moderasi deepfake mereka untuk melindungi pengguna dari disinformasi. Dengan keadaan dunia yang semakin kompleks dan penggunaan AI yang semakin luas, penting bagi platform sosial untuk memastikan bahwa informasi yang disampaikan akurat dan dapat dipercaya.