Sosyal medya devi Facebook, yoğun eleştirilerin ardından nefret söylemine karşı sert önlemler almaya başladı. Özellikle yapay zeka çalışmalarının artmasıyla, nefret söylemlerine önceden yapılan müdahalede ciddi artış görüldü.
Nefret söylemini yaymaya aracılık etmekle suçlanan ve ağır eleştirlere maruz kalan Facebook, önlemlerini artırdı.
Şirket, gazetecilerin ve aktivistlerin dijital güvenliğini artırmak amacıyla Facebook, söz konusu kullanıcı gruplarına “kamuya açık kişiler” statüsü vereceğini ve taciz ve zorbalığı önlemek için uygulanan güvenlik önlemlerini etkin bir şekilde artıracağını duyurdu.
Nefret söylemlerine müdahale arttı
Yalnızca Nisan ve Haziran 2021 arasında Facebook, nefret söylemi içeren 31,5 milyon içeriği kaldırdı veya nefret söylemi içeriği olarak işaretledi.
İlk çeyrekte bu sayı 25,2 milyon olarak görüldü.
Nefret içerikli gönderiler ve yorumlarla karşılaşan kullanıcıların yaygınlık oranının da yaklaşık yüzde 0,05’e düştüğü iddia ediliyor, bu da nefret söylemi içeren 10 bin içerikten beşinin Facebook’un işaretleme ve silme süreçlerinden geçtiği anlamına geliyor.
Yapay zeka aktif olarak kullanılmaya başlandı
Nefret söylemine karşı alınan önlemlerin artışında yapay zeka (AI) da büyük rol oynadı.
Facebook tarafından yayımlanan raporda, kullanıcılar tarafından bildirilmeden yapay zeka tarafından tespit edilen ve silinen nefret içeriklerinin sayısı da arttı.
2019’un ikinci çeyreğinde, nefret söylemi içeren içeriklerin yalnızca yüzde 71’i Facebook kullanıcılarına gösterilmeden önce silindi.
Bu oran Nisan ve Haziran 2021 arasında yaklaşık yüzde 98’e yükseldi.
Algoritmada hata oranı da yüksek
Algoritmalar, nefret söylemine karşı proaktif müdahele şansı yaratsa da dezavantajları da var.
Zira nefret içerdiği için silinen içeriklerin bazıları, ilerleyen bir tarihte kullanıcı itirazı gerektirmeden otomatik olarak geri yüklendi.
2021’in ikinci çeyreğinde, nefret söylemi nedeniyle kaldırılan 416 bin içeriğin 328 bini aslında nefret söylemi içermediği tespit edildiği için yayına koyuldu.
Facebook , ılımlılık önlemleri konusunda daha fazla şeffaflık sağlamak için her üç ayda bir Topluluk Standartları Uygulama Raporunu yayınlamaya başladığından beri, nefret söylemi içeren işaretlenen veya kaldırılan içerik sürekli olarak arttı.
Grafik: M. Furkan Terzi
