Öfkeli içerikler ve nefret söylemleri, son zamanlarda pek çok internet firmasının kullanıcı sözleşmelerinde yer aldı. Facebook gibi sosyal ağlar da, bu tip mesajları otomatik olarak silecek özel algoritmalar geliştirdi. Ancak bu algoritmaların, önemli hatalar yaptıklarına da sıklıkla şahit oluyoruz.

Facebook'un son kazası bunun en güzel örneklerinden biri. Sosyal ağ, kısa bir süre önce Teksas gazetesi The Vindicator'ın, Facebook hesabından yayınladığı ABD Bağımsızlık Bildirgesi'nin parçalarını içeren mesajlarını sildi. Bu alıntılardan birinin, potansiyel olarak nefret konuşması şeklinde algılanan bir terim içerdiği için Facebook sistemi tarafından otomatik olarak silindiği açıklandı: "Yerli Vahşiler"

The Vindicator durumu Facebook'a açıkladıktan sonra, sosyal ağ devi özür dileyerek mesajı tekrar yayınladı ve durumu bir hata olarak tanımladı.

Tabii ki "Yerli Vahşiler" tanımının bazı nefret şüphelerini doğuracağı kabul edilebilir ancak bu durum, hakaret "içerebilecek" içeriklerin otomatik olarak belirlenmesinin ve silinmesinin istenmeyen sonuçlar yaratabileceğini de gösteriyor.