Il Consiglio di Sorveglianza di Meta ha criticato gli strumenti di moderazione automatica dell’azienda per essere stati troppo aggressivi nella rimozione di due video che ritraevano ostaggi, civili feriti e possibili vittime del conflitto tra Israele e Hamas. Questi video, rimossi ingiustamente da Facebook e Instagram secondo il consiglio, avrebbero dovuto rimanere online.
Dettagli sui Video Rimossi
Uno dei video rimossi, pubblicato su Facebook, mostrava una donna israeliana durante l’attacco del 7 ottobre da parte di Hamas, mentre supplicava i rapitori di non ucciderla. L’altro video, pubblicato su Instagram, sembrava mostrare le conseguenze di un attacco israeliano vicino all’ospedale al-Shifa a Gaza City, con immagini di palestinesi uccisi o feriti, inclusi bambini.
Processo di revisione e restauro dei Video
Il Consiglio di Sorveglianza ha esaminato la decisione di rimozione in un “tempo accelerato di 12 giorni” e, dopo la revisione, i video sono stati ripristinati con un avviso di contenuto. È stato rilevato che sia la rimozione iniziale sia il rifiuto dell’appello dell’utente per il ripristino del video sono stati effettuati dagli strumenti di moderazione automatica di Meta, senza alcuna revisione umana.
Critiche alla Moderazione Automatica e alla rimozione dei Post
Il consiglio ha trovato che le soglie di moderazione, abbassate per catturare più facilmente i contenuti che violano le regole dopo l’attacco del 7 ottobre, hanno aumentato la probabilità di rimozione errata di contenuti non violativi relativi al conflitto. La mancanza di moderazione guidata dall’uomo durante queste crisi può portare alla rimozione errata di discorsi che possono essere di significativo interesse pubblico. Il consiglio ha anche criticato Meta per aver demotivato i due post con schermate di avviso, impedendo loro di apparire come contenuti consigliati ad altri utenti di Facebook e Instagram.
Risposta di Meta e contesto più Ampio
Meta ha risposto alla decisione del consiglio di annullare le rimozioni, affermando che, poiché non sono state fornite raccomandazioni dal panel, non ci saranno ulteriori aggiornamenti sul caso. Questo caso evidenzia i rischi di una sovramoderazione e la linea sottile che le piattaforme devono seguire.