Ces dernières années, les gouvernements ont demandé à plusieurs reprises à Facebook et à d’autres plateformes de médias sociaux de faire un meilleur travail en termes de suppression de contenus extrémistes, en particulier tout ce qui fait la promotion du terrorisme.

Beaucoup se sont tournés vers l’intelligence artificielle pour les aider à répondre à cet appel, mais une enquête menée par The Atlantic a révélé que ces IA pourraient, par inadvertance, aider des terroristes à s’en tirer avec leurs crimes odieux – en effaçant des preuves précieuses de leur existence.

Enquêteurs citoyens

L’article de The Atlantic cite une vidéo Facebook de 2017 dans laquelle un terroriste supervise l’exécution de 18 personnes. Facebook a supprimé la vidéo, mais pas avant qu’elle puisse se répandre sur Internet.

Des gens du monde entier ont analysé la vidéo, ce qui a permis de découvrir que l’exécution avait eu lieu en Libye et que l’homme qui l’avait commandée était Mahmoud Mustafa Busayf al-Werfalli, un commandant d’Al-Saiqa.

Le mandat d’arrêt subséquent contre Werfalli comprenait plusieurs références à la vidéo de Facebook et à d’autres documents similaires.

Preuves perdues

Depuis, les algorithmes de filtrage de contenu utilisés par Facebook, YouTube, etc. sont devenus beaucoup plus avancés – ils suppriment désormais automatiquement d’énormes pans de contenus extrémistes, parfois même avant même qu’ils n’atteignent les yeux d’un seul utilisateur.

Il s’agit là d’une victoire majeure à bien des égards, mais le compromis pourrait être la perte de preuves que les procureurs pourraient utiliser pour tenir les chefs de guerre, les dictateurs et les terroristes responsables de leurs crimes.

https://futurism.com/the-byte/facebook-ai-extremist-content-terrorists

https://www.theatlantic.com/ideas/archive/2019/05/facebook-algorithms-are-making-it-harder/588931/