Une technologie d'IA supprime d'elle-même la propagande terroriste sur Facebook
Facebook mise sur l'intelligence artificielle (IA) pour lutter contre la propagande terroriste. Selon le groupe, 99 % des publications liées à des groupes terroristes comme l'État islamique (EI) ou Al-Qaida sont détectées et supprimées à l'aide de technologies automatiques, avant même d'être signalées par les utilisateurs.
La nouvelle méthode ne doit pas seulement fonctionner pour les textes, mais aussi pour les images et les vidéos, comme l'écrit l'agence de presse Pressetext. "Nos efforts pour lutter contre les contenus extrémistes sur notre site web sont désormais beaucoup plus systématiques que par le passé. Nous travaillons à cet effet avec différents partenaires et utilisons en interne différentes techniques", cite le communiqué de presse. Nouvelles de la BBC d'une déclaration de Facebook. En principe, on continue à miser sur un mélange de contrôleurs humains et de logiciels. "Mais le contrôle primaire est de plus en plus assuré par des systèmes automatiques", explique-t-on chez Facebook.
Selon le réseau en ligne, ces derniers ont recours à des algorithmes d'IA spéciaux pour détecter le matériel de propagande non souhaité. "Nous utilisons l'apprentissage automatique basé sur le texte, qui apprend au logiciel, au fil du temps, à déterminer lui-même si certains posts peuvent poser problème ou non". Cela fonctionne de manière similaire avec le matériel photo et vidéo. Chaque photo ou vidéo dispose en effet d'une empreinte digitale ditigonale univoque qui, une fois qu'elle a été considérée comme problématique, peut être immédiatement reconnue. "Il est ainsi possible de supprimer rapidement les contenus concernés", souligne Facebook.
L'IA n'est pas encore parfaite
Le système d'IA de Facebook n'est toutefois pas encore sans défaut. "Il faudra encore de nombreuses années de développement pour perfectionner ce contrôle automatique", reconnaît Monika Bickert, Global Policy Chief de Facebook. Par exemple, le logiciel se concentre actuellement uniquement sur l'EI et Al-Qaida. "Nous avons choisi ces groupes parce qu'ils représentent le plus grand danger à l'échelle mondiale. Si nous voulons également inclure d'autres groupes terroristes, ce n'est pas si facile, car il peut y avoir de très grandes différences linguistiques et stylistiques dans leur propagande", explique Bickert.
A l'avenir, il devrait être possible, grâce à la technique de l'IA, de contrôler non seulement le contenu de la page, mais aussi d'analyser le comportement et d'évaluer ce qui se cache derrière les différents comptes. "Nous savons toutefois que c'est le jeu du chat et de la souris. Ceux qui veulent tirer avantage de l'énorme portée des pages de médias sociaux feront tout pour contourner les contrôles automatiques", conclut l'experte de Facebook. (pte/hae)
