Facebook affirme avoir fait d’importants progrès dans ses outils de modération automatique
De septembre à décembre, quatre messages de harcèlement sur cinq ont été supprimés automatiquement sur Instagram, contre 55 % au trimestre précédent. C’est l’un des chiffres rendus publics par Facebook jeudi 11 février, dans son dernier « rapport de transparence ». Publié tous les trois mois, ce document détaille des statistiques sur les contenus qui sont supprimés de Facebook, Messenger et Instagram.
La vaste majorité des messages injurieux, violents ou interdits sur ces trois plates-formes le sont désormais de manière automatique, par le biais d’algorithmes qui analysent différents éléments – vocabulaire utilisé, éventuelles réactions d’autres utilisateurs… – pour déterminer si un message est contraire aux règles d’utilisation.
« Le contexte est crucial »
Les données publiées par Facebook permettent, dans certains cas, de mesurer les progrès de ces outils automatisés. Sur certains types de messages, comme les images de propagande djihadiste, les outils automatisés sont très efficaces. Sur d’autres, ils ont historiquement été très mauvais – en particulier sur les sujets de harcèlement, ou d’appel à la haine.