LaboFnac

Instagram : l’IA mise à profit de la lutte contre le harcèlement

Instagram se dote de nouveaux outils pour lutter plus efficacement contre le harcèlement en ligne. Pour cela, le réseau social va s'appuyer sur l'intelligence artificielle et le machine learning afin de venir en aide aux modérateurs.

« Il n’y a pas de place pour le harcèlement sur Instagram », le message est clair et vient d’Adam Mosserie, le nouveau patron d’Instagram. Proche de Mark Zuckerberg, il a été promu à la tête de l’autre réseau social de Facebook après la démission des cofondateurs et dirigeants de la célèbre application. Pour marquer sa prise de fonction, Adam Mosserie a décidé de durcir le ton sur un thème délicat, celui du cyber-harcèlement. Comme sa maison-mère et d’autres réseaux sociaux (dont Twitter), le harcèlement en ligne ou (cyber-harcèlement) est un problème majeur pour Instagram. La firme s’est déjà dotée d’un arsenal d’outils pour combattre ce phénomène, elle reconnaît qu’il lui « reste encore du travail à faire ». C’est pourquoi l’application de partage de photos annonce l’arrivée de nouvelles fonctions et compte s’appuyer sur l’intelligence artificielle.

filtre Instagram

© Instagram

La plateforme explique qu’elle va désormais utiliser le machine learning (apprentissage automatique) pour détecter tout élément de harcèlement ou d’intimidation sur les photos et leurs légendes. Les images seront ensuite envoyées automatiquement à une équipée chargée des opérations. Cette dernière se chargera de vérifier les contenus et de les modérer si nécessaire.

Un filtre « gentillesse » pour répandre des messages positifs

« Ce changement nous aidera à identifier et à éliminer beaucoup plus de contenus constituant du harcèlement, il s’agit d’une étape cruciale puisque de nombreuses personnes qui subissent ou sont témoin de harcèlement ne le signalent pas », explique Adam Mosserie. Il ajoute que cela va aider Instagram à protéger les plus jeunes membres, les adolescents étant plus nombreux que les autres à être victimes de harcèlement ou d’intimidation en ligne. Ce nouveau système sera progressivement déployé au cours des prochaines semaines.

Déterminé à faire d’Instagram un lieu convivial, le nouveau patron du réseau social va proposer un filtre « gentillesse ». Il a été créé en collaboration avec Maddie Ziefler, jeune auteure, danseuse et actrice américaine. Cette dernière s’est engagée contre le harcèlement en ligne après en avoir elle-même été victime. En mode selfie, des cœurs rempliront l’écran et l’utilisateur sera encouragé à mentionner un ami qui sera directement mentionné. Lorsque la caméra arrière est utilisée, des citations en plusieurs langues seront proposées. Le filtre sera d’abord proposé aux followers de Maddie Ziegler, mais il pourra être récupéré par l’ensemble des utilisateurs. En début de semaine, Instagram a également ajouté le Nametag pour retrouver plus rapidement un profil.


Contenus associés

Partager cet article :

Attention, vous avez déjà 3 produits dans le comparateur : supprimez un de ces produits pour rajouter celui-ci au comparateur.