Commerçants, artisans, entrepreneurs locaux, communiquez local -> en savoir plus
Info générale

Instagram bloquera les commentaires haineux grâce à l'intelligence artificielle !

04 juillet 2017 à 12h24 Par Maud Tambellini

Le réseau social détenu par le groupe Facebook part en guerre contre les commentaires vulgaires ou haineux laissés parfois sur certaines photos. Et pour un blocage en temps réel, Instagram a décidé d’utiliser un système d’intelligence artificielle !

Uniquement disponible pour les commentaires anglais

Le réseau social de partage de photos a vu ces derniers mois plusieurs stars faire des breaks voire le quitter à cause de commentaires désobligeants laissés sur des clichés. Kylie Jenner avait ainsi manuellement désactivé la possibilité de commenter ces photos ou encore ces stories, nouvelle fonctionnalité qui cartonne au détriment de Snapchat. Et bien désormais Instagram va plus loin et va proposer un filtre automatique contre les commentaires haineux ou négatifs.

L’utilisateur gardera le choix ou non de l’activer. En tout cas ce filtre se base sur ce qu’on appelle le "machine learning" ou l’apprentissage automatique des machines en français. Autrement dit les équipes d’Instagram ont appris au logiciel à reconnaître certains types de comportement de base. Mais il va s’améliorer automatiquement au fur et à mesure qu’il examine les contenus, via des mots-clés. Et si pour l’instant le filtre n’est efficace que pour les commentaires en anglais, il est possible que le logiciel apprenne de nouvelles langues prochainement.

D’avantage de contrôles sur les réseaux sociaux ?

Instagram n’est pas le seul à avoir travaillé sur l’affluence et la régulation des commentaires négatifs. Jusqu’à la semaine dernière, Twitter était par exemple poursuivi par six associations pour non respect de son obligation de modération. Mais la procédure a été levée après des progrès indéniables du réseau social dans la régulation de ce genre de commentaires selon les associations. Twitter étant connu pour être le roi du déballage d’insultes sur tout et n’importe quoi.

Et les grands géants du web ont aussi décidé de s’attaquer un autre problème d’envergure ; le développement et la propagation d’idées terroristes sur la toile. Facebook, Microsoft, Twitter et YouTube ont ainsi annoncé le 26 juin dernier la création du Forum mondial de l’internet contre le terrorisme. Le "machine learning" pourrait ainsi être également développé pour reconnaître et censurer ce genre de propos.