Google crée Perspective, une intelligence artificielle pour combattre les trolls

Google crée Perspective, une intelligence artificielle pour combattre les trolls

Dans les locaux de Google en Californie. | © Flickr @Robert Scoble

Technologie

Google lance « Perspective », un outil informatique basé sur l’intelligence artificielle qui aidera les médias à modérer automatiquement les commentaires en ligne en bloquant les messages haineux.

 

Après l’échec du robot Tay de Microsoft qui s’était transformé au bout de 24 heures en « nazi », trollé par les internautes quelques heures à peine après sa mise en fonction, le géant américain Google a justement annoncé lancer une nouvelle intelligence artificielle anti-trolls. Cette API (interface informatique), proposée gratuitement, permettra aux éditeurs de créer des programmes qui noteront la « toxicité » des messages envoyés sur leurs forums, et de régler à leur guise le seuil toléré avant publication.

« Perspective » est déjà testée avec plusieurs éditeurs dont le New York Times, The Guardian et Wikipedia, avec un apprentissage automatique (machine learning) à partir des messages jugés haineux ou hors sujet par des modérateurs humains.

Lire aussi : Un ancien employé de Google accusé de vol de technologies pour Uber

Le but est de faciliter la tâche des équipes de modérateurs, souvent débordées par le flot des commentaires haineux qui empêchent les discussions, ce qui a poussé de nombreux journaux à fermer leurs pages de commentaires. « Les médias veulent encourager les discussions sur leurs contenus, mais trier les millions de commentaires pour repérer ceux qui les trollent leur coûte beaucoup de temps, de travail et d’argent. », a souligné sur le blog de Google, Jared Cohen, président de Jigsaw, l’incubateur de Google qui a construit l’outil.

Pour beaucoup de gens, le harcèlement en ligne est une nuisance – un triste rappel que l’Internet partage certaines des pires parties de l’humanité avec les meilleures.

Le logiciel est disponible pour les médias membres de la « Digital News Initiative » de Google, mais aussi à toutes les plateformes de réseaux sociaux, dont YouTube, Twitter et Facebook. L’algorithme de Perspective devrait aider à filtrer les messages bien plus vite que les équipes humaines.

Avant Google, Twitter a également annoncé début février 2017 s’attaquer aux messages haineux, souvent anonymes, en permettant d’identifier leurs auteurs et de les empêcher de recréer des comptes, ou en les masquant dans les recherches des internautes.

Google, Facebook, Twitter et Microsoft ont signé l’an dernier un « code de bonne conduite » avec la Commission européenne où ils s’engagent à examiner dans les 24 heures la majorité des contenus haineux signalés par les utilisateurs, afin de les supprimer si nécessaire.

CIM Internet