Abo

applicationBodyguard, l'appli qui veut nettoyer les réseaux sociaux de la haine

Par Nicolas Scheffer le 29/04/2021
modération

L'application Bodyguard permet aux utilisateur de filtrer les messages de haine qu'ils reçoivent. Et tente d'écoper les dégâts causés par l'absence de modération des géants de l'internet social.

L'application a bien aidé Bilal Hassani. Sur le plateau de Quotidien, en janvier 2019, le représentant de la France à l'Eurovision ne tarit pas d'éloges. "Ils font un travail de filtrage et de modération qui est super bon ! Ils essayent d'effacer plein de haine, y a plein de trucs qui passent à la trappe, des trucs bien odieux, ça c'est super cool", dit-il à Yann Barthès. L'application a même été utilisée en direct par Brut pour modérer les commentaires de son interview d'Emmanuel Macron. Depuis, Bodyguard s'érige de plus en plus en gendarme des réseaux sociaux, alors que la haine y prolifère et que ni les plateformes, ni l'Etat, ne semblent en capacité de la gérer.

Le contexte pris en compte

L'idée est venue à Charles Cohen alors qu'il avait à peine 21 ans. À l'époque, une adolescente s'était suicidée après avoir été victime de cyber harcèlement. "Les réseaux sociaux ne faisaient une modération qu'après un signalement. Alors que ces commentaires n'auraient jamais dû être vus dès le départ", indique-t-il à TÊTU. Alors, pendant six mois, il modère lui-même le contenu de ses propres réseaux sociaux, analyse le fonctionnement et code un algorithme qui lui permet de nettoyer automatiquement ses réseaux.

À LIRE AUSSI : Haine en ligne : quatre associations poursuivent de nouveau Twitter en justice

Quatre ans plus tard, l'application revendique 60.000 utilisateurs. Elle a séduit des parlementaires, des influenceurs, mais aussi le grand public, bref, toutes les personnes exposées à la haine en ligne. "Ce qui fait que notre application est plébiscitée, c'est qu'elle ne se contente pas de mots-clefs qu'elle bannit. Notre intelligence artificielle comprend le contexte du commentaire à plusieurs niveaux", explique le fondateur de l'application.

D'abord, l'outil comprend le message, malgré les fautes d'orthographe ou le langage SMS. Ensuite, Bodyguard scanne le lien entre celui qui commente et celui qui reçoit le commentaire. "C'est pas pareil de dire à un ami 'Donald Trump est un connard' et 'tu es un connard'", remarque Charles Cohen. Puis, l'appli interroge le sens de la phrase pour tenter de repérer une insulte d'une phrase qui cite une insulte. "Si vous mettez le mot entre guillemets, l'application comprendra qu'il s'agit d'une citation, par exemple", dit le PDG.

Plusieurs niveaux de filtrage

Malgré cette modulation, l'application risque de censurer un contenu qui n'a pas vocation à être haineux. "Un message qui vise quelqu'un et qui emploi le terme de 'pédé' régulièrement sera sans doute filtré", reconnaît le fondateur. Une limite de taille alors que la censure de plusieurs comptes militants a été dénoncée. Sur Twitter, plusieurs compte militants utilisaient les termes "gouines" ou "pédés" dans un sens de réappropriation du stigmate. "Non Twitter, empêcher les gouines de se qualifier comme elles le souhaitent n’est pas basé sur la législation locale, c’est seulement ton interprétation qui est localement située : en lesbophobie capitaliste", écrivait la militante lesbienne Gwen Fauchois en décembre dernier.

Si l'application a des progrès à faire concernant la compréhension du contexte, elle a l'avantage de permettre de personnaliser l'application pour fermer plus ou moins le filtre de modération. Une faible protection contre l'homophobie enlèvera "va te faire enculer" mais laissera "gay as fuck", une protection forte empêchera une insulte comme "fillette".

À LIRE AUSSI : « Nous détectons 95% des contenus haineux avant même qu’ils ne soient publiés », assure Facebook

"C'est ce qui manque particulièrement à la modération des gros réseaux sociaux. Facebook annonce retirer 95% des commentaires haineux, mais ses filets sont larges afin de ne pas être accusé de censeur. On a résolu le problème en proposant à l'utilisateur de choisir le niveau de sensibilité de la modération", appuie le jeune PDG. De plus, l'application réagit au nombre de commentaires qu'elle doit modérer : si quelqu'un est particulièrement victime de cyber harcèlement, Bodyguard propose à cette personne de renforcer le filtre.

Pendant le confinement, la haine cartonne

La loi Avia est censée lutter contre les contenus haineux sur internet. Mais là encore, les promesses de la majorité se sont heurtées à leur mise en place : l'essentiel de la proposition de loi a été censurée au Conseil constitutionnel. "Cette loi devait obliger les plateformes à modérer leur contenu dans un délai de 24 heures. Mais même si elle était passée, cette loi n'aurait pas eu beaucoup d'effet. Elle s'attaque au contenu 'manifestement illicite', comme l'appel au meurtre, mais pas au cyber harcèlement  du quotidien", juge Charles Cohen

À LIRE AUSSI : Le Conseil constitutionnel censure le cœur de la loi Avia, des militants LGBT+ crient victoire

Pendant le confinement, l'année dernière "il y a eu une augmentation des messages de haine de l'ordre de + 62%. On constate une hausse des volumes envoyés, mais aussi de la proportion de messages haineux", regrette le fondateur de l'application. Et contrairement à ce que l'on pourrait penser, il y a plus de messages à modérer du côté de Facebook que de Twitter. "Sur Facebook, on peut écrire que 'l'homosexualité est une abomination', alors que cette phrase ne passe pas nos critères", assure le dirigeant. Mais à l'inverse, Twitter est plus LGTBphobe que Facebook. Charles Cohen jette un oeil sur un tableur Excel : "2% des messages supprimés sont LGBTphobes sur Facebook et 4% sur Twitter". Pas étonnant donc que son application cartonne.

Un dirigeant en pyjama

Quatre ans plus tôt, le dirigeant codait chez ses parents en pyjama, il est désormais à la tête d'une entreprise qui vient de lever deux millions d'euros. "C'est étrange de passer d'une petite application que j'ai codée tout seul à une équipe de 25 personnes !", raconte-t-il. L'application devrait bientôt être disponible dans plusieurs langues. Surtout, une mise à jour proposera à l'été de pouvoir désigner des personnes ressources. "En cas de raid (où de nombreux commentaires haineux sont envoyés simultanément par plusieurs utilisateurs, ndlr), l'application alertera les amis de la victime. Ils pourront alors modérer eux-même les commentaires que la victimes reçoit", annonce le dirigeant.

Il promet par ailleurs que l'application restera gratuite pour le grand public. Son fonctionnement est financé par les entreprises, qui utilisent une version payante de l'application pour modérer leurs réseaux sociaux. "C'est pas à un enfant de payer pour être protégé", indique le bodyguard de 25 ans.

 

Crédit photo : Caroline Tiffon / Bodyguard