Les résultats de Google sont choquants : faites une recherche d’image pour «Jewish baby strollers» et vous verrez des fours portables – une allusion offensive à l’Holocauste.
Google dit qu’il examine les résultats de recherche et souhaite les améliorer. Mais selon les chercheurs, les résultats ne sont peut-être pas un accident. Il est possible qu’ils soient le résultat d’une campagne extrémiste coordonnée sur un site Web marginal pour produire ces images spécifiques.
Le Network Contagion Research Institute, qui étudie la manière dont le discours de haine se propage en ligne, a localisé une série de messages sur le babillard 4chan, datant de 2017, qui associent délibérément des images de fours à roues avec le terme «poussette juive pour bébé». Il y avait au moins une douzaine d’images de ce type dans une seule recherche, datant d’août et de septembre 2017. Cela signifie que ces résultats peuvent être en place depuis des années, même s’ils ont attiré l’attention vendredi.
La publication de ce terme spécifique à côté de l’image a peut-être manipulé l’algorithme de recherche de Google, de sorte qu’il a promu ces images lorsque les utilisateurs recherchent le terme, explique Joel Finkelstein, directeur de l’institut.
« Ce qui se passe, c’est qu’ils incitent Google à mettre ce truc en tête », a déclaré Finkelstein. « Ils collent l’image avec les mots de sorte que lorsque vous recherchez ces mots, l’image arrive en haut. »
Les références au four sont relativement courantes parmi les antisémites, qui les font faire allusion aux juifs appartenant aux crématoires que les nazis utilisaient pour incinérer les corps des juifs qu’ils ont tués pendant l’Holocauste.
Google a déclaré à la Jewish Telegraphic Agency dans un communiqué que les images sont «dérangeantes» et sont le résultat d’un algorithme. Il n’incluait pas d’informations claires sur la manière dont ces résultats de recherche pourraient être empêchés.
« Nous comprenons que ce sont des résultats inquiétants et nous partageons l’inquiétude concernant ce contenu », indique le communiqué. «Cela ne reflète pas nos opinions. Lorsque les gens recherchent des images sur Google, nos systèmes reposent en grande partie sur la correspondance des mots de votre requête avec les mots qui apparaissent à côté des images sur la page Web. Pour cette requête, qui concerne un produit qui n’existe pas réellement, les correspondances les plus proches sont des pages Web contenant un contenu offensant et haineux. Nous avons accompli un travail considérable pour améliorer les instances où nous renvoyons du contenu de mauvaise qualité, et nous examinerons cette situation pour voir comment nous pouvons renvoyer des résultats plus utiles. »
Google supprime rarement des résultats de recherche individuels ou effectue des ajustements pour un terme de recherche spécifique. Un porte-parole a déclaré que la société recherchait «des améliorations systématiques plus larges susceptibles d’améliorer la recherche pour d’autres requêtes comme celle-ci.» En particulier, a déclaré le porte-parole, le défi ici est un «vide de données» où le seul contenu disponible pour un terme de recherche est «offensant [ou] de mauvaise qualité».
Les chercheurs du Network Contagion Research Institute affirment qu’il pourrait y avoir une autre possibilité : qu’un mème antisémite, également de 2017, a conduit l’algorithme de recherche de Google à confondre le four portable avec une poussette parce qu’ils se ressemblent un peu. Comme les messages 4chan, le mème est l’image d’un four portable sur le texte «poussette juive» en majuscules.
«C’est soit un raid des trolls 4chan, soit un mème qui a circulé sur le Web», a déclaré Alex Goldenberg, analyste principal du renseignement de l’institut. « L’algorithme de recherche Google le propulse au sommet pour une raison quelconque, ou l’élément du mème trompe l’algorithme de Google. »
Goldenberg a ajouté : « Il est à noter que la recherche d’images sur Google n’a pas détecté cela. »
S’il s’agissait d’une action coordonnée par des antisémites en ligne, appelée «raid», ce ne serait pas la première. Lors d’un «raid» de 2016 appelé Opération Google, des extrémistes ont tenté de saper un nouvel outil dont Google disposait pour repérer et filtrer les insultes raciales et ethniques. Ils l’ont fait en remplaçant les insultes dans leurs commentaires par les noms des entreprises technologiques. Ainsi, par exemple, ils ont utilisé le mot «Google» au lieu du mot n, et ont utilisé le mot «Skype» pour désigner les juifs. Ils espéraient que cela forcerait Google à censurer son propre nom, ce qui ne s’est pas produit.
Ce n’est pas non plus la première fois que Google produit des résultats de recherche antisémites. Selon MEMRI, une organisation de recherche sur les médias et l’organisation sioniste mondiale, le terme de recherche «oy vey» a également donné des résultats antisémites. En 2016, Google a apporté des modifications afin que sa fonction de recherche ne suggère plus le terme de recherche «Les juifs sont mauvais».
Goldenberg a noté qu’une partie de l’objectif des «raids» est de générer une couverture médiatique, de sorte que les termes antisémites se répandent plus largement.
«La nature de ces raids est d’attirer l’attention sur l’antisémitisme», a-t-il dit.
