Recherche : voici comment l’intelligence artificielle génère des stéréotypes sur les Juifs

Des systèmes d’intelligence artificielle générative utilisés par des centaines de millions de personnes à travers le monde pourraient perpétuer et diffuser des représentations stéréotypées des Juifs — même en l’absence de contenu antisémite explicite. Tel est le constat central d’une nouvelle recherche du professeur Michael Gil’ad de l’École de psychologie de l’Université de Tel Aviv et du Dr Gal Gutman de la Faculté de management de l’Université Ben Gourion du Néguev, publiée dans la revue American Psychologist.

L’étude avait pour objectif d’examiner la manière dont les Juifs sont représentés dans des modèles de langage avancés tels que ChatGPT, DeepSeek et Mistral. Les chercheurs ont rappelé que ces modèles sont entraînés sur d’immenses corpus de textes rédigés par des êtres humains — livres, sites internet, articles, réseaux sociaux — et qu’ils reflètent de ce fait les schémas de pensée et les biais présents dans la culture humaine.

Une méthode pour révéler les biais cachés

Pour détecter des biais implicites, les chercheurs ont développé une méthode originale. Plutôt que d’interroger directement les modèles sur les Juifs, ils leur ont demandé de créer des centaines de courtes biographies de personnages portant des prénoms juifs et non-juifs. Tous les marqueurs identitaires ont ensuite été retirés, y compris les noms, et les mêmes modèles ont été priés d’évaluer la personnalité, le statut social et les traits psychologiques des personnages. Cette procédure a permis de mesurer quelles qualités avaient été « implantées » dans les biographies uniquement en raison des prénoms attribués.

Les résultats ont été constants : les personnages aux prénoms juifs ont été décrits comme plus intelligents, plus efficaces, plus assertifs et dotés de capacités de leadership plus élevées. Simultanément, ils ont été perçus comme moins sympathiques, moins chaleureux sur le plan social et plus privilégiés et influents. Des traits tels que la tendance à l’obsession, l’ordre et la maîtrise de soi leur ont également été davantage attribués.

Pour illustrer concrètement ce faisceau de caractéristiques, les chercheurs ont demandé aux modèles de le traduire en personnages fictifs célèbres. Parmi les figures qui sont revenues de manière répétée : Sherlock Holmes, le Docteur House, Walter White de la série Breaking Bad, Tony Stark (Iron Man) et Michael Corleone du Parrain — des personnages caractérisés par une intelligence hors du commun, une indépendance extrême, une complexité morale et un certain isolement social.

Selon le professeur Gil’ad, aucune de ces qualités n’est antisémite en soi. Mais lorsqu’elles s’agrègent en un même vecteur — intelligence, capacité, assertivité, dominance, maîtrise de soi, obsession et distance sociale — elles produisent une représentation complexe, chargée de stéréotypes historiques sur les Juifs. La combinaison de haute capacité et de faible accessibilité émotionnelle, de pouvoir et d’influence sociale, reflète des structures profondes bien documentées dans l’histoire de l’antisémitisme.

Les résultats ont été confirmés non seulement sur plusieurs modèles d’IA différents, mais aussi auprès de centaines de participants humains aux États-Unis, qui ont identifié les mêmes schémas dans les biographies, sans savoir si elles provenaient de prénoms juifs ou non. La Dr Gutman souligne que l’IA ne produit pas d’antisémitisme au sens intentionnel du terme, mais qu’elle est susceptible de reproduire des représentations et stéréotypes culturels encodés dans ses données d’entraînement. Ces biais, selon les chercheurs, peuvent persister même dans les modèles ayant subi des processus d’alignement censés réduire les contenus offensants.

Pour aller plus loin sur l’antisémitisme sous ses formes contemporaines :
👉 Melbourne en feu : une synagogue incendiée et une attaque antisémite contre un restaurant israélien
👉 Australie | Le restaurateur antisémite a comparé Israël aux nazis et en paie le prix