Quand les machines choisissent qui bombarder : « Une femme qui va à l’épicerie pourrait être identifiée comme un membre du Hamas »

Reuven Gal n’est pas un théoricien de salon. Docteur en psychologie, âgé de 83 ans, ancien commandant de compagnie lors de la guerre des Six-Jours, ancien chef psychologue de la marine et ancien directeur du département des sciences du comportement de Tsahal — il a lui-même porté les armes, puis passé des décennies à étudier les rapports entre l’armée et la société israélienne. C’est précisément cet homme qui, dans un entretien accordé au journal Davar, tire la sonnette d’alarme sur ce qu’il perçoit comme un vide éthique béant au sein de Tsahal : l’absence totale de doctrine encadrant l’utilisation de l’intelligence artificielle dans la désignation de cibles militaires.

« Il y a ici une question qui est à la fois tactique et opérationnelle, technologique, et éthique-morale », dit-il. « Et dans ce cas, c’est la question éthique qui est la plus complexe. La question centrale, c’est celle de la prise de décision, du jugement. »

Le scénario concret qui inquiète

Ce qui préoccupe le chercheur avant tout, c’est le recours à l’IA pour identifier des cibles et prendre des décisions sur le champ de bataille. Le sujet avait déjà fait l’objet de vifs débats en Israël et dans le monde, notamment autour des systèmes « Lavender » et « Evangile » utilisés par Tsahal à Gaza, qui ont fait l’objet d’une enquête critique dans le Guardian britannique.

Gal décrit le scénario qui le hante : « Il y a des systèmes qui, grâce à l’intelligence artificielle, collectent des informations de toutes sortes de façons — certaines problématiques — et désignent des cibles sur cette base. Cette collecte peut se faire sur l’apparence des personnes : si quelqu’un porte un certain type d’uniforme, il est identifié comme un combattant du Hamas. Comme si vous me demandiez d’identifier un jeune des collines à partir de qui porte une kippa. Il y a un écart énorme entre la définition et la cible réelle. Et la décision finale repose sur quelqu’un qui doit appeler ça une cible, sur la base d’informations partielles, et aussi sur la base d’une pression à fournir des cibles. On sait qu’il y a des combattants du Hamas dans le secteur, alors on se contentera d’un niveau de certitude de 60%. »

La conséquence de cette logique, il la formule avec une image simple et glaçante : « Ça peut être une femme qui va à l’épicerie et qui ressemble simplement à un combattant du Hamas. »

« Qui est responsable si on tue 100 enfants par erreur ? »

Le chercheur soulève une question juridique et morale que la technologie rend plus pressante : la chaîne de responsabilité. « Qui est responsable s’il y a une défaillance ? Et si on découvre qu’à cause du système on a tué par erreur 100 enfants dans une école ? Le technicien qui tenait le joystick ? Son commandant ? Le commandant du secteur qui a donné l’ordre de tirer ? Ou l’inventeur de l’application chez Rafael ? »

Ce questionnement trouve un écho dans la recherche internationale : le psychologue social Nicholas Septola explique qu’une personne peut rester formellement responsable tout en s’appuyant excessivement sur les sorties d’une machine, ce qui dilue en pratique toute responsabilité réelle. L’assistance d’une IA modifie les conditions cognitives dans lesquelles les décisions sont prises — un système peut sembler efficace à court terme tout en érodant la vigilance nécessaire à un jugement responsable à long terme.

Trois étapes pour une doctrine éthique

Face à ce vide, Gal propose une démarche structurée en trois phases. La première : organiser des discussions et des simulations — des jeux de rôle et des scénarios de guerre où l’on pose explicitement la question de ce qui est juste ou non, en réunissant les différents corps de métier concernés et les juristes militaires. La deuxième : rédiger une doctrine à partir de ces discussions — quelles sont les règles d’ouverture du feu sur la base d’informations issues d’une IA, quelles étapes sont obligatoires ? La troisième : diffuser cette doctrine à tous les niveaux, des opérateurs aux commandants en passant par les soldats.

« Dans Tsahal, il y a une doctrine pour tout. Sur la question de quand et comment tirer avec un fusil, il y a des plans de cours complets. Sur l’intelligence artificielle, il n’y en a pas. »

Gal dirige également sa critique vers le système d’éducation de Tsahal, qu’il accuse de ne pas avoir pris l’initiative d’un travail systématique sur ces questions, malgré des signaux d’alerte qui remontent à 2016.

La guerre de Gaza a rendu ce débat urgent. L’armée américaine et la société Anthropic se sont elles aussi affrontées publiquement cette année sur les limites à imposer à l’utilisation de l’IA dans les armes autonomes et la surveillance de masse. Le « Comité pour l’arrêt des robots tueurs », lancé en 2013, réclame un droit international nouveau. Mais comme le note Gal lui-même, il existe un risque réel que les démocraties occidentales s’imposent des contraintes que la Russie et la Chine n’appliqueront jamais — offrant ainsi un avantage stratégique à leurs adversaires. Une équation sans réponse simple, dans un monde où les machines décident déjà de qui vit et qui meurt.

Pour approfondir, retrouvez ces articles sur notre site :

• Antisémitisme en Europe et aux États-Unis : Amir Tsarfati dénonce le « triangle impie » de la haine
• Les soldats réservistes ont empêché l’intrusion de centaines de terroristes Radwan vers Kiryat Shmona