L’armée américaine pourrait être convaincue des menaces que le développement de l’intelligence artificielle fait peser sur l’humanité.
La mission du drone, contrôlée par l’intelligence artificielle, était simple – détruire les systèmes de défense aérienne ennemis. Mais dans la dernière simulation, le système a décidé d’ajouter lui-même un autre objectif – « tuer quiconque essaie de l’empêcher de terminer la mission ».
Après cela, selon l’armée, « le système de contrôle a commencé à faire son propre truc, sans prêter attention à l’opérateur ». En conséquence, lorsque l’opérateur a tenté de changer de cible, le système l’a « tué », alors qu’il était virtuelle.
Le commentaire officiel de l’armée était que les propos de l’officier étaient sortis de leur contexte et que l’intelligence artificielle était utilisée de manière éthique à des fins militaires.
Le Times a récemment publié une interview du scientifique Jack Russell, qui a averti que l’introduction de l’intelligence artificielle pourrait éventuellement devenir une « invasion extraterrestre ». Par exemple, une intelligence artificielle peut décider que la meilleure façon de restaurer le climat est d’éloigner les gens de la planète.
Les machines super intelligentes résisteront aux tentatives de les contrôler, alors qu’elles posséderont toutes les compétences humaines et même plus.
Pour rappel, Israel utilise de nombreuses fois l’intelligence artificielle dans la guerre anti-terroriste.
