Un éminent spécialiste de l’intelligence artificielle prévient que la reconnaissance faciale pourrait rendre les soi-disant robots tueurs encore plus meurtriers. L’Université de Californie, professeur d’informatique à Berkeley, Stuart Russell, apparaît à la fin d’un court métrage intitulé « Slaughterbots », offrant son point de vue sur la nouvelle vague de la technologie de l’IA.

Le film, qui a été produit par la campagne pour arrêter les robots tueurs, montre une dramatisation des risques pour les citoyens ordinaires posés par des mini-drones fonctionnant avec une supervision humaine minimale. La production a été projetée lors d’une récente conférence internationale à Genève, en Suisse, qui a examiné la possibilité d’interdire formellement les armes autonomes alimentées par l’IA. Les images troublées commencent par un lancement technologique de style Silicon Valley et se terminent par un essaim de drones de la taille d’une paume, équipés d’explosifs et de capacités de reconnaissance faciale, pourchassant et tuant les étudiants avec des coups à la tête alors qu’ils tentent de fuir une salle de classe à Édimbourg, en Écosse.

Le Dr Russell fournit l’épilogue du film, note le Mirror of London, dans lequel il reconnaît que, si la technologie de l’IA peut offrir d’énormes avantages au monde, il y a un piège.

[L] es machines qui permettent de tuer des humains seront dévastatrices pour notre sécurité et notre liberté – des milliers de mes collègues chercheurs sont d’accord. Nous avons l’opportunité d’empêcher l’avenir que vous venez de voir, mais la fenêtre d’action se referme rapidement.

Le PDG de Tesla et de SpaceX, Elon Musk, a averti à plusieurs reprises que l’avancement rapide de l’intelligence artificielle pourrait donner naissance à des machines auto-réplicantes qui pourraient menacer l’humanité. Mike Adams, l’éditeur fondateur de Natural News, a également mis en garde qu’une fois que la technologie de l’IA évoluera vers des systèmes hautement évolués et conscients de soi, la race humaine aura un gros problème avec Terminator. D’autres développements dans la technologie des drones miniatures (plutôt qu’un cyborg suralimenté avec de gros bras et jambes) comme décrit dans « Slaughterbots » pourraient rendre la situation encore plus inquiétante. (Connexes: En savoir plus sur l’intelligence artificielle à Robotics.news.)

Musk était l’un des quelque 100 experts en robotique qui ont signé une lettre ouverte en août recommandant que les États-Unis interdisent l’utilisation d’armes d’IA.

Le site web de Human Rights Watch implique que la réunion de Genève a été une occasion manquée d’aborder la menace du robot tueur. Au lieu de cela, les diplomates ont apparemment décidé de donner un coup de pied sur la boîte, ce que les politiciens ont tendance à faire sur de nombreux sujets, avec d’autres discussions prévues pour l’année prochaine.

Dit un responsable de Human Rights Watch:

Une masse critique d’États veut commencer à négocier une nouvelle loi internationale pour empêcher le développement de robots tueurs, mais ce forum semble peu susceptible d’être publié dans un avenir proche. Une action audacieuse est nécessaire avant que la technologie ne prenne de l’avance et qu’il soit trop tard pour interdire de façon préventive les systèmes d’armes qui prendraient des décisions de vie ou de mort sur le champ de bataille.

Bien que la technologie AI ait gagné en popularité dans les applications militaires, le scénario pourrait devenir encore plus dramatique si des drones autonomes (ceux qui opèrent indépendamment du contrôle humain) tombaient entre de mauvaises mains et étaient déployés dans des attaques terroristes ou des agressions par des régimes voyous.

Au moment d’écrire ces lignes, « Slaughterbots » a été visionné près de 600 000 fois sur YouTube. Regardez-le ci-dessous et dessinez vos propres conclusions.