Une lettre de l’Institut Future of Life signée par de grands noms comme Stephen Hawking, ElonTusk ou encore Steeve Wozniak, attire l’attention sur le danger des robot-tueurs. Les robots sont utiles pour l’homme, mais ils ne doivent pas être mis à disposition du domaine militaire.
L’homme a créé des robot-tueurs dans le but d’assurer sa défense. Cette notion de défense de l’un peut être un danger pour autrui. En effet, le but est de déléguer la mission de la surveillance et de la sécurité à des robots. Ces robots sont donc amenés à être autonomes.
Ces robots permettront aussi de réduire les « casualties » les pertes, les hommes ne seront plus sur les lignes de front et donc ils ne seront plus exposés aux risques.
Le problème se pose ici : une intelligence artificielle autonome peut fonctionner sans son créateur. Si ces machines peuvent agir seules et qu’elles deviennent « La Kalashnikov de demain », ces armes se retrouveront sur le marché noir ou entre les mains des terroristes.
De plus, quel degré de contrôle avons-nous sur ces armes ? Les robots-tueurs peuvent agir seuls et ces agissements peuvent être contre l’homme.
La pétition « Autonomous Weapons: an Open Letterfrom AI & Robotics Researchers”[1]est née dans ce but. Dans cette lettre ouverte, de grands noms de la science comme Stephen Hawking, argumentent contre l’utilisation des armes autonomes dans le domaine militaire. La notoriété et la légitimité de ces chercheurs donne une crédibilité forte à leur demande. Les dangers cités ci-dessus sont mis en exergue dans la pétition.
Il faut cependant noter une nuance intéressante. Les robots ne sont pas condamnés en général, il s’agit d’une condamnation des robots dans le domaine militaire.
La lettre se finit sur ce paragraphe « In summary, we believe that AI has great potential to benefit humanity in many ways, and that the goal of the field should be to do so. Starting a military AI arms race is a bad idea, and should be prevented by a ban on offensive autonomous weapons beyond meaningful human control.”
Ces grands noms de la science insistent sur le fait que l’utilisation des robots est bénéfique pour l’homme, par exemple dans le domaine du bâtiment, un robot peut supporter des charges très lourdes, mais dans le domaine de l’armement, le but premier de ces robots sera vite évincé au profit de dessein plus personnel de l’homme.
Cette pétition cherche un grand nombre de signataires. Les scientifiques sont conscients que des frais ont été engagés dans la recherche et le développement de ces armes. Si la demande de retrait des armes du domaine militaire aboutit, cela ne se fera pas facilement. La pétition vise à obtenir un soutien mondial de la population afin d’éviter qu’un homme ou un groupuscule aux motivations discutables puisse disposer d’un armée capable de menacer un pays
[1]http://futureoflife.org/AI/open_letter_autonomous_weapons
Alexandre WATY
