12 mars 2024 | Blog, Blog 2024, Communication, Management | Par Christophe Lachnitt
Pourquoi l’intelligence artificielle générative est un enjeu géopolitique différent du nucléaire mais pas moins pressant
La menace sur l’équilibre mondial – déjà précaire – créée par l’émergence de l’intelligence artificielle générative est régulièrement comparée au péril résultant de la prolifération des armes nucléaires. Il existe pourtant plusieurs différences notables entre ces deux technologies.
Mes incursions dans la politique internationale procèdent de ma passion pour ces sujets qui, pour reprendre une formule célèbre, ne me sont pas totalement étrangers, ayant conseillé il y a quelques décennies un futur Président de la République française pendant plusieurs années à leur propos. Loin de constituer un argument d’autorité, cette expérience motive simplement les digressions sur la géopolitique que je me permets dans ce blog, bien qu’il ne lui soit pas consacré. – Christophe Lachnitt
Les premières concernent leurs capacités intrinsèques :
- Les intelligences artificielles génératives comprennent et peuvent manipuler le langage humain, ce qui leur confère un pouvoir d’influence considérable.
- Elles peuvent prendre des décisions en parfaite autonomie.
- Elles sont capables de s’auto-développer, le codage informatique étant l’une de leurs aptitudes les plus fortes.
Aucune arme nucléaire n’est susceptible de suggestionner des êtres humains, de décider de son propre sort ou de créer d’autres armes. C’est pourquoi le débat sur les conséquences sociétales, voire civilisationnelles, des progrès de l’intelligence artificielle générative est si prégnant : elle pourrait, un jour, avoir l’envie et les moyens d’engager un combat avec l’espèce humaine.
Ce n’est certes pas le scénario le plus vraisemblable et je vais donc focaliser mon propos sur la seconde différence entre intelligences artificielles génératives et armes nucléaires, celle qui a trait à leur exploitation par les êtres humains : alors que les conditions requises pour la conception, la réalisation et l’utilisation d’armes nucléaires sont à la fois extrêmement élevées et détectables, la barrière à l’entrée pour la mise à profit d’intelligences artificielles génératives à des fins maléfiques ne l’est aucunement.
Ainsi, par exemple, le modèle GPT-3 d’OpenAI, qui fut publié à l’été 2020, est-il désormais entièrement accessible en open source gratuitement sur le web, et ce avec une taille 60 à 70 fois plus petite que l’original. Il est donc infiniment plus aisé et moins coûteux à faire fonctionner, y compris dans des optiques malfaisantes, qu’il s’agisse de campagnes de désinformation à une échelle encore inédite, d’opérations de guerre cybernétique ou de création d’armes autonomes et/ou biologiques. A ce sujet, il est aujourd’hui possible de séquencer un génome pour environ un millionième du coût du séquençage du premier génome, accompli en 2001, et de créer de nouveaux morceaux d’ADN. Si le potentiel médical de ces avancées est phénoménal, elles pourraient aussi favoriser la mise au point d’agents pathogènes synthétiques diffusés par des nations ou groupes terroristes.
Au-delà des accords et traités de non-prolifération, le non-recours aux armes nucléaires a surtout été assuré, depuis 1945, par la dissuasion dont les milliers de bombes qui demeurent opérationnelles dans le monde sont porteuses. La promesse d’une destruction mutuelle assurée a maintenu la paix nucléaire, comme l’illustre notamment la célèbre réplique du Général de Gaulle à l’ambassadeur soviétique qui, en 1963, agita devant lui la menace d’une frappe ordonnée à Moscou : “Eh bien, Monsieur l’ambassadeur, nous mourrons ensemble !“.
La facilité d’accès et le caractère indétectable des instruments de combat conçus avec des intelligences artificielles génératives rend cet effet de dissuasion beaucoup plus improbable.
Il y a quelques jours, Roberto Cingolani, le PDG du groupe de défense italien Leonardo, déclarait sur une chaîne de télévision américaine :
“Pour être honnête, ce qui me préoccupe le plus est le manque de contrôle de la part des humains, qui continuent de se faire la guerre après 2 000 ans. L’intelligence artificielle est un outil. Il s’agit d’un algorithme créé par des humains, exécuté par des ordinateurs créés par des humains, qui contrôle des machines créées par des humains. Je suis plus inquiet de la stupidité nationale que de l’intelligence artificielle“.
Espérons que l’intelligence humaine parvienne à concevoir pour l’intelligence artificielle le processus de préservation que la dissuasion a constitué pour les armes nucléaires. A ce stade, nous n’en prenons cependant pas le chemin.
