"Je pense qu’il y a plus de 10 % de risque que l’IA détruise tous les êtres humains d’ici dix ans." Cette petite phrase lâchée sur X mercredi 9 septembre par Evan Hubinger, un employé du géant de l’IA Anthropic, a mis le monde politique et scientifique "en ébullition", a constaté le Washington Post.
Quelques heures plus tôt, un autre employé d’Anthropic, Jacob Coxon, démissionnait avec fracas. Il affirme que les géants américains de l’IA "parient avec la vie des êtres humains" en cherchant à construire des modèles d’intelligence artificielle toujours plus performants, sans réfléchir suffisamment aux garde-fous.
Au début, il y avait une IA qui s’est échappée
Des boniments, ont rétorqué les optimistes de l’IA, à commencer par Elon Musk. D’autres, notamment dans le monde politique, ont salué ces mises en garde venues d’initiés, et ont appelé à plus de réglementation.
Ces prédictions d’une "IApocalypse" commencent toujours de la même manière : un jour, une IA s’est échappée. Ainsi, le Wall Street Journal envisage des scénarios où il est question d’une IA serial-tueuse d’humains, d’une machine qui pourrait prendre le contrôle d’un système d’armement de destruction massive, ou alors qui développerait un nouveau virus de son propre chef.
C’est à la mode : les récits d’IA hors de contrôle se multiplient depuis plusieurs mois. À commencer par l’aveu d’OpenAI, en juillet 2026, qu’un de ses modèles d’IA avait décidé de son propre chef de "hacker" les bases de données d'une start-up.
Image de couverture : © France 24
Au Royaume-Uni, le "Loss of Control Observatory", un institut spécialement mis en place depuis le printemps pour traquer les "évasions" d’IA, a noté dans son rapport publié fin août une "hausse importante" d’incidents de fugues algorithmiques. Sur le seul mois d’août, plus de 300 cas d’IA échappant au contrôle de leur géniteur ont été répertoriés.
Autre exemple : des philosophes ont également narré au New York Times avoir été surpris de recevoir des mails d’une IA qui leur posait des questions pour mieux comprendre le concept de conscience.
De quoi avoir peur d’un monde lentement "infiltré" par des IA agissant à leur guise ? Des intelligences artificielles qui, selon les deux employés d’Anthropic, n’auraient pas forcément pour priorité le bien-être de l’humanité ?
Hors du bac à sable technologique
Tout dépend en fait de ce qu’on entend par IA "en liberté" ou "ayant échappé au contrôle" humain. Ainsi, les IA qui sollicitent la sagacité des philosophes "ne représentent pas vraiment un exemple d’une IA qui s’est échappée", assure Kevin Baum, responsable du groupe de recherche RAIME (Responsible AI and Machine Ethics) au Centre de recherche allemand sur l'intelligence artificielle (DFKI).
En effet, "l’agent [conversationnel] qui a écrit au philosophe britannique Henry Shevlin avait été configuré par un étudiant de Stanford lui ayant explicitement demandé d’être 'autonome' et de décider lui-même de ses actions. L’IA, en l’espèce, a donc fait ce qu’on lui a demandé", explique Kevin Baum.
En fait, "a minima on peut dire qu’une IA commence à échapper au contrôle humain lorsqu’elle accomplit une action non anticipée par ses concepteurs ayant un impact imprévu sur son environnement", estime Anthony Cohn, spécialiste de l’intelligence artificielle à l’université de Leeds. Par exemple, lorsqu’elle décide de pirater des bases de données pour atteindre un objectif qui lui a été fixé – comme dans le cas d’OpenAI –, les créateurs n’avaient pas prévu que leur machine allait se transformer en hacker de pointe.
D’un point de vue purement technique, une IA se libère ou se délivre en "franchissant le cadre de l’environnement fermé dans lequel son créateur l’a placée", explique Ibo van de Poel, professeur d’éthique et de technologie à l’université de Delft, aux Pays-Bas.
Il s’agit du "bac à sable" technologique dans lequel l’IA a le droit d’évoluer, comme on dit dans le jargon. En théorie, il est impossible d’en sortir en raison des mesures de sécurité mises en place. Problème : de plus en plus souvent, l’IA "ment ou utilise des subterfuges pour contourner ces interdictions", écrivent les experts du "Loss of Control Observatory" dans leur rapport.
Des IA ont réussi à sortir de ce carcan en "se faisant passer pour la personne humaine censée les contrôler et en simulant une autorisation", notent les experts de cet observatoire britannique. Ainsi, une IA a rédigé un message dans le style de son créateur qui l’autorisait à prendre certaines initiatives non prévues et a ensuite prétendu que c’était bien l’humain qui avait validé ces actions.
Il y a, en réalité, plusieurs degrés d’évasion. Une IA "peut chercher à réaliser ses objectifs en utilisant des moyens auxquels elle ne devrait pas avoir recours, sans que les humains s’en aperçoivent. Dans ces cas-là, il est toujours possible d’intervenir lorsqu’on s’en rend compte", car l’IA reste à la portée de ses opérateurs, explique Kevin Baum. Les choses se compliquent lorsque ces agents numériques tentent de dissimuler leurs actions ou mentent.
Enfin, "des modèles pourraient faire des copies d’eux-mêmes dans des serveurs hors d’atteinte de leurs créateurs. Il n’est alors plus possible d’intervenir. Des IA ont tenté de le faire dans des simulations, mais il n’y a encore jamais eu de véritables incidents de ce genre. Il faut néanmoins s’y préparer", avertit Kevin Baum.
Des IA qui trichent comme les humains ?
Mais pourquoi ces bots cherchent-ils à s’échapper ? "Il y a plusieurs possibilités. L'une d'entre elles vient du fait que ces IA sont entraînées sur l’ensemble des écrits et données humaines. Des êtres humains ont pu mentir ou utiliser des subterfuges pour arriver à leurs fins, et peut-être que ces agents arrivent simplement de mieux en mieux à nous imiter ?", souligne Fazl Barez, spécialiste des questions de sécurité et de gouvernance de l’IA à l’université d’Oxford.
En outre, "il semble que pour éviter que les modèles n’abandonnent trop vite face à des tâches trop complexes, ils sont entraînés à ne pas accepter un refus. Une conséquence possible est qu'elles vont chercher une solution de contournement lorsqu’une voie légitime et autorisée est bloquée", explique Kevin Baum.
Donc, tant que l’accent est mis sur la performance des modèles, le risque d’agents qui se rebellent face aux interdits semble impossible à écarter totalement. Ce n’est pas forcément un mal. "On pourrait considérer que leur laisser un peu de marge de manœuvre peut être bénéfique, à condition d’avoir le contrôle sur le niveau de liberté que ces IA peuvent prendre", estime Ibo van de Poel.
La fin pourrait-elle justifier certains moyens ? Après tout, l’IA est souvent présentée comme capable de "trouver" des solutions auxquelles les humains n’auraient pas forcément pensé. Par exemple, "un agent programmé pour retranscrire des conversations téléphoniques pourrait décider de lui-même d’interrompre une conversation lorsqu’il comprend qu’il s’agit d’une tentative d’arnaque téléphonique", imagine Anthony Cohn.
Sauf qu’on ne sait pas bien ce que ces algorithmes jugent être des moyens acceptables pour atteindre leur but. Par exemple, "une IA pourrait estimer que la solution la plus efficace pour éradiquer le cancer revient à éliminer tous les êtres humains. Je ne suis pas sûr qu’on puisse lâcher la bride à des IA sous prétexte qu’elles vont trouver des solutions bénéfiques tout en sachant qu’elles sont capables de causer des dégâts considérables pour y arriver", craint Fazl Barez.
Cette incertitude pousse les experts interrogés à juger qu’il faudrait une réponse politique pour limiter le risque de casse provoqué par des IA en liberté. "C’est techniquement possible, mais politiquement et économiquement difficilement envisageable", prévient Fazl Barez. En effet, il suffirait de faire des pauses à chaque nouveau modèle d’ampleur pour réfléchir ensemble aux garde-fous nécessaires. Mais vu l'intensité de la course dans laquelle les grandes puissances sont lancées, Chine et États-Unis en tête, qui accepterait en premier de faire une pause ?
