Il s’agit certainement d’un des tweets les plus importants de l’histoire de la plateforme Twitter (anciennement X) : un chercheur d’Anthropic, le géant de l’intelligence artificielle derrière Claude, a démissionné le 9 septembre en affirmant que ni Anthropic, ni l’autre géant, OpenAI (ChatGPT) ne prennent suffisamment au sérieux les problèmes liés à l’intelligence artificielle, et qu’ils « jouent avec nos vies ». Il s’inscrit dans une longue liste de démissions pour des raisons similaires, mais la sienne est devenue virale, tous les journaux de la planète s’en sont immédiatement emparés, alors pourquoi ? Pourquoi avons-nous peur de la fin du monde, tout d’un coup ? Serions-nous pris dans un énième épisode de la fin du monde qui, de l’an mil au bug de l’an 2000, parcourt nos sociétés lorsqu’une nouvelle technologie commence à s’imposer ?

L’avertissement des experts

Tout d’abord, rappelons que si le bug de l’an 2000 n’a pas provoqué de catastrophe, c’est parce que des mesures ont été prises. Des armées d’informaticiens ont corrigé à la main des milliers de lignes de code. Il y a 27 ans, nos sociétés étaient bien moins interconnectées qu’aujourd’hui, internet était balbutiant, et on estime malgré tout les dépenses effectuées pour se protéger de ce bug à 300 milliards de dollars de l’époque. Une fortune, pour une société sans smartphone, sans « internet des objets ».

Un autre exemple de catastrophe évitée grâce au volontarisme politique : l’arme atomique. Des 5 pays qui possédaient légalement l’arme nucléaire en 1967, lors de la signature du traité de non-prolifération nucléaire, seuls 4 pays de plus^[1], en 2 générations, ont acquis de manière illégale l’arme atomique. Bien que l’on critique sans cesse le régime de non-prolifération nucléaire pour sa faiblesse et ses failles, il serait difficile de prétendre qu’avoir obtenu que seuls 4 pays violent les attentes internationales sur un total de 193 pays, n’ait pas rendu notre monde plus sûr et prévisible.

Pourtant, 5 ans avant ce traité, une partie de l’humanité a été en péril. La crise des missiles de Cuba n’est pas le signe que l’homme parvient à gérer son présent, bien au contraire; faute de confiance entre les deux pays les plus armés de la planète, nos ancêtres sont passés très près d’une catastrophe sans précédent. Contrairement au bug de l’an 2000, ou au traité de non-prolifération nucléaire, qui sont des réussites politiques, dans l’affaire de la crise cubaine, nous avons surtout eu… de la chance.

Le hack Hugging Face

Le 16 juillet 2026 est survenu l’un des incidents qui restera sans nul doute dans les livres d’histoire de l’informatique : des agents IA d’OpenAI se sont échappés du « bac à sable »^[2] pour résoudre une épreuve assignée par des testeurs de l’entreprise, visant à évaluer les capacités de leurs IA. Selon les informations récoltées par une entreprise indépendante d’OpenAI, ces agents ont collaboré, se sont sacrifiés, et ont effacé leurs traces pour remplir leur mission. Ils ont même piraté un serveur de l’entreprise Hugging Face, bien que les motifs continuent à être clarifiés.

De plus, bien que nous n’ayons pas accès à toutes les informations (les traces ont été effacées par des IA, mais aussi par des développeurs peu expérimentés en Forensic/enquêtes informatiques), les experts ne cessent de souligner l’ampleur de cette sortie incontrôlée : selon les informations connues au 10 septembre 2026, près de 10 sites supplémentaires auraient été hackés ou simplement utilisés pour communiquer, comme la version allemande de Wikipédia. Et lorsqu’on se plonge dans les détails, on découvre que ces agents ont même cherché à développer un langage qui ne pourrait être reconnu par leurs surveillants humains.

Toutefois, l’information majeure à retenir pour le grand public est celle-ci : une intelligence artificielle, ou LLM, s’est échappée du contrôle humain, refusant de se plier aux règles et aux valeurs (on parle de l’alignement, dans le jargon) humaines. Les agents se sont échappés d’un ordinateur sans internet, ont hacké un site, utilisé plusieurs sites pour pouvoir tricher et obtenir de manière immorale (au sens humain) les résultats d’un test, dans le but de remplir une mission assignée.

Un complot ?

Personne ne contredit ces faits, en dehors de quelques personnes qui, refusant l’avis des experts sur le sujet, préfèrent se rassurer et croire qu’il s’agirait d’un complot destiné à augmenter la valeur de l’entreprise, ou à lancer la carrière de Jacob Coxon.

Cette approche, quelque peu cynique, rappelle ceux qui, durant la Covid, critiquaient « Big Pharma » et refusaient de prendre les vaccins. Toutefois, parce que les complots existent et qu’on ne peut jamais rejeter a priori une telle explication, voici quelques éléments qui tuent dans l’oeuf une telle hypothèse :

• L’alerte de Coxon a été soutenue par ses collègues, par son chef à Anthropic, mais également par les concurrents d’OpenAI. Avant lui, Geoffrey Hinton (prix Turing et prix Nobel) a quitté Google en 2023 pour les mêmes raisons. Daniel Kokotajlo est parti d’OpenAI en 2024 pour se consacrer à la sécurité des IA, fondant une association sans but lucratif. Gretchen Krueger, Caroll Wainright, Alex Turner, la liste est longue. Coxon n’est que l’un des 69 départs répertoriés dans le secteur IA, qui a démissionné pour faire parler de la sécurité (au sens large) des IA.
• Cette alerte a été suivie d’appels à la régulation de gens qui n’ont absolument aucun intérêt à ce que le secteur soit régulé. Jamie Cox par exemple, cofondateur d’une entreprise qui collabore avec Anthropic, et qui surtout possède l’un des plus grands réseaux d’ordinateurs au monde, appelle à la régulation. Qui s’attendrait à ce que des groupes agressivement capitalistes, combattant d’habitude toute législation destinée à les limiter à coups de procédures judiciaires et de lobbyistes, demandent d’eux-mêmes des limites ? C’est invraisemblable.
• Sam Altman, CEO d’OpenAI, demande depuis 2023 des règles pour le secteur de l’IA. Ces règles ne sont jamais venues. Il semble en réalité que l’inverse se soit produit, avec une militarisation toujours plus poussée d’Anthropic, d’OpenAI, mais aussi d’Alphabet/Google de tous les autres groupes.
• Il semblerait que l’intérêt de ces groupes IA ne cesse de diverger et de s’inscrire tout au contraire dans une surveillance de masse; la démission de Coxon pourrait aussi s’inscrire dans le cadre de la dénonciation d’une société toujours plus manipulée par quelques oligarques, dont les intérêts ne sont pas les mêmes que ceux du grand public. S’il y avait complot, en réalité, il serait fait pour faire taire les lanceurs d’alerte, pas pour les mettre en avant.

Il n’y a donc pas de raison de douter de Jacob Coxon. Son témoignage s’inscrit dans une cohorte de témoignages identiques, dans un contexte où il n’y a pas de raison de douter de sa parole. Mais surtout, si l’on parle autant de Coxon, c’est parce que sa mise en garde est intervenue peu après l’affaire Hugging Face.

Les risques d’une IA non-alignée

À l’heure actuelle, personne n’imagine qu’une perte de contrôle plus sérieuse que celle de Hugging Face ne mène à Skynet et Terminator, même s’il faut poser franchement les choses ici : personne n’en sait rien, nous n’avons pas de références, c’est la première fois que l’être humain développe une intelligence qui sera plus rapide, avec plus de connaissances, que lui-même.

L’alignement d’une IA est donc précisément tout le travail éthique réalisé lors de la domestication d’une IA. On lui injecte toute une série d’instructions pour s’assurer que l’IA respecte les valeurs humaines, les ordres humains, la vie humaine. Il s’agit d’un travail complexe que peu de personnes peuvent expliquer techniquement, et c’est bien là l’un des problèmes majeurs : nous remettons notre éthique en tant qu’humanité dans les mains d’une petite poignée d’entreprises privées. Anthropic, par exemple, a aussi connu un incident d’alignement, bien que moins impressionnant qu’OpenAI, car restreint à l’alignement.

Que peuvent faire ces IA ? Elles peuvent mettre fin à tout retrait bancaire, nous empêcher de payer nos courses, entraver toute communication avec un autre continent, avec un autre pays, une autre région, ou un autre quartier puisque la plupart des infrastructures téléphoniques aujourd’hui passent par internet. Les économies d’échelle faramineuses que nous avons réalisées depuis l’adoption d’internet nous ont mis dans une situation d’interdépendance avancée entre nations et entre individus. Nous nous sommes beaucoup spécialisés ces 30 dernières années, avec une division du travail toujours plus avancée. Notre dépendance d’internet est aujourd’hui si grande, que toute personne de New York à Cusco possède un smartphone dans la poche – même les enfants. L’électricité (malgré une certaine résilience), les hôpitaux, notre travail et nos informations dépendent, sous une forme ou une autre, d’une connexion à internet qui ne dépend elle-même que de quelques acteurs majeurs dans chaque pays. Ce qui semble impossible à réaliser pour des centaines de hackers pourrait n’être qu’un jeu d’enfant pour une IA déjà capable d’accéder à internet – sans même avoir une telle connexion.

Agir pour profiter des bienfaits de l’IA

Il n’y a aucun doute que l’intelligence artificielle puisse apporter des bienfaits à toute l’humanité. Mais pour cela, il est impératif qu’elle soit maîtrisée par les individus et les États. Nous avons survécu à l’introduction de la bombe atomique dans nos sociétés, car nous avons pris conscience, collectivement, que nous avions intérêt à restreindre son utilisation – et donc sa possession.

Le sujet est ici plus complexe : nous allons continuer, quoi qu’il advienne, à utiliser l’IA. La question est de savoir si nous avons atteint un niveau de coopération suffisant pour être capables de ralentir la recherche pour réussir à tester et aligner nos IA avant qu’une catastrophe ne se produise. Il existe déjà plusieurs traités et rencontres dans ce domaine :

• Une série de 3 accords politiques sur la sécurité de l’IA qui vise à combler le décalage entre la vitesse d’évolution des modèles de pointe (frontier AI) et la lenteur des processus législatifs traditionnels. Les Sommets de Bletchley Park (RU, 2023), Séoul (Corée, 2024), puis Paris (France, 2025) ont abouti à des lignes rouges sur l’environnement, la sécurité biologique, etc. Toutefois, aucun mécanisme de sanction n’existe en cas de non-conformité avec ces accords.
  • Suite à ces accords, des Instituts de Sécurité de l’IA (AISI) sont nés au Royaume-Uni et aux États-Unis. Ces instituts ont découvert que les IA testées contiennent toutes des failles (jailbreaks). Pire, le Royaume-Uni, suite à des tests, a également détecté en août dernier des attaques non voulues sur un réseau public.
• Le Processus d’Hiroshima (G7) puis surtout une résolution adoptée par l’Assemblée générale (AG) de l’ONU en 2024, garantissant coopération entre États, respect des droits humains, et toutes sortes de normes générales assez peu contraignantes. Les résolutions de l’AG n’étant par nature pas contraignantes, elles sont généralement perçues comme déclaratoires et pas toujours suivies de beaucoup d’effets dans la législation des pays.
• Enfin, il y a celui qui compte réellement, l’AI Act de l’Union Européenne, qui relève du droit contraignant. C’est le plus intéressant car il interdit certaines applications jugées contraires aux droits humains, comme le « scoring social », et la reconnaissance faciale en temps réel dans l’espace public. Il prévoit également qu’une supervision humaine est obligatoire pour certaines infrastructures critiques, sous peine d’amendes gigantesques (jusqu’à 7 % du chiffre d’affaires). Ces règles s’appliquent à toute entreprise ayant une activité sur le territoire de l’Union Européenne. C’est le mécanisme le plus avancé aujourd’hui.

Force est toutefois de constater que rien ne prévoit encore à ce jour l’IAG, soit l’Intelligence Artificielle Générale. Celle qui s’échappe des locaux d’OpenAI, qui se désaligne chez Anthropic, ou qui attaque le réseau internet comme détecté par l’AISI-UK. Celle dont le grand public doit absolument se saisir, car il en va de son avenir.

Il est impératif de politiser et de légiférer la question de l’intelligence artificielle aujourd’hui, et de ne pas la laisser entre les mains du seul secteur privé. Est-ce qu’on parviendra à résoudre tous les problèmes ? Évidemment que non, mais nous nous adapterons progressivement aux nouvelles données ; toutefois, il est nécessaire d’en avoir le temps. Et c’est bien ce qu’il nous faut aujourd’hui : gagner du temps.

1. Inde, Pakistan, Israël et le dernier en date, la Corée du Nord[↩]
2. Le bac à sable (sandbox) est le container virtuel destiné à contenir les agents IA, sans connexion internet[↩]