IA : darwin à la vitesse de la lumière

Quand une entreprise valorisée près de 1 000 milliards de dollars affirme que plus de 80 % de son propre code est désormais écrit par des machines, puis demande au monde entier de ralentir, l’avertissement mérite qu’on s’y arrête. Ce qui ressemble à un appel à la prudence est aussi un coup dans le jeu d’échecs car le sauveur autoproclamé reste, à ce jour, le coureur en tête…

Le 4 juin 2026, Anthropic a publié, via son Anthropic Institute, une note signée Marina Favaro et Jack Clark, « Quand l’IA se construit elle-même ».

Jack Clark est l’un des personnages les plus influents de l’industrie de l’intelligence artificielle. Ancien journaliste spécialisé puis responsable des politiques publiques chez OpenAI, il a cofondé Anthropic en 2021 après avoir quitté l’entreprise de Sam Altman. Aujourd’hui à la tête de l’Anthropic Institute, il réfléchit aux conséquences économiques, politiques et stratégiques de l’IA avancée. Considéré comme l’un des observateurs les mieux informés du secteur, il défend depuis plusieurs années l’idée qu’une intelligence artificielle capable d’améliorer elle-même ses propres capacités pourrait apparaître plus vite que ne l’imagine le grand public.

Marina Favaro est spécialiste des questions de sécurité internationale appliquées aux technologies émergentes. Formée à la fois aux enjeux géopolitiques et à l’intelligence artificielle, elle travaille chez Anthropic sur les risques stratégiques liés aux systèmes d’IA avancés. Ses recherches portent notamment sur la sécurité mondiale, les technologies à double usage et les mécanismes de gouvernance nécessaires pour encadrer des outils susceptibles de transformer les équilibres de puissance. Au sein de l’Anthropic Institute, elle contribue à évaluer les conséquences politiques et sociétales des progrès les plus rapides de l’intelligence artificielle.

Dans leur papier, ces dirigeants de l’entreprise Anthropic décrivent une bascule imminente : des modèles capables de concevoir et d’entraîner leurs propres successeurs sans intervention humaine décisive. Le terme technique est l’auto-amélioration récursive.

La traduction est plus simple: la machine apprend tout seule.

Pour étayer son propos, Anthropic s’appuie sur ses propres chiffres. Selon elle, plus de 80 % du code intégré à sa base était écrit par son IA en mai 2026, contre quelques pour cent un an plus tôt. Ses ingénieurs livreraient huit fois plus de code par trimestre, un gain qu’elle juge elle-même surévalué. À chaque étape, affirme-t-elle, le rôle humain rétrécit.

Bientôt, l’humain ne fera plus que relire ce qu’il ne peut déjà plus écrire aussi vite.

De ce diagnostic, Anthropic tire une demande inattendue. Ralentir. Son cofondateur Jack Clark résume l’industrie d’une formule : elle dispose d’un accélérateur, mais d’aucun frein.

L’entreprise demande l’option d’un ralentissement collectif, coordonné et vérifiable. Mais, elle ne veut pas d’une pause solitaire qui ne ferait que changer le nom du coureur en tête.

C’est ici que le vertige commence.

L’alerte est lancée de l’intérieur de la course, par l’un de ceux qui la mènent. L’argument de ses détracteurs est connu. On reproche à l’entreprise un marketing de la peur, une posture de chevalier blanc qui dénonce un danger qu’elle alimente. Le calendrier nourrit le soupçon. L’appel survient alors qu’Anthropic prépare son entrée en Bourse.

Geler la course reviendrait à figer la carte au moment où l’on occupe la tête.

Le soupçon est légitime mais ne suffit pas à clore le débat. Le problème que la note décrit existe indépendamment des intentions de celui qui le formule.

Un frein collectif suppose que chacun vérifie que les autres se sont arrêtés. Or l’entraînement d’un modèle se cache aisément, et celui qui triche en silence prend une avance décisive. En pratique, la confiance est introuvable.

L’histoire récente confirme la difficulté. En 2023 déjà, une lettre ouverte réclamait une pause de six mois. Rien ne s’est arrêté.

En mars 2023, une lettre ouverte publiée par le Future of Life Institute et signée par plus de 30 000 personnes, dont Elon Musk, le pionnier de l’IA Yoshua Bengio et le cofondateur d’Apple Steve Wozniak, demandait une pause de six mois dans le développement des systèmes d’intelligence artificielle les plus avancés. Les signataires estimaient que la course à la puissance technologique avançait plus vite que la capacité des sociétés à en maîtriser les conséquences. La pause n’a jamais eu lieu. Trois ans plus tard, les modèles sont devenus bien plus puissants, les investissements ont explosé et la concurrence entre entreprises et États s’est encore intensifiée, illustrant la difficulté presque insurmontable de ralentir une technologie perçue comme un avantage stratégique majeur.

Les traités de non-prolifération nucléaire ont demandé des décennies de négociation. Le temps long de la diplomatie se heurte au temps court de l’innovation et des gains en puissance de calcul.

Une technologie dont la trajectoire échappe peu à peu à ses propres concepteurs ne peut pas être gouvernée par ceux qui en tirent le plus profit. Déléguer le frein aux pilotes de la course, c’est confondre l’alerte et l’arbitrage.

L’initiative doit être collective : pouvoirs publics, chercheurs indépendants, universités, société civile… et dotée de réels moyens de vérification. Anthropic annonce vouloir organiser ces échanges. La fenêtre, dit la note, est ouverte maintenant. Mettons-nous au travail…

Retrouvez nos sources, nos textes et archives sur wow-media.fr

UN SUJET. DES FAITS. DES IDÉES. LE DÉBAT. UN ÉDITO.