Preuves formelles : ce que ça change pour la superintelligence

Avancées technologiques · 24 octobre 2026

Des preuves formelles écrites par l'IA, à grande échelle : Anthropic annonce que Claude a démontré mathématiquement que 239 points d'entrée de 123 bibliothèques open source ne plantent pas, dans des conditions précises. En chemin, il a trouvé et corrigé des centaines de bugs. Une étape vers des logiciels que l'IA sait à la fois écrire et prouver.

Les preuves formelles étaient jusqu'ici réservées à quelques systèmes critiques, tant elles coûtent cher en travail humain. Le 22 octobre, l'équipe Frontier Red Team d'Anthropic, avec la société Theorem, a publié un travail qui change d'échelle. Voici ce qui a été fait, ce que ça vaut, et pourquoi c'est une pièce du puzzle de la superintelligence.

Qu'est-ce qu'une preuve formelle de code ?

La vérification formelle consiste à traduire un programme en objet mathématique, puis à prouver qu'il respecte toujours une règle, pour toutes les entrées possibles. Un test classique, lui, n'essaie qu'un nombre limité de cas. Si la preuve échoue, c'est souvent le signe d'un bug.

• La preuve est vérifiée par un logiciel, ici Rocq, et non par un humain.
• Elle ne vaut que pour la règle choisie (la « spécification ») et le modèle de machine utilisé.
• Pour donner un ordre de grandeur, The Decoder rappelle que la vérification du micronoyau seL4 avait demandé environ 20 années-personnes de travail.

Ce qu'Anthropic a fait avec Claude

L'idée centrale est astucieuse : les développeurs écrivent déjà des tests de « fuzzing », qui envoient des milliers d'entrées aléatoires pour provoquer un plantage. Claude transforme chaque test en énoncé mathématique : « ce programme ne plante jamais ». S'il le prouve, aucun fuzzing ne pourra plus trouver de bug à cet endroit.

Particularité : les preuves portent sur le code compilé (binaires RISC-V), pas sur le code source. Parmi les bibliothèques citées : zlib, libexpat, libc++, cpp-httplib, libcups, FreeRDP et libzmq.

Des centaines de bugs trouvés en chemin

Quand une preuve bloquait, Claude trouvait souvent un vrai défaut, le corrigeait, puis reprenait. Exemples rapportés par Anthropic :

• une écriture hors limites dans un décompresseur, déclenchée seulement par des fichiers d'environ 20 Mo à la structure rare ;
• une erreur de logique restée cachée plus de dix ans dans une application critique ;
• dans un lecteur PDF très utilisé, autant de failles de sécurité en une semaine qu'il en est signalé d'ordinaire en un an ;
• des centaines d'erreurs dans la documentation officielle de RISC-V.

Cela rejoint une tendance forte : l'IA trouve des failles plus vite que les humains ne les corrigent, comme l'a montré la faille PHP découverte par l'IA. Ici, la même capacité sert la défense.

Les limites de la vérification formelle par l'IA

Anthropic insiste : « formellement vérifié » ne veut pas dire « sans bug ».

• Les preuves supposent un programme à un seul fil d'exécution, un processeur RISC-V, Linux, et des entrées de moins de 64 Mo. La plupart des utilisateurs tournent sur x86 ou ARM.
• Le coût reste élevé : une preuve peut consommer des centaines de millions de tokens ; le coût total n'est pas publié.
• Le travail repose sur des fondations construites par des humains (les modèles de RISC-V et de Linux fournis par Theorem).
• Aucun expert indépendant n'a encore publié d'évaluation, selon The Decoder. Une partie des preuves est publiée pour relecture.

Ce que ça change pour la superintelligence

Trois points comptent pour la trajectoire vers une IA plus puissante :

• Des résultats vérifiables sans faire confiance à l'IA. Une preuve Rocq se contrôle mécaniquement. C'est une réponse partielle au problème central de l'alignement : comment vérifier le travail d'un système plus compétent que nous ?
• Des progrès rapides. Sur 36 petites tâches, Claude Opus 5.5 a réussi la moitié des preuves avec environ 40 % de tokens en moins qu'Opus 5. Des équipes d'agents partageant un espace de travail ont utilisé 17 % de tokens en moins que des agents isolés.
• Des infrastructures plus sûres. Theorem vise ensuite glibc, OpenSSL et cURL, des briques présentes sur une grande partie des serveurs du monde.

Après la conjecture de Grad réfutée avec l'aide de l'IA et les circuits quantiques optimisés par Claude, c'est un nouveau signe d'une IA qui produit du travail scientifique et technique vérifiable. Pour situer ces avancées, lisez notre guide intelligence artificielle générale (AGI), et pour les outils de programmation, notre comparatif du meilleur agent IA pour coder.

FAQ

Conclusion

L'IA ne se contente plus d'écrire du code : elle commence à prouver qu'il tient. La portée reste limitée et le coût élevé, mais la vérification formelle à grande échelle pourrait devenir un garde-fou clé face à des systèmes toujours plus capables. Retrouvez toutes les avancées vers la superintelligence et notre FAQ.