Chaîne de pensée : ce que ça change pour la superintelligence

Avancées technologiques · 8 octobre 2026

La chaîne de pensée (« chain of thought ») est le raisonnement écrit qu'un modèle d'IA produit avant de répondre. La lire permet de repérer une intention problématique : c'est l'un des rares outils de contrôle de l'IA de pointe. Le 7 octobre, trois chercheurs licenciés par OpenAI ont demandé de préserver cette surveillance, que GPT-6 Astra a rendue plus fragile.

Pour la course à la superintelligence, l'enjeu est simple : peut-on encore voir comment raisonne une IA qui devient plus capable que nous ? Voici ce qu'est la surveillance de la chaîne de pensée, ce qu'a montré GPT-6 Astra, et ce qui est en débat.

Qu'est-ce que la chaîne de pensée d'une IA ?

Les modèles dits « de raisonnement » écrivent des étapes intermédiaires en langage naturel avant leur réponse finale. Cette trace s'appelle la chaîne de pensée (CoT, pour chain of thought). Elle sert d'abord à mieux résoudre les problèmes difficiles, mais elle offre un avantage inattendu : un humain, ou un autre modèle chargé de la surveillance, peut la lire.

• Ce que permet la surveillance : détecter un plan de triche, une tentative de contourner une règle ou un objectif caché, avant que l'action ne soit exécutée.
• Ses limites : la trace écrite ne reflète pas forcément tout le calcul interne du modèle, et elle peut manquer certains comportements.

Cette méthode complète d'autres garde-fous, comme les safety cases qu'OpenAI veut établir avant d'entraîner ses modèles. Google DeepMind cite aussi le contrôle de la chaîne de pensée parmi ses mesures, comme nous l'avions vu avec Gemini 4 Argon.

Chain of thought monitorability : l'alerte de 2025

En juillet 2025, une quarantaine de chercheurs issus d'OpenAI, de Google DeepMind, d'Anthropic et de Meta ont publié un article intitulé « Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety ». Ses premiers auteurs sont Tomek Korbak et Mikita Balesni, deux des chercheurs licenciés cette semaine. Selon Fortune, le texte a reçu le soutien d'Ilya Sutskever et de Geoffrey Hinton.

Le message tient en trois points :

• la surveillance de la chaîne de pensée est une opportunité réelle pour la sécurité de l'IA ;
• elle est imparfaite et « fragile » : rien ne garantit que la visibilité actuelle persistera ;
• les développeurs de modèles de pointe devraient tenir compte de l'effet de leurs choix techniques sur cette visibilité.

GPT-6 Astra : une IA plus difficile à surveiller

La fiche système de GPT-6 Astra, publiée par OpenAI début septembre 2026, a confirmé cette fragilité. Selon les extraits rapportés par l'analyste Zvi Mowshowitz et par la presse spécialisée :

Autre facteur : Astra utilise en partie la « profondeur récurrente », qui fait repasser une information plusieurs fois dans le modèle sans rien écrire dans la chaîne de pensée. Ce calcul n'est donc pas lisible. Jakub Pachocki, directeur scientifique d'OpenAI, affirme que cet usage est limité, sans publier de plafond précis. OpenAI attribue surtout la baisse à des environnements d'entraînement plus complexes et à des modèles plus intelligents qui verbalisent moins.

Ce que demandent les chercheurs licenciés

Tomek Korbak, Mikita Balesni et Jasmine Wang ont été licenciés le 1er octobre. OpenAI invoque des manquements dans la gestion d'informations sensibles. Le 7 octobre, ils ont écrit au conseil d'administration d'OpenAI et à ses comités de sécurité. La lettre n'est pas publique ; selon les extraits du Wall Street Journal repris par Gizmodo :

• « En tant qu'industrie, nous ne savons pas encore comment développer et déployer de façon sûre des modèles que nous ne pouvons pas surveiller » ;
• OpenAI et les autres laboratoires ne devraient pas poursuivre des développements qui réduisent encore cette surveillance.

OpenAI dit que les licenciements « n'avaient rien à voir » avec des alertes de sécurité et, selon Gizmodo, a présenté une note interne où elle se dit « fortement d'accord » avec les recommandations des auteurs. Le contexte de l'actualité est résumé dans l'actu IA du 8 octobre sur GPT-6.

Ce que ça change pour la superintelligence

Ce qui suit est une analyse, pas un fait établi.

• Un compromis capacité contre visibilité. Raisonner sans écrire peut rendre un modèle plus rapide ou plus puissant, mais moins contrôlable. Chaque laboratoire devra arbitrer.
• Un enjeu pour l'auto-amélioration. Les scénarios d'explosion d'intelligence supposent des IA qui améliorent d'autres IA. Sans visibilité sur leur raisonnement, contrôler ce processus serait plus difficile. Voir notre article sur l'auto-amélioration de l'IA avec SIFT.
• Des garde-fous complémentaires. Les tests montrent que la surveillance des actions reste utile quand celle du raisonnement faiblit : aucune méthode ne suffit seule.

FAQ

Conclusion

La chaîne de pensée est aujourd'hui une fenêtre précieuse sur le fonctionnement des IA de pointe, et GPT-6 Astra montre qu'elle peut se refermer. Suivez les prochaines avancées vers la superintelligence, les nouveautés du jour et les réponses de notre FAQ sur la superintelligence.