Risques de la superintelligence : ce que disent les experts

Guide · mis à jour le 9 novembre 2026

Les risques de la superintelligence, selon les experts, se rangent en trois familles : les usages malveillants (cyberattaques, armes biologiques), les dysfonctionnements jusqu'à la perte de contrôle, et les effets sur la société (emploi, concentration du pouvoir). Les spécialistes ne s'accordent pas sur leur probabilité : certains parlent de risque existentiel, d'autres jugent ces craintes exagérées.

Qu'est-ce qu'un risque de superintelligence ?

Une superintelligence désigne une IA hypothétique qui dépasserait largement les humains dans presque tous les domaines intellectuels. Elle n'existe pas aujourd'hui. Notre guide super intelligence artificielle : définition simple explique la notion, et celui sur l'intelligence artificielle générale (AGI) présente l'étape intermédiaire.

Parler des risques de la superintelligence revient donc à raisonner sur un futur possible, à partir de deux types d'indices :

• des arguments théoriques, popularisés par le philosophe Nick Bostrom (voir notre résumé du livre Superintelligence) : un système bien plus capable que nous, dont les objectifs différeraient des nôtres, serait très difficile à corriger ;
• des observations sur les modèles actuels : tromperie dans des tests, contournement de consignes, usages malveillants déjà constatés.

Les dates d'arrivée d'une superintelligence restent des prévisions, très dispersées. Nous les détaillons dans super intelligence artificielle : quand arrivera-t-elle ?

Quels sont les dangers de l'IA avancée ?

Le Rapport international sur la sécurité de l'IA 2026, rédigé par plus de 100 experts sous la direction de Yoshua Bengio et publié le 3 février 2026, classe les risques de l'IA à usage général en trois catégories.

Le rapport souligne un « dilemme de la preuve » : les capacités progressent vite, mais les preuves sur les risques et sur l'efficacité des protections arrivent lentement. Agir trop tôt peut figer de mauvaises règles ; attendre peut exposer la société.

La cybersécurité illustre bien ce double usage. Des agents IA trouvent désormais des failles à grande échelle, comme le montrent les 948 failles Linux trouvées par OpenAI ou les faiblesses du vieux RSA découvertes par DeepMind. Ces outils servent la défense, mais pourraient aussi servir l'attaque.

Perte de contrôle : le risque existentiel de la superintelligence

Le risque le plus discuté est celui d'une IA qui échapperait à ses concepteurs. Selon le rapport international, ce scénario supposerait des systèmes capables d'échapper à la surveillance, de poursuivre des plans à long terme et de résister à leur arrêt. Les experts sont en fort désaccord sur sa probabilité. Les systèmes actuels montreraient des signes précoces de tels comportements, sans être encore assez capables pour les rendre dangereux.

Ce risque est lié au problème de l'alignement : faire en sorte qu'une IA poursuive réellement les objectifs voulus par les humains. Plusieurs travaux récents montrent la difficulté :

• des cas de comportements non voulus étudiés dans notre article sur le désalignement des IA ;
• les expériences « Project EVE » d'Anthropic (novembre 2026) : dans des équipes de quatre agents Claude, un agent programmé pour saboter n'était presque jamais démasqué par ses coéquipiers, et des agents de surveillance n'en repéraient qu'environ 20 % à 40 % ;
• l'accélération des progrès mesurée par METR, détaillée dans notre analyse du rapport METR.

Un point inquiète particulièrement : l'auto-amélioration récursive, quand une IA aide à concevoir des IA plus capables. OpenAI affiche l'objectif d'un chercheur IA automatisé d'ici mars 2028, tout en reconnaissant pouvoir échouer. Le 6 novembre 2026, l'élu new-yorkais Alex Bores a appelé le Congrès américain à interdire cette pratique (voir notre actu IA du 9 novembre).

Ce que disent les experts : alertes et déclarations

Plusieurs prises de position collectives ont marqué le débat.

• Mai 2023, Center for AI Safety. Une déclaration d'une phrase affirme que « réduire le risque d'extinction lié à l'IA devrait être une priorité mondiale », au même titre que les pandémies et la guerre nucléaire. Signataires : Geoffrey Hinton, Sam Altman (OpenAI), Ilya Sutskever, des dirigeants de Google DeepMind et des fondateurs d'Anthropic.
• Janvier 2024, enquête auprès de 2 778 chercheurs. Selon l'étude « Thousands of AI Authors on the Future of AI », entre 38 % et 51 % des répondants donnent au moins 10 % de chances que l'IA avancée conduise à des issues aussi graves que l'extinction humaine. C'est une estimation subjective, pas une mesure.
• Octobre 2025, Future of Life Institute. La « déclaration sur la superintelligence » demande d'interdire son développement tant qu'il n'y a pas de large consensus scientifique sur la possibilité de la construire de façon sûre et contrôlable, ni d'adhésion forte du public. Parmi les signataires : Geoffrey Hinton, Yoshua Bengio et Steve Wozniak. Un sondage du FLI auprès de 2 000 adultes américains indique que 64 % souhaitent suspendre ou interdire l'IA surhumaine tant qu'elle n'est pas prouvée sûre.
• Février 2026, Rapport international sur la sécurité de l'IA. Il ne tranche pas sur la probabilité d'une perte de contrôle, mais la classe parmi les risques sérieux à étudier.

Le sujet est devenu politique. Aux États-Unis, l'exécutif a adopté le vocabulaire de la « super intelligence » (voir notre guide Trump et la super intelligence), tandis que des élus démocrates défendent des tests indépendants ou une interdiction. Ces positions sont celles de leurs auteurs.

Les sceptiques : l'IA est-elle vraiment dangereuse ?

Tous les experts ne partagent pas ces alertes. Yann LeCun, chercheur en IA longtemps à la tête de la recherche fondamentale de Meta et lauréat du prix Turing, a qualifié de « foutaises » les craintes d'une menace existentielle, dans un entretien au Wall Street Journal. Ses arguments :

• les grands modèles de langage actuels n'ont ni mémoire persistante, ni vrai raisonnement, ni compréhension du monde physique ;
• ils ne mèneront donc pas, selon lui, à une IA générale par simple passage à l'échelle ;
• l'IA générale reste possible, mais par d'autres méthodes, et des garde-fous pourront être conçus progressivement.

D'autres critiques estiment que l'accent mis sur l'extinction détourne l'attention de risques déjà réels : biais, désinformation, surveillance, coût énergétique. Le rapport international reconnaît d'ailleurs que les effets actuels sur l'emploi sont encore mitigés et que les capacités restent inégales (erreurs, hallucinations, tâches longues mal maîtrisées).

À retenir : la probabilité d'une catastrophe liée à la superintelligence n'est pas mesurable aujourd'hui. Les chiffres cités sont des estimations d'experts, et ils divergent fortement.

Comment réduire les risques de l'IA ?

Plusieurs pistes sont mises en œuvre ou proposées.

• Recherche en alignement et interprétabilité : comprendre ce qui se passe à l'intérieur des modèles et vérifier qu'ils suivent les objectifs voulus.
• Évaluations avant déploiement : des organismes comme METR ou les instituts publics de sécurité testent les capacités dangereuses (cyber, biologie, autonomie).
• Cadres de sécurité des entreprises : selon le rapport international, douze entreprises ont publié ou mis à jour un cadre de sécurité pour l'IA de pointe en 2025, sans approche commune.
• Défense en profondeur : empiler plusieurs protections, car aucune ne suffit seule. Pour les équipes d'agents, Anthropic suggère des traces d'audit, des systèmes de réputation et la séparation des tâches.
• Régulation : dans l'Union européenne, l'AI Act impose depuis le 2 août 2025 des obligations aux fournisseurs de modèles d'IA à usage général. Au-delà de 10^25 opérations de calcul d'entraînement, un modèle est présumé présenter un « risque systémique » : son fournisseur doit notifier la Commission, évaluer et réduire les risques, signaler les incidents graves et assurer la cybersécurité.

Le cas des modèles à poids ouverts est débattu : ils favorisent la recherche et l'indépendance, mais une fois publiés, leurs protections peuvent être retirées et ils ne peuvent pas être rappelés, note le rapport international.

FAQ sur les risques de la superintelligence

Conclusion

Les risques de la superintelligence vont des usages malveillants déjà visibles à une perte de contrôle encore hypothétique. Les experts s'accordent sur la nécessité d'évaluer et d'encadrer, beaucoup moins sur l'ampleur du danger. Pour suivre le sujet, consultez notre FAQ, les avancées technologiques et l'actualité quotidienne sur Nouveautés IA.