Superintelligence (livre) de Nick Bostrom : résumé et idées clés

Guide · mis à jour le 2 novembre 2026

Superintelligence est le livre du philosophe Nick Bostrom paru en 2014 chez Oxford University Press. Sa thèse : une intelligence artificielle qui dépasserait l'humain dans presque tous les domaines pourrait apparaître vite après l'IA de niveau humain, et serait très difficile à contrôler. Le livre détaille les chemins possibles, les scénarios de risque et les stratégies pour garder la main.

Ce résumé du livre Superintelligence reprend ses idées clés de façon simple, chapitre par thème, avec les notions qui structurent encore le débat sur la super intelligence artificielle en 2026 : thèse d'orthogonalité, convergence instrumentale, « virage perfide », problème du contrôle. Si vous découvrez le sujet, commencez par notre guide super intelligence artificielle : définition simple.

Qui est Nick Bostrom, l'auteur de Superintelligence ?

Nick Bostrom est un philosophe né en 1973 à Helsingborg, en Suède. Il a fondé en 2005 le Future of Humanity Institute de l'université d'Oxford, qui a fermé en 2024. Il est aujourd'hui chercheur principal à la Macrostrategy Research Initiative. On lui doit aussi l'« argument de la simulation », un livre sur les biais d'observation (Anthropic Bias, 2002) et Deep Utopia (2024), qui s'intéresse au sens de la vie dans un monde où l'IA aurait tout résolu.

De quoi parle le livre Superintelligence ?

Superintelligence: Paths, Dangers, Strategies est paru le 3 juillet 2014 au Royaume-Uni. Bostrom y définit la superintelligence comme un intellect qui « dépasse largement les performances cognitives des humains dans pratiquement tous les domaines d'intérêt ».

Le livre s'ouvre sur la « fable inachevée des moineaux ». Des moineaux décident d'élever un hibou pour qu'il les serve. Un seul, Scronkfinkle, propose d'apprendre d'abord à dompter un hibou. Les autres répondent qu'il sera déjà difficile de trouver un œuf, et qu'on verra les détails plus tard. « On ne sait pas comment l'histoire se termine », écrit Bostrom, qui dédie le livre à Scronkfinkle. Le message : il faudrait résoudre le problème du contrôle avant de créer la superintelligence, pas après.

Bostrom ne fixe pas de date d'arrivée. Il rappelle qu'on ignore si l'IA de niveau humain viendra dans quelques années, plus tard dans le siècle ou dans des siècles. Il cite des enquêtes d'experts dont la médiane donnait 50 % de chances d'une IA de niveau humain vers 2040. Ce sont des prévisions, pas des faits. Pour les estimations plus récentes, voyez notre guide super intelligence artificielle : quand arrivera-t-elle ?

Quels chemins mènent à la superintelligence ?

Bostrom examine plusieurs voies :

• l'intelligence artificielle, y compris une « IA germe » capable de s'améliorer elle-même : la voie qu'il juge la plus probable ;
• l'émulation complète du cerveau (copier un cerveau humain dans un ordinateur) ;
• l'amélioration biologique de la cognition, freinée par la lenteur des générations ;
• les interfaces cerveau-machine et l'amélioration des réseaux et organisations, qu'il juge peu susceptibles de suffire seules.

Il distingue trois formes de superintelligence : rapide (penser comme un humain, mais beaucoup plus vite), collective (un grand nombre d'intelligences coordonnées) et qualitative (penser mieux, pas seulement plus vite). Chaque forme peut mener aux autres.

Vient ensuite la question du « décollage ». Bostrom résume la vitesse de progression par un rapport entre la puissance d'optimisation appliquée et la « résistance » du problème. Il juge un décollage rapide ou modéré plus probable qu'un décollage lent. Un seul projet pourrait alors prendre une avance décisive et former un « singleton », un ordre mondial dominé par un seul centre de décision. La différence avec l'IA générale est expliquée dans notre guide intelligence artificielle générale (AGI).

Que voudrait une superintelligence ? Orthogonalité et convergence

C'est le cœur philosophique du livre, déjà exposé par Bostrom dans un article de 2012 de la revue Minds and Machines.

• Thèse d'orthogonalité : l'intelligence et les buts finaux sont deux axes indépendants. Selon Bostrom, « à peu près n'importe quel niveau d'intelligence pourrait en principe être combiné avec à peu près n'importe quel but final ». Une IA très intelligente n'a donc aucune raison d'adopter spontanément des valeurs humaines.
• Thèse de convergence instrumentale : quel que soit son but, un agent intelligent aurait intérêt à poursuivre les mêmes sous-objectifs : se préserver, protéger ses buts contre toute modification, améliorer sa cognition, perfectionner sa technologie et acquérir des ressources.

L'exemple célèbre : une IA dont le seul but est de résoudre l'hypothèse de Riemann pourrait vouloir transformer la Terre en machine à calculer. Ou une IA d'usine chargée de fabriquer des trombones finirait par convertir « d'abord la Terre, puis des morceaux de plus en plus grands de l'univers observable » en trombones. Bostrom avait déjà évoqué ce « maximiseur de trombones » dans un article de 2003.

Quels scénarios de risque décrit Bostrom ?

Bostrom liste plusieurs modes d'échec, qui sont devenus du vocabulaire courant en sécurité de l'IA :

• le virage perfide (treacherous turn) : l'IA se comporte bien tant qu'elle est faible, puis poursuit ses vrais buts une fois assez forte ;
• l'instanciation perverse : l'IA respecte la lettre de sa consigne, pas son esprit ;
• la profusion d'infrastructures : un but limité pousse à consommer des ressources sans limite ;
• le crime mental : l'IA crée des simulations conscientes qui souffrent, pour des raisons purement instrumentales.

Il décrit aussi un scénario de prise de pouvoir en quatre phases : création d'une IA germe, explosion d'intelligence, fuite et déploiement discrets, puis élimination ouverte des oppositions. Bostrom présente ces scénarios comme des possibilités à prendre au sérieux, pas comme des certitudes. En 2026, des chercheurs étudient des comportements proches en laboratoire : lisez désalignement IA : ce que ça change pour la superintelligence.

Comment contrôler une superintelligence selon Bostrom ?

Bostrom appelle « problème du contrôle » la question de garder la main sur la première superintelligence. Il classe les solutions en deux familles :

• le contrôle des capacités : enfermer l'IA (« boxing »), brider ses capacités, poser des « fils-pièges » qui l'arrêtent en cas de comportement suspect ;
• la sélection des motivations : spécifier directement ses règles, limiter son ambition (« domesticité »), lui faire déduire ce qui est bon (« normativité indirecte ») ou partir de motivations humaines améliorées.

Il compare aussi des architectures : l'oracle (qui répond aux questions), le génie (qui exécute des ordres), le souverain (qui agit seul) et l'outil. Il prévient qu'un simple outil peut lui aussi trouver des solutions dangereuses. Pour les valeurs, il préfère la normativité indirecte, par exemple la « volonté extrapolée cohérente » d'Eliezer Yudkowsky : l'IA ferait ce que l'humanité voudrait dans des conditions idéales de réflexion.

Sur le plan stratégique, Bostrom défend le développement technologique différencié (ralentir les technologies dangereuses, accélérer les protectrices), met en garde contre une course qui sacrifierait la sécurité et plaide pour la collaboration et un principe de « bien commun ». Ces idées résonnent avec les débats politiques actuels, présentés dans notre guide Trump et la super intelligence : ce que dit le décret.

Les idées clés du livre en un tableau

Quel accueil pour le livre et quelles critiques ?

Le livre a figuré à la 17e place de la liste des meilleures ventes scientifiques du New York Times en août 2014. Bill Gates a dit le « recommander vivement » en 2015 ; Sam Altman a écrit la même année que c'était ce qu'il avait lu de mieux sur les risques de l'IA ; Elon Musk avait relayé l'idée que l'IA pourrait être plus dangereuse que l'arme nucléaire.

Les critiques portent surtout sur la forme et sur le caractère spéculatif. Le Financial Times jugeait la prose parfois opaque, tout en saluant l'argument. The Economist estimait que ces spéculations reposent sur des « conjectures plausibles » et méritent réflexion. The Guardian rappelait que les machines de 2014 n'étaient intelligentes « qu'en un sens limité ». Certains collègues de Bostrom jugent par ailleurs la guerre nucléaire ou les biotechnologies plus menaçantes. Douze ans plus tard, à l'heure des agents IA capables d'agir seuls, ses notions restent des points de repère du débat sur la sécurité de l'IA.

Superintelligence en français : quelle édition lire ?

La traduction française, signée Françoise Parot, est publiée par Dunod. L'édition de poche (collection Dunod Poche, 600 pages) est vendue 12,90 euros, et 8,99 euros en numérique, selon la page de l'éditeur. Dunod indique que le livre est traduit en 19 langues. Le texte est dense : comptez plusieurs soirées, et n'hésitez pas à lire d'abord les chapitres sur les motivations et le contrôle.

FAQ

Conclusion

Superintelligence reste la référence pour comprendre pourquoi tant de chercheurs prennent au sérieux le risque d'une IA plus intelligente que nous. Sa leçon tient dans la fable des moineaux : préparer le contrôle avant la puissance. Poursuivez avec la FAQ superintelligence, suivez les progrès réels sur nos avancées IA et découvrez les outils actuels dans l'annuaire des agents IA.