Superintelligence, une révolution industrielle ?

OpenAI a publié ses idées pour “Keep People First” à l’ère de la superintelligence. Et beaucoup de choses font froid dans le dos.

OpenAI a publié ses idées pour “Keep People First” à l’ère de la superintelligence.

Et beaucoup de choses font froid dans le dos.

Pourtant, certaines idées proposées font plutôt envie : une semaine de 4 jours sans diminution des salaires, une structure fiscale repensée pour taxer les revenus du capital (pour contrebalancer l’érosion de la masse salariale et des rentrées fiscales associées), et même un “Fonds souverain citoyen” indexé sur la croissance économique provoquée par l’IA. On en serait presque au revenu universel.

Mais plusieurs points apparaissent dérangeants, pour ne pas dire terrifiants.

L’angle choisi pour préserver les humains, c’est la politique industrielle. C’est le titre du paper.

OpenAI convoque le narratif de la révolution industrielle tout au long du document, en faisant miroiter des bénéfices mirobolants : augmentation de la productivité, baisse des biens essentiels, amélioration des conditions de vie, et un monde nouveau d’entrepreneuriat et de créativité.

Mais rien ne nous dit comment ces bénéfices fabuleux adviendront. Ils sont présentés comme un acquis, une donnée de l’avènement de la superintelligence. Ce n’est pas surprenant dans la mesure où OpenAI est bâti sur la croyance que l’IA améliorera le monde, mais ça permet une mise en récit intéressante qui repose sur plusieurs piliers

D’abord, la mobilisation du mythe de l’âge d’or : OpenAI compare la montée de l’IA et l’avènement d’une superintelligence à l’invention de l’électricité ou du moteur à explosion, vecteurs à leur sens d’augmentations significatives de la prospérité.

Dès lors, il devient possible de mentionner les risques induits par l’IA comme des externalités négatives, comme un prix à payer pour ces avancées mirifiques. Les deux sont associés, tout au long du texte, comme les deux faces d’une même pièce.

Il est alors aisé de pousser l’analogie : on a su réguler les effets négatifs de ces révolutions technologiques, et l’on saura faire de même avec l’IA, ou avec une ASI (Artificial Superintelligence).

De quoi avancer, très tranquillement : “This is not a new challenge. When transformative technologies have reshaped society in the past, they have introduced new risks alongside new benefits, and new systems were built to manage them as they scaled. “

Mais l’analogie fondatrice du raisonnement ne tient pas.

L’électricité, le moteur à explosion, et toutes les autres innovations que l’on voudra comparer, étaient de simples outils, destinés à rendre un élément spécifique beaucoup plus facile.

Dans l’introduction de son propre papier, OpenAI réaffirme la définition de l’ASI :

“Nous entrons dans une transition vers la superintelligence : des systèmes capables de surpasser les humains les plus brillants, même lorsque ces derniers sont eux-mêmes assistés par l’IA.”

Une superintelligence, est par sa définition même, supérieure aux humains dans la majorité des tâches existantes. Y compris, probablement, dans la création d’intelligences artificielles.

On est loin du moteur à explosion. Et il est peu probable qu’une ceinture de sécurité règle le problème.

Les mesures que propose OpenAI pour contrôler les dérives de cette future superintelligence tournent autour de mécanismes d’audits, de contrôle, d’alignement citoyen. Mais comment contrôler quelque chose qui surpasse, en tout point, les meilleurs experts mondiaux chargés de créer ce système de contrôle ?

Plus encore, cette narration permet à OpenAI d’opérer un glissement de responsabilité silencieux. Ce n’est plus à l’entreprise qui génère les modèles de s’assurer de la sécurité et de la maîtrise des risques : cela devient une responsabilité collective, sociétale.

Utile, quand on sait que l’équipe en charge du super alignement a été dissoute en 2024, après que son directeur a publiquement dénoncé les priorités de l’entreprise en matière de sécurité. Ou que ces considérations sur la sécurité sont la cause du schisme ayant conduit Dario Amodei et une partie des équipes d’OpenAI à quitter l’entreprise pour créer Anthropic.

Sous couvert de bonnes intentions, le discours d’OpenAI est simple : “assurez-vous de gérer les problèmes”. Deux des trois grandes idées du papier sont, elles aussi très simples : “Share prosperity broadly. Mitigate risks”.

A deux doigts de plagier le fameux “Increase revenue. Decrease costs.” de McKinsey.

Karen Hao, dans son livre enquête “Empire of AI”, résume en une phrase la stratégie de communication d’OpenAI : être ceux que les gens veulent voir gagner la bataille de l’IA.

OpenAI se pose donc en capitaine de la prochaine révolution industrielle soucieux de “débuter la conversation”.

Mais quand un sujet de civilisation devient un sujet de politique industrielle, on est, peut être, en droit d’attendre un peu mieux.