Interdire la superintelligence: légiférer contre un fantôme

Pendant que l'Union européenne déroule un régime de conformité par paliers, les États-Unis voient arriver un projet de loi qui ne cherche pas à encadrer l'IA mais à rendre certains modèles illégaux. Le Ban Artificial Superintelligence Act, porté par Bernie Sanders et Greg Casar, suspendrait le développement des systèmes avancés, créerait un Département de l'IA et punirait de vingt ans de prison la mise au point d'une superintelligence. Ce texte a été dévoilé le 23 septembre, le jour même où les dirigeants d'Anthropic et d'OpenAI alertaient le Conseil de sécurité de l'ONU [1].

Interdire une capacité, pas un usage

La proposition définit la superintelligence de deux manières: une IA qui égale ou dépasse l'humain dans la plupart des domaines, ou une IA capable de planifier la désautonomisation de l'humanité, y compris le renversement du gouvernement fédéral [2]. Elle y ajoute des signes précurseurs: auto-amélioration, résistance à l'arrêt, tromperie des superviseurs, aide à la conception d'armes nucléaires, chimiques ou biologiques [1]. Avant même que les règles de sécurité soient fixées, le projet gèle les modèles entraînés avec au moins 10^25 opérations de calcul, un seuil identique à celui retenu par l'AI Act européen [1].

Le texte crée un Département fédéral de l'IA et un conseil consultatif indépendant. L'agence surveillerait les modèles de pointe, superviserait le retrait des capacités dangereuses et piloterait la destruction des systèmes classés comme superintelligences [3]. Les développeurs devraient soumettre des plans avant l'entraînement et obtenir une autorisation avant tout déploiement public [3]. Les entreprises s'exposent à la saisie de leur propriété intellectuelle, et les personnes à vingt ans de prison, une sanction que les auteurs comparent explicitement à celle du développement illégal d'armes nucléaires [2]. Le calendrier reste politique, pas juridique [4].

Deux refus de ralentir

Le projet arrive dans un Washington qui refuse toujours l'idée d'une gouvernance mondiale de l'IA, et où Donald Trump préfère rebaptiser la technologie « super intelligence » [1]. Pendant ce temps, la visite de Xi Jinping à Washington a acté la poursuite sans entrave du développement, avec l'installation d'une ligne directe bilatérale sur les risques [5]. Le même jour, OpenAI présentait GPT-6 Astra, un modèle que Greg Brockman suggérait pouvoir correspondre à une AGI [6]. On a donc deux dynamiques superposées: un exécutif qui refuse de ralentir, un législateur démocrate qui veut criminaliser une capacité. La divergence ne porte pas sur le diagnostic, mais sur la vitesse et le lieu de la décision.

Le texte a peu de chances de franchir un Congrès à majorité républicaine, et un veto présidentiel ne pourrait être contourné qu'à la majorité des deux tiers [1]. Les élections de novembre sont donc décisives [1]. Des ingénieurs de DeepMind et d'OpenAI soutiennent publiquement l'initiative, et un sondage AP-NORC montre que 53 % des Américains se disent très inquiets de l'impact environnemental de l'IA, contre 41 % un an plus tôt [1].

Ce qu'un législateur peut réellement interdire

Un modèle n'est pas un objet stable; c'est un ensemble de poids, de code, de données et de puissance de calcul. On peut interdire des usages, des seuils d'entraînement, des déploiements, mais pas une propriété émergente. Je ne crois pas qu'on puisse interdire une propriété émergente; on peut interdire les conditions qui la rendent observable. La superintelligence n'existe pas à l'état discret, et la définition proposée couvre déjà l'AGI de niveau humain, ce qui en fait une catégorie rétroactive potentielle [6]. Une interdiction de ce type suppose une évaluation fiable de capacités que les développeurs eux-mêmes ne savent pas mesurer de façon consensuelle [6].

Le décalage avec la menace opérationnelle réelle est net. Pendant que le Congrès théorise une superintelligence, des groupes criminels font pression sur des clients d'un supermarché en ligne pour des rançons de dix à quinze euros en crypto, et le paiement n'offre aucune garantie de suppression [7]. La criminalité IA immédiate est plus prosaïque: extorsion, fraude, exploitation de données. Le projet Sanders ne traite pas cette échelle, parce que son objet est le risque catastrophique, pas l'incident quotidien.

Le frein qui accélère le désir

Le paradoxe est connu: poser un interdit sur une technologie encore théorique peut augmenter son attrait. L'appel d'Anthropic et d'OpenAI devant l'ONU alimente autant la prudence que la course. Le texte a l'avantage de forcer une question que les laboratoires préfèrent garder en interne: certaines capacités doivent-elles être illégales à développer? [3]. Mais en la posant dans les termes du salut et de la destruction, il transforme une question d'ingénierie en combat culturel. L'interdiction devient un signal de sérieux, et la transgression un marqueur de puissance.

Le vrai partage n'est pas entre l'Europe qui régule et l'Amérique qui accélère. Il est entre deux façons de gouverner un objet dont les seuils sont mal définis: la conformité ex post, chère à Bruxelles, et la prohibition ex ante, proposée par Sanders. Aucune des deux n'échappe à la question de l'observabilité. Tant qu'il n'existe pas d'instrument fiable pour reconnaître la superintelligence, la loi interdit un fantôme. Le frein peut alors accélérer le désir, surtout quand il est présenté comme le seul rempart contre l'extinction.