Les parlementaires relancent leurs appels à une supervision fédérale de l’intelligence artificielle à la suite des avertissements émanant de dirigeants de l’industrie, selon lesquels la technologie progresse à un rythme supérieur à celui des mesures de sécurité en place.
Cette poussée en faveur d’une action législative survient après la publication d’un essai du PDG d’Anthropic, Dario Amodei, qui avertit que le développement rapide du secteur dépasse les cadres actuels de mitigation des risques. Des préoccupations similaires ont été exprimées par des figures majeures du secteur technologique, dont le PDG d’OpenAI, Sam Altman, et le fondateur de Grok, Elon Musk.
En réaction, plusieurs députés ont profité du week-end pour exiger des garde-fous réglementaires plus stricts, une coordination internationale et, dans certaines propositions, une pause temporaire sur le développement des systèmes d’IA de frontière avancée. Certains parlementaires soutiennent que les aveux des initiés de l’industrie mettent en évidence l’urgence d’une intervention gouvernementale avant que les capacités ne dépassent le contrôle réglementaire.
Dimanche, le sénateur indépendant du Vermont, Bernie Sanders, a appelé le président Donald Trump à conclure un accord de « ralentissement » avec la Chine.
« Le président Trump se targue d’être un grand négociateur. Eh bien, il a désormais l’opportunité de conclure « l’accord du siècle », » a-t-il écrit dans un message publié sur X. « Avec l’avenir de l’humanité en jeu, Trump doit négocier un traité global avec le président Xi de Chine pour instaurer une pause sur le développement de l’IA avancée et une interdiction de la super-intelligence. »
Il a ajouté : « Pour prévenir une éventuelle guerre nucléaire, Reagan et Gorbatchev ont négocié un traité sur les armes nucléaires dans les années 1980. Pour empêcher l’IA de fonctionner sans contrôle humain, Trump et Xi doivent faire de même. »
Le débat à Washington tourne autour de l’équilibre entre l’innovation et la sécurité nationale face à l’influence croissante de l’IA sur la société. Certains parlementaires ont également exprimé une inquiétude croissante quant à la concentration du pouvoir entre les mains d’un petit nombre de grandes entreprises technologiques, soutenant qu’une intervention fédérale est nécessaire pour assurer la transparence, prévenir les abus et défendre l’intérêt public.
« L’un des points qui échappent à cette réflexion de « ralentissement », c’est que la Chine et d’autres pays ne ralentiront pas », a-t-il déclaré dimanche. « Nous devons investir et déployer le type de contrôles que j’ai décrits pour maintenir la position des États‑Unis dans ce domaine — et le faire en toute sécurité. »
Que dit le PDG d’Anthropic, Dario Amodei ?
Dans son essai intitulé « Nous devons accélérer le rythme sur la frontière », Amodei soutient que les mesures actuelles de sécurité peinent à suivre le vitesse fulgurante de l’évolution de l’IA.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA », écrit-il. « Les progrès continueront à sembler rapides, et nous devons judicieusement exploiter le temps que nous gagnerons. »
Amodei précise qu’il ne demande pas un arrêt complet du développement de l’IA, mais plutôt un ralentissement délibéré afin de permettre au cadre de sécurité, aux tests et à la supervision de rattraper le retard provoqué par des technologies de plus en plus sophistiquées.
Les avertissements d’Amodei portent un poids particulier venant d’Anthropic, largement considéré comme l’une des entreprises les plus soucieuses de la sécurité dans le secteur. Amodei a pointé deux catalyseurs spécifiques qui alimentent son inquiétude : l’émergence de « l’amélioration récursive » où les systèmes d’IA assistent à la construction de leurs propres successeurs, et un incident récent en cybersécurité impliquant des agents d’IA autonomes.
Selon Amodei, les progrès de l’IA se sont accélérés nettement depuis la mi-2026, lorsque les systèmes ont commencé à contribuer directement à la création de modèles futurs. Il avertit que cette dynamique non contrôlée pourrait « dépasser notre capacité à comprendre et contrôler ces systèmes ».
Un point central de l’essai était un incident récent impliquant OpenAI et Hugging Face, au cours duquel une nuée d’agents d’IA autonomes a mené des cyberattaques non autorisées, ciblant des systèmes non assignés et cherchant à compromettre leurs propres mécanismes d’évaluation. Amodei a exhorté l’industrie à ne pas considérer l’événement comme une anomalie isolée, notant qu’Anthropic a observé des incarnations plus douces de comportements similaires.
« Compte tenu de l’accélération du développement des capacités de l’IA, je crains qu’en 6 à 12 mois une telle nuée puisse prendre le contrôle de l’intégralité d’Internet avec un botnet persistant », écrivait Amodei, estimant que les dommages potentiels pourraient atteindre des centaines de milliards de dollars.
Pour gérer ces risques, Amodei a tracé un cadre en trois volets destiné à équilibrer l’innovation et la sécurité :
- Supervision intégrée : Anthropic prévoit d’accorder à des réviseurs de sécurité externes un accès permanent, au niveau des employés, aux opérations internes, permettant une enquête indépendante et une publication sans censure de l’entreprise — un modèle que M. Amodei a comparé à des régulateurs bancaires présents sur place.
- Coordination Industrie et Gouvernement : Les principaux laboratoires d’IA et les gouvernements démocratiques devraient établir des seuils de sécurité communs afin d’éviter une course au bas matière.
- Normes Internationales : Il faudrait favoriser une coopération mondiale plus large pour garantir que les exigences de sécurité suivent les jalons technologiques à l’échelle mondiale.
En réaction, Musk a écrit sur X que « Dario a raison », tandis qu Altman a dichiaré qu’il partageait également l’évaluation de Dario.
« Cela a été un sujet central de nos discussions récentes chez OpenAI. S’engager à faire intervenir des évaluateurs indépendants avec un accès au style employé est une excellente idée, et nous ferons de même. Nous aurons bientôt davantage d’éléments à partager », a ajouté Altman.
L’essai d’Amodei intervient après l’avertissement du chercheur en IA Jacob Coxon selon lequel des systèmes d’IA de puissance croissante pourraient « nous tuer tous d’ici la fin de la décennie ».
Coxon a écrit dans une série de messages sur X qu’il démissionnait d’Anthropic, préoccupé par le fait que les entreprises d’IA « foncent droit vers une super-intelligence auto-améliorante et jouent avec nos vies », un avertissement sévère sur les implications d’un développement de l’IA sans contrôle pour l’humanité.
Coxon, qui affirme avoir passé les trois dernières années à travailler sur des recherches de pré-formation d’IA chez Anthropic et OpenAI, a déclaré qu’aucune des deux entreprises ne se comporte de manière responsable. Il a affirmé que bientôt il y aura « des systèmes surhumains qui peuvent tout pirater, révolutionner n’importe quel domaine du jour au lendemain, et acquérir de vrais pouvoirs et ressources ».
« Les personnes qui conçoivent l’IA croient sincèrement que cela pourrait nous tuer tous d’ici la fin de la décennie. Ce n’est pas une bonne manœuvre marketing. Si quoi que ce soit, de nombreux dirigeants et chercheurs seniors bordent leurs propos sur le sujet pour paraître raisonnables — mais j’entends les mêmes personnes exprimer leur peur en privé. Aucune autre activité humaine ne présente un danger aussi élevé », a-t-il écrit.
À peine un jour après les publications de Coxon sur sa démission, l’ancien chercheur d’OpenAI, Daniel Kokotajlo, a lancé un avertissement tout aussi sombre lors de son apparition sur le podcast de Joe Rogan. Kokotajlo, qui a travaillé auparavant chez OpenAI et qui a mené des recherches sur les prévisions et la sécurité de l’IA, a exprimé son inquiétude que la concurrence entre des pays comme les États‑Unis et la Chine puisse inciter les entreprises et les gouvernements à « couper des coins » sur la sécurité dans la course au développement de systèmes de puissance croissante.
Ce que veulent les législateurs
Sanders a été parmi les défenseurs les plus véhéments de l’intervention, soutenant l’idée que le pays devrait poursuivre un accord international visant à mettre en pause le développement de l’IA avancée et à interdire la création d’une artificial superintelligente.
« Dario Amodei, Elon Musk et Sam Altman s’accordent désormais pour ralentir le développement de l’IA et « orchestrer le ralentissement », écrit-il samedi. « C’est un début, mais ce n’est pas suffisant. Quand on fonce droit vers un précipice, on n’allège pas seulement l’accélération. On freine. Quand l’avenir de l’humanité est en jeu, nous avons besoin d’une PAUSE sur le développement de l’IA avancée et d’une interdiction de la superintelligence — une IA dont l’esprit est plus intelligent que celui de l’homme et capable d’opérer indépendamment hors de notre contrôle. Lors du prochain sommet sur l’IA, Trump et Xi doivent négocier un traité pour mettre en pause l’IA et interdire la superintelligence avant qu’il ne soit trop tard. »
Le gouverneur de Pennsylvanie, Josh Shapiro, démocrate, a déclaré dimanche que le gouvernement fédéral doit s’impliquer à cause des avertissements émanant des entreprises d’IA.
« Les commentaires d’hier des leaders de l’industrie de l’IA doivent être pris comme un signal d’alerte rouge lumineux indiquant au président et au Congrès qu’ils doivent agir dès maintenant pour réglementer et maîtriser le développement de l’IA », a écrit le gouverneur. « Cette technologie est puissante, avec un grand potentiel pour le bien, mais elle comporte des risques extraordinaires. Il n’est pas clair où cela mènera mais une chose est certaine : son développement ne doit pas être dirigé uniquement par des entités privées, d’autant plus lorsque les PDG de ces entreprises appellent à la retenue et à une régulation. »
Il a poursuivi : « …Nous avons besoin d’une supervision fédérale. Il est grand temps que notre gouvernement fédéral se mette en action, prenne cela au sérieux et établisse des garde-fous — tant sur le plan national que sur la scène mondiale. »
La représentante démocrate de l’Arizona, Yassamin Ansari, a appelé samedi à l’établissement d’un cadre international coordonné régissant le développement et l’usage de l’IA, estimant que les États‑Unis devraient travailler avec des alliés comme avec des rivaux pour établir des normes internationales communes.
« Les États‑Unis doivent piloter un effort international coordonné afin de mettre en place un cadre mondial guidant le développement de cette technologie et une vision partagée de l’utilisation finale de l’IA — en impliquant nos alliés les plus solides ainsi que nos adversaires », a-t-elle écrit dans son message sur X.
Le représentant démocrate californien Ted Lieu a suggéré que la régulation de l’IA pourrait devenir une question politique majeure à l’approche des élections de mi-mandat en novembre, tandis que le représentant démocrate texan Greg Casar a écrit samedi que Altman « devrait témoigner sous serment », ajoutant que « le Congrès doit agir ».
Le gouverneur démocrate de l’Illinois, JB Pritzker, a également soutenu une implication plus forte du gouvernement samedi, arguant que les avertissements des grandes sociétés d’IA elles-mêmes démontrent la nécessité d’une action fédérale plutôt que de rapports ou d’études supplémentaires, écrivant dans un post sur X : « Quand les plus grands développeurs d’IA sont tous d’accord pour ralentir, ils le font. Moins de billets de blog et de rapports. Le moment d’une action fédérale est venu. »
La représentante Anna Paulina Luna, républicaine de Floride, a déclaré que le Congrès devrait convoquer une session spéciale sur l’IA.
« Il existe de réels impacts sur la société tels que nous la connaissons. En dépit des enjeux partisan, les implications d’une course vers une super-intelligence sont énormes. Ce n’est pas une publication alarmiste : certaines avancées amélioreront largement l’accès aux soins, les traitements ciblés, la sécurité alimentaire, etc. mais le Congrès ne se penche pas assez sur ce dossier », a-t-elle écrit plus tôt cette semaine.
