La Chine est apparue comme une actrice centrale dans le débat croissant sur la régulation de l’intelligence artificielle, suscitant des appels à une coopération mondiale pour un accord de ralentissement.
Le plus haut responsable du renseignement du pays a averti que l’IA pourrait menacer la emprise du Parti communiste chinois sur le pouvoir, appelant à un renforcement de la supervision gouvernementale et à un contrôle accru du Parti sur la technologie dans un article publié ce dimanche par le magazine d’État China Cyberspace.
Chen Yixin, chef du Ministère de la Sécurité d’État, a affirmé que l’IA présente des risques allant de l’espionnage étranger et des campagnes de désinformation à des cyberattaques sur des infrastructures critiques, tout en soulignant les modèles d’IA américains comme de nouvelles menaces en matière de cybersécurité, selon The New York Times.
Lundi, Jack Clark, co-fondateur d’Anthropic, a déclaré que les entreprises d’IA devraient être tenues d’entretenir un « interrupteur d’arrêt » vérifiable pouvant éteindre les systèmes d’IA avancés s’ils deviennent dangereux. Clark a déclaré à la BBC qu’Anthropic dispose déjà d’un tel mécanisme et a suggéré que les gouvernements pourraient, à terme, exiger des audits indépendants pour garantir que les entreprises d’IA puissent « couper le courant » lorsque cela est nécessaire.
Bien que ces appels à la régulation trouvent écho chez des parlementaires et des dirigeants de l’industrie, le président Donald Trump a dit que les États-Unis doivent privilégier la conquête de la course mondiale à l’IA plutôt que de freiner le développement. Guo Jiakun, porte-parole du ministère des Affaires étrangères, a exprimé des sentiments similaires lors d’une conférence de presse lundi lorsqu’on lui a demandé son avis sur les régulations de l’IA.
« La peur, la confrontation et une concurrence féroce ne feront que perturber le processus de gouvernance mondiale de l’IA, ce qui ne sert les intérêts de personne », a-t-il déclaré.
Le journal d’État Global Times est allé plus loin, décrivant les propositions comprenant un renforcement du contrôle sur l’accès chinois à des puces avancées comme un « mode d’emploi de la Guerre froide ».
« Le seul contrôle ou les « garde-fous » dont l’IA a besoin est un PRÉSIDENT FORT ET MALIN (QI élevé) », et les États‑Unis en disposent en abondance », a posté Trump lundi sur les réseaux sociaux.
Ces remarques soulignent un fossé grandissant entre les décideurs qui appellent à une expansion rapide de l’IA et certains des dirigeants les plus influents de l’industrie, qui avertissent que la technologie avance plus vite que les gouvernements et les entreprises ne peuvent la gérer en toute sécurité.
Ses propos interviennent alors que le PDG d’Anthropic, Dario Amodei, avait averti quelques jours plus tôt que des systèmes d’IA de puissance croissante pourraient dépasser les protections de sécurité existantes et a appelé à un effort mondial pour ralentir le développement de l’IA de pointe.
Le débat n’est plus seulement technologique, il se présente de plus en plus comme une compétition géopolitique entre les États‑Unis et la Chine, avec des implications pour la croissance économique, la sécurité nationale et la puissance militaire.
Trump et le vice-président JD Vance ont tous deux soutenu que des régulations lourdes pourraient réduire l’avance des États‑Unis au moment où la concurrence avec la Chine s’intensifie. Vance a déclaré lundi être sceptique quant à l’idée que de grandes entreprises d’IA demandent au gouvernement de les réguler, estimant que cela ressemblait « à un cheval de Troie » et avertissant contre des politiques qui pourraient freiner l’innovation.
Parallèlement, des dirigeants de l’IA de premier plan, dont Amodei, le PDG d’OpenAI Sam Altman et Elon Musk, ont soutenu des mesures visant à ralentir le développement de modèles de plus en plus puissants tant que des systèmes de sécurité plus robustes sont élaborés. Ils estiment que l’IA avancée pourrait présenter des risques allant des cyberattaques et campagnes de désinformation à des systèmes autonomes échappant à la supervision humaine.
Les experts en cybersécurité, qui ont déjà averti des dangers que l’IA peut faire peser sur des secteurs dont dépendent les Américains au quotidien, affirment que la solution n’est pas nécessairement d’arrêter l’innovation mais de créer de meilleures protections parallèlement.
Walsh a averti : « Les États‑Unis ne peuvent pas se permettre de livrer le rythme de l’innovation en IA à des concurrents stratégiques tels que la Chine, la Russie ou l’Iran. »
« Les entreprises devraient commencer à traiter les agents IA comme n’importe quel autre utilisateur de leurs systèmes. Un agent doit avoir une identité, être limité aux données et outils dont il a besoin pour une tâche précise et opérer dans un environnement de confiance. Ce n’est pas parce qu’un agent IA est approuvé qu’il doit avoir un accès illimité », a déclaré Walsh.
Qui mène la course de l’IA ?
La plupart des analystes continuent de considérer les États-Unis comme le leader général dans le développement de l’IA de pointe.
Des entreprises américaines, dont OpenAI, Anthropic, Google DeepMind et Meta, opèrent nombre des modèles d’IA les plus avancés au monde et attirent les investissements privés les plus importants. Trump a maintes fois évoqué ce leadership, affirmant que les États-Unis « mènent la Chine » en matière d’IA.
Cependant, l’écart pourrait se réduire à mesure que la Chine progresse rapidement, notamment après l’émergence d’entreprises chinoises d’IA comme DeepSeek, ce qui a suscité des inquiétudes chez les décideurs et les dirigeants de l’industrie américains.
La Chine produit des modèles d’IA compétitifs, développe ses puces sur le plan national et investit massivement dans la recherche et le déploiement de l’IA. Une part croissante des meilleurs chercheurs en IA se trouve désormais en Chine, et les entreprises chinoises jouent désormais un rôle majeur dans l’IA générative, la robotique et les applications industrielles.
Le gouvernement chinois a également placé le leadership en IA comme une priorité stratégique nationale, le président Xi Jinping appelant auparavant à un cadre de gouvernance mondiale de l’IA tout en encourageant simultanément l’innovation et le déploiement domestiques.
Quelles protections doivent être mises en place ?
Même parmi ceux qui s’opposent à un ralentissement du développement, il existe un large consensus sur la nécessité de contrôles plus stricts.
Amodei a appelé à des évaluateurs indépendants chargés d’examiner les modèles d’IA avancés et de vérifier leur conformité aux engagements de sécurité. Il a également soutenu que les gouvernements et les entreprises avaient besoin de plus de temps pour comprendre les risques posés par des systèmes d’IA de plus en plus autonomes.
Walsh a déclaré que l’objectif devrait être de déployer des mesures de gouvernance et de sécurité parallèlement à l’innovation plutôt que d’interrompre le progrès.
« Nous devons investir et déployer le type de contrôles dont j’ai décris l’efficacité pour maintenir l’Amérique en tête mondialement dans ce domaine, et le faire en toute sécurité », a-t-il dit. « Les politiques et les garde-fous devraient déterminer quand un agent IA peut continuer à opérer, quand une action doit être bloquée, quand l’agent doit être mis en quarantaine et quand une approbation ou une intervention humaine est requise. »
Il a expliqué que les entreprises doivent faire deux choses immédiatement :
« 1. Exploiter les travaux que nous avons réalisés pour utiliser la Zero Trust comme fondation afin d’établir les conditions dans lesquelles un agent IA est autorisé à agir ;
2. Mettre en place la sécurité en temps réel, y compris des garde-fous qui garantissent que l’agent continue d’opérer dans ces limites. En clair : faire confiance à l’environnement, contrôler l’acteur et gouverner l’action. »
« La réponse à ce que les entreprises peuvent faire maintenant en matière de garde-fous est une discussion architecturale qui intègre bon nombre des éléments que nous faisons déjà, mais qu’il faut mettre en œuvre pour permettre à l’IA d’avoir une identité « non humaine », comme la Zero Trust, et y ajouter des capacités spécifiques autour de l’observation, de l’application, de la containment et de l’escalade en utilisant des politiques pour déterminer quand l’IA peut poursuivre, quand elle doit être mise en quarantaine et quand un humain doit prendre le contrôle », a-t-il ajouté.
« Cette idée de « permettre » proviendra de la collaboration industrielle et de l’établissement de normes autour de choses comme l’établissement/liaison de l’identité de l’agent avec des contrôles/applications contextuels », a-t-il déclaré.
Walsh a expliqué : « Les entreprises doivent pouvoir Observer, Enforce, Contain et Escalate : comprendre ce que fait l’agent, faire respecter les règles sur ce qu’il peut accéder et faire, créer des garde-fous basés sur des politiques pour contenir ou mettre en quarantaine les comportements qui franchissent ces limites, et faire intervenir un humain lorsque le risque ou l’impact potentiel devient trop élevé. »
« La question la plus importante pour les entreprises devient : puis-je faire confiance à cet agent, avec ce niveau d’accès, pour agir maintenant ? » a-t-il conclu.
Walsh a également souligné que l’industrie automobile pourrait servir de modèle pour la manière dont l’IA est gérée.
« Le gouvernement peut établir un seuil minimal de sécurité et de sûreté. L’industrie peut aider à définir comment ces résultats sont atteints et testés. Des organisations indépendantes peuvent valider les performances, les assureurs et les clients peuvent récompenser les entreprises qui dépassent le minimum. Avec le temps, les approches qui commencent comme des meilleures pratiques peuvent devenir des standards communs et, le cas échéant, des exigences », a-t-il ajouté.
Il a ajouté : « Si les États‑Unis établissent des normes crédibles et mesurables en IA et en cybersécurité, les entreprises qui veulent participer au marché américain seront incitées à les respecter. D’autres pays peuvent s’aligner sur des approches similaires ou les adopter, créant une plus grande cohérence sans que chaque nation n’ait à inventer un système entièrement différent. »
« L’objectif devrait être simple : le gouvernement établit le socle de sécurité, l’industrie innove au‑dessus et les deux travaillent ensemble pour faire évoluer les standards au fur et à mesure que la technologie évolue », a déclaré Walsh.
Ce qui va se passer ensuite
Il semble peu probable que Trump soutienne des mesures réglementaires au niveau fédéral, affirmant que, pour concurrencer la Chine et la Russie, les États-Unis doivent rester à l’avant-garde.
« L’administration Trump a empêché les « personnes » de l’IA de faire le mal, ou des choses potentiellement mauvaises, comme Dario (Anthropic !), qui fait désormais semblant d’être un « parfait petit ange » — et nous continuerons à le faire ! » a déclaré le président dans son message sur les réseaux sociaux.
« Nous avons déjà un pouvoir PÉNAL et RÉGLEMENTAIRE considérable sur ces entreprises ! Il existe une conspiration MALSAINE contre l’IA et les centres de données, et le seul à s’en réjouir est la Chine », a déclaré Trump, ajoutant : « QUI GAGNE À L’IA GAGNE TOUT !
Nous sommes en tête de la Chine et de tous les autres, et nous continuerons d’y être. Thèses complotistes, Traîtres et Traîtres à la Nation, MÉFIEZ‑VOUS ! »
« Concernant l’IA, quand, dans l’histoire des affaires, les dirigeants d’une industrie ont-ils appelé à une régulation qui, si elle est fortement mise en œuvre, les conduira à l’oubli et à la faillite ? » a demandé Trump dans un autre post lundi.
« L’IA qui prend le contrôle du monde, qui détruit l’humanité et tout le reste de mal est un HOAX, pas différent de RUSSIE, RUSSIE, RUSSIE — UKRAINE, UKRAINE, UKRAINE — IMPEACHMENT HOAX n°1 — et tout le reste des HOAXES et arnaques que l’Amérique a dû subir à travers les actes des destructeurs et des déviants », a-t-il poursuivi.
« Le président Xi, de Chine, vient d’annoncer que la Chine ne fera absolument rien pour s’opposer à l’IA, ni à son avenir », a-t-il déclaré, ajoutant : « l’IA et les centres de données seront le plus grand moteur de développement économique de l’histoire — plus important que le pétrole, l’or, les diamants, ou même Internet. Ils ne seront pas arrêtés par des forces destructrices brillamment gérées pendant le mandat du président DONALD J. TRUMP ! »
« Je compte vraiment sur des personnes très compétentes. Je ne suis pas sur cette question. Je respecte vraiment les gens qui travaillent dans ce domaine, mais je vois, de mon point de vue, ce que j’ai vu de l’IA jusqu’à présent est globalement très bon », a-t-il déclaré.
« Mais il doit exister un juste milieu entre ce que l’IA peut faire et la destruction de l’humanité. Qui est au milieu pour faire en sorte que cela arrive ? Car, évidemment, l’IA elle-même ne peut pas détruire l’humanité. Et tout ce que j’ai lu ne décrit jamais exactement comment cela se produira. Et d’autre part, si nous le faisons et que cela peut détruire l’humanité, et que la Chine ne fait rien pour y remédier, la Chine pourrait tout aussi bien détruire l’humanité. Ce sont donc des questions que je pose », a-t-il ajouté.
Les réponses de Trump et de la Chine soulignent le dilemme auquel sont confrontés les partisans d’une régulation mondiale de l’IA : des garde-fous significatifs pourraient nécessiter une coopération internationale, mais la rivalité stratégique entre Washington et Pékin rend le consensus de plus en plus difficile.
Alors que Trump, Vance et bon nombre de responsables de la sécurité nationale plaident pour maintenir l’avance technologique américaine et que la Chine rejette les mesures qu’elle voit comme une tentative d’encerclement, le débat pourrait passer de la question de savoir s’il faut ralentir l’IA à celle de savoir comment les gouvernements peuvent accélérer en sécurité tout en préservant un avantage compétitif.
