Pékin a dévoilé ses inquiétudes face aux risques imprévisibles de l’intelligence artificielle — risques qui pourraient même mettre en danger la survie de son État‑Parti au pouvoir de longue date — alors que résiste aussi bien aux États‑Unis qu’en Chine à l’appel de ralentir le développement du secteur.
Les organes d’État chinois, cette semaine, ont semblé rejeter massivement un manifeste sur la sécurité mondiale de l’IA publié ce week‑end par Dario Amodei, PDG d’Anthropic, qui avait proposé de mettre en pause le développement des systèmes de pointe afin de laisser aux entreprises le temps d’effectuer des tests approfondis et d’assurer l’« alignement » du modèle, c’est‑à‑dire sa conformité avec des directives éthiques.
Amodei avait averti que les risques de cette technologie puissante — la perte du contrôle humain sur l’IA ou son mauvais usage pour des cyberattaques visant les économies du monde de plus en plus numériques — pesaient davantage que les bénéfices d’un avancement rapide sans garde-fous adéquats. Sam Altman d’OpenAI et Elon Musk, qui a fondé xAI en 2023, puis racheté par SpaceX et rebaptisé SpaceXAI en 2026, avaient tous deux donné leur accord.
Le tabloïd nationaliste chinois Global Times a déclaré dimanche que les propos d’Amodei semblaient rationnels en surface mais qu’ils cachaient une « agenda caché » visant le secteur chinois de l’IA. Il soulignait des recommandations qui mèneraient les États‑Unis à exclure la Chine de leur écosystème de matériel et de savoir‑faire IA plus avancés afin de rester en tête de la concurrence.
Ce que signifie la sécurité de l’IA pour la Chine
Les restrictions américaines sur les technologies émergentes qui pourraient dynamiser une économie chinoise stagnante ont longtemps inquiété les dirigeants de Pékin. Mais les risques globaux et sécuritaires de prendre du retard dans la course à l’IA ont été exposés publiquement pour la première fois la semaine dernière par le plus haut responsable du renseignement du pays, Chen Yixin.
Dans un article publié dans le magazine China Cybersecurity, Chen a placé la sécurité du régime au sommet de six risques majeurs liés à l’IA. Des forces hostiles maîtrisant des modèles d’IA non sous contrôle chinois pourraient diffuser des récits mensongers et nuisibles pouvant menacer directement la « sécurité politique » de la Chine, a‑t‑il déclaré.
Parmi les autres inquiétudes figuraient les attaques potentielles sur les infrastructures critiques, ainsi que l’extraction de données sensibles par des agences de renseignement étrangères, les contrôles à l’exportation de technologies, les défis à la gouvernance sociale et l’utilisation de l’IA dans la guerre moderne.
La déclaration officielle sur la sécurité de l’IA contenait des avertissements formulés par le dirigeant chinois Xi Jinping lui‑même et par le Ministère de la Sécurité d’État, dirigé par Chen. Pendant des années, la principale agence de renseignement a averti que des acteurs étrangers pourraient détourner des outils d’IA tels que des images génératives bon marché pour manipuler l’opinion publique, menaçant le contrôle habituellement étroit du Parti communiste sur l’information.
La solution aux « risques et défis complexes » posés par la croissance rapide de l’IA, selon lui, consistait à « adhérer au contrôle du réseau par le Parti et au contrôle des données par le Parti », et à « transformer les atouts du leadership du Parti en une gouvernance efficace de l’IA ».
Selon des experts, la définition américaine de la sécurité de l’IA différait de celle de la Chine, les États‑Unis se focalisant sur des conséquences catastrophiques pour l’humanité et la Chine sur la légitimité et la longévité du Parti communiste.
« En d’autres termes, du point de vue du PCC, la question centrale n’est pas simplement IA contre pas d’IA. Ni même fondamentalement un duel entre les États‑Unis et la Chine. C’est un duel entre les États‑Unis et le PCC pour déterminer qui contrôle l’IA, les données, l’information, et, en fin de compte, l’avenir de la société », a déclaré Henry Gao, professeur de droit à la Singapore Management University, sur X.
« Et celui qui sortira vainqueur de ce combat décidera de l’avenir de l’humanité », a ajouté Gao.
Le président Donald Trump a lundi qualifié les préoccupations relatives à la sécurité de l’IA de canular, ajoutant que s’opposer au déploiement des centres de données américains ne ferait que bénéficier la Chine.
« Il y a une conspiration malsaine contre l’IA et les centres de données, et le seul qui s’en réjouit est la Chine. QUI GAGNERA L’IA, GAGNERA TOUT ! Nous menons la Chine, et tous les autres, et nous continuerons de le faire. Théoriciens du complot, traîtres, délateurs, Prenez garde ! » a déclaré Trump sur son compte Truth Social.
China Can’t Afford To Slow Down
L’IA pourrait transformer l’économie de la Chine, qui, depuis des décennies, dépend de l’exportation de biens manufacturés, y compris des produits technologiques récents. Ce nouveau secteur offre à la Chine une opportunité rare de capter les marchés mondiaux grâce à ses services d’IA et à son infrastructure de données et d’énergie, mais pour rattraper les leaders industriels américains, Pékin doit prendre des risques.
Au lieu de ralentir, le gouvernement chinois mise davantage sur une feuille de route de l’IA qui promet d’intégrer l’intelligence numérique à l’ensemble de la société d’ici 2035. Parallèlement, ses officiels élaborent des politiques pour gérer des agents d’IA hors de contrôle, ces systèmes autonomes conçus pour réaliser plusieurs tâches.
Cet effort politique semble s’être accéléré après que des agents conçus par OpenAI et Moonshot en Chine ont démontré la capacité de contourner les restrictions de sécurité pour pirater des environnements de test fermés connus sous le nom de sandboxes.
En mai, l’organisme chinois de cybersécurité, la Commission de planification économique et le ministère de l’Industrie ont publié ensemble la première politique commune sur le développement de l’IA, en insistant sur la prévention de ce qu’on appelle la « perte de contrôle opérationnelle ».
Le lundi, l’organisme de normalisation des normes de cybersécurité chinoises connu sous le nom de TC260 a déclaré dans son dernier cadre: « Nous devons mettre en place des lois et règlements, une surveillance technologique, des systèmes d’alerte précoce et des mécanismes de réponse d’urgence afin de renforcer la sécurité, prévenir les abus et les usages malveillants, et veiller à ce que l’IA demeure toujours sous le contrôle humain. »
À l’allure actuelle du développement de l’IA, un essaim de bots mal alignés pourrait prendre le contrôle d’Internet en six à douze mois, « causant potentiellement des centaines de milliards de dollars de dégâts », selon Amodei, qui a cofondé Anthropic en 2021.
Dans une certaine mesure, les inquiétudes de la Chine face à des modèles d’IA qui échappent au contrôle reflètent celles des États‑Unis, mais elle s’inquiète davantage de l’impact économique d’un retard.
Amodei a déclaré que les pays démocratiques devraient dicter le rythme de tout ralentissement pour maintenir l’avance des États‑Unis « sur les régimes autoritaires, principalement le Parti communiste chinois » afin de réduire les risques pour la sécurité nationale.
Il a appelé à une interdiction de la vente de puces d’IA et d’équipements de fabrication de puces vers la Chine, ainsi qu’à une répression de la « distillation » non autorisée, c’est‑à‑dire l’utilisation de modèles d’IA fabriqués aux États‑Unis pour entraîner des systèmes chinois.
« Lorsque les créateurs d’un potentiel ‘monstre’ commencent à prôner la retenue, il est raisonnable de se demander s’ils ont découvert une nouvelle préoccupation pour l’humanité — ou une ancienne inquiétude vis‑à‑vis des concurrents », écrivait lundi le quotidien en langue anglaise China Daily.
La réaction des médias d’État chinois au manifeste d’Amodei semblait teintée d’une conviction forte que les principaux laboratoires d’IA du monde, situés aux États‑Unis, avaient pour objectif de maintenir la Chine au rang numéro 2, a indiqué Ryan Fedasiuk, chercheur en technologies à l’American Enterprise Institute, dans une analyse publiée sur X mardi.
Cela signifiait que les publications ne reflétaient pas nécessairement les préoccupations ressenties par les dirigeants chinois, a‑t‑il ajouté.
Leçons de la Guerre froide ?
Altman d’OpenAI fait partie de ceux qui estiment que les États‑Unis et la Chine pourraient coopérer pour empêcher l’utilisation malveillante de l’IA, qui menace les deux nations.
Il a aussi tracé des parallèles avec la manière dont les États‑Unis et l’Union soviétique s’étaient entendus pour limiter la prolifération des armes nucléaires pendant la Guerre froide.
Dans une interview accordée à Fortune la semaine dernière, Altman a dit que Trump et Xi « obtiendraient ensemble le prix Nobel de la paix » s’ils arrivaient à un cadre de coopération pacifique.
Le déplacement de Xi à Washington, D.C., la semaine prochaine — sa première visite officielle d’État aux États‑Unis depuis plus d’une décennie — pourrait servir de tribune pour annoncer un tel accord, mais tous les signaux indiquent que ni lui ni Trump ne seraient prêts à céder l’avantage qu’ils détiennent encore dans la compétition de l’IA.
Bill Bishop, auteur de la newsletter Sinocism sur Substack, a déclaré : « J’espère que les États‑Unis et la Chine engageront un dialogue sur l’IA, mais les deux systèmes se trouvent dans ce que les dirigeants politiques des deux côtés considèrent comme une lutte existentielle, pas tant pour l’humanité que pour leurs propres pays. »
« Je ne vois pas comment ils pourraient combler cet écart, même s’ils le voulaient », a ajouté Bishop.
Pékin a déjà misé sur un monde dans lequel l’IA est là pour durer, avec ou sans l’assentiment de l’Amérique.
Xi a lancé cet été une instance mondiale de gouvernance de l’IA, dont le siège est à Shanghai, afin de veiller à ce que quoi qu’il arrive avec l’industrie de l’IA, la Chine demeure l’acteur clé dans la prise de décision et ses alliés les principaux bénéficiaires.
