La Chine ignore les avertissements de la société américaine Anthropic sur le fait que le développement de l’intelligence artificielle doit ralentir, faute de quoi cela conduirait à des conséquences catastrophiques pour l’humanité. Cela tombe bien pour le président Donald Trump, qui pense que les risques liés à l’IA ne sont qu’une grande imposture.
« Hoax Buster » Trump affirme que les États‑Unis mènent la course à l’IA et doivent en sortir victorieuses afin d’en récolter les fruits : « Plus grand que le pétrole, que l’or, que les diamants, ou même qu’Internet. » Il a déclaré sur Truth Social cette semaine que son homologue chinois, Xi Jinping, « ne fera absolument rien pour entraver l’IA, ni son avenir ».
Tous les signes indiquent que la Chine ordonne à ses laboratoires d’IA d’accélérer à double vitesse, mais Pékin s’inquiète de l’IA, ce n’est juste pas pour les mêmes raisons qui préoccupent le PDG d’Anthropic, Dario Amodei, au soir. Alors qu’Amodei et ses collègues craignent une prise de contrôle du web par des agents déviants, le Parti communiste chinois voit l’IA comme une menace potentielle pour la stabilité de son régime, et sa réponse est d’en prendre le contrôle complet — et rapidement.
Anthropic s’est heurté au Pentagone sur des bases morales cette année, mais Amodei est un fervent « faucon » vis-à-vis la Chine qui sait garder les États‑Unis à la pointe de la course technologique. Lorsque Trump accueillera Xi à Washington, D.C., la semaine prochaine, les deux hommes pourraient s’unir sur le bénéfice à long terme de l’IA pour leurs économies, mais la méfiance du président américain envers les leaders de l’industrie de l’IA pourrait être sa plus grande faiblesse jusqu’à présent.
Les grandes entreprises technologiques américaines déclenchent Trump — et la Chine
Ce week-end, Amodei a soutenu dans un essai que les États‑Unis devraient mesurer le rythme du progrès en IA ou risquer des événements non voulus, comme la perte du contrôle humain. Evan Hubinger, responsable de la science de l’alignement chez Anthropic, chargé de veiller à ce que les modèles d’IA respectent les directives définies par l’homme, a récemment déclaré que la probabilité qu’une IA puisse éliminer l’humanité dépassait les 10 %.
Trump trouve que la prudence de l’industrie est difficile à comprendre, la qualifiant de complot de gauche destiné à handicaper l’Amérique. Ralentir, dit-il, reviendrait à mettre à mal les grandes entreprises technologiques américaines, ou pire — céder la course à l’IA à la Chine. À ses yeux, ce serait un échec à diriger une industrie qui pourrait valoir bientôt des milliers de milliards de dollars.
Les médias étatiques nationalistes chinois se sont aussi opposés au manifeste d’Amodei, mais pour des raisons différentes. Leur réaction instinctive s’est focalisée sur les recommandations du PDG d’Anthropic visant à interdire l’accès des principaux laboratoires de Pékin aux logiciels et matériels d’IA américains, et à laisser les États‑Unis décider seuls de la vitesse de développement de l’IA. Cela ne peut arriver que si les États‑Unis restent numéro un.
La pensée d’Amodei bénéficie du soutien de rivaux tels que Sam Altman d’OpenAI et Elon Musk de SpaceXAI, que les médias d’État chinois ont collectivement qualifiés de « droite technologique américaine ». Ils veulent « freiner le développement de l’IA de la Chine à travers des obstacles technologiques et des monopoles réglementaires, maintenir l’hégémonie monopolistique de Washington dans les technologies de pointe et exclure la Chine du système de gouvernance mondiale de l’IA », a déclaré le tabloïd nationaliste Global Times.
Le China Daily conclut : « La coordination proposée entre les trois entreprises ressemble à un club dont les règles d’adhésion sont rédigées avant même d’annoncer la liste des invités. Un cadre mondial de sécurité de l’IA qui exclut la Chine n’est pas vraiment global. C’est un arrangement des élites américaines de l’IA, sous un nom retentissant. »
Pékin nourrit une aversion particulière pour Anthropic et ses lanceurs d’alerte. Dans un rapport publié le 10 septembre dernier, la société d’Amodei a révélé que les plus grands laboratoires d’IA de Chine utilisaient ses agents Claude sans autorisation pour entraîner leurs propres modèles, y compris en redirigeant les requêtes d’utilisateurs chinois manipulant des données hautement sensibles — une source potentielle d’embarras pour le gouvernement chinois.
La Chine veut rendre l’IA sûre — pour elle-même
L’IA pourrait accélérer la bascule de l’économie chinoise, passant d’un fabricant de biens à une puissance technologique majeure, mais pour conquérir les marchés mondiaux avec ses services d’IA et son infrastructure de données et d’énergie, Pékin doit prendre des risques — et ces risques sont sérieux.
Le monde a pris note cette semaine lorsque Chen Yixin, chef du renseignement et ministre de la sécurité d’État, a déclaré que le pays accélérerait le développement de l’IA, l’intégrerait dans tout et s’assurerait simultanément que le Parti communiste contrôle l’IA sur les plans politique et idéologique.
Le PCC ne croit pas en un ralentissement du développement de l’IA, mais il croit aux risques liés à l’IA, surtout pour lui-même. Des forces étrangères hostiles pourraient mal utiliser des outils d’IA tels que des images génératives bon marché pour manipuler l’opinion publique, a-t-il dit, parmi d’autres avertissements. En résumé, l’IA menace le contrôle habituel du parti sur l’information et, par extension, la légitimité de son pouvoir.
« Ils disent essentiellement : ‘Nous considérons que cela fait désormais partie de notre travail.’ Nous pourrions les voir lancer une offensive plus large sur l’ensemble de leur chaîne technologique pour y parvenir », a prédit Mattis.
Qu’est-ce qui reste à discuter ?
Le président chinois est censé arriver aux États‑Unis dans une semaine et de nombreux observateurs s’attendent à ce qu’un dialogue sur la sécurité de l’IA se tienne, bien que le cadre reste flou.
Trump et Xi veulent tous deux accélérer leur déploiement de l’IA et aucun ne semble prêt à accepter des limites. Xi, en particulier, n’accepterait pas les restrictions proposées par les États‑Unis, son seul rival dans la course à l’IA, selon Ryan Hass, analyste principal des politiques au think tank Brookings Institution.
« Pékin croit profondément que les États‑Unis veulent freiner les progrès de l’IA de la Chine, notamment par des contrôles à l’exportation. Pékin refuse d’accepter une position subordonnée face aux États‑Unis sur l’IA », a déclaré Hass sur X. « Pékin s’inquiète des impacts potentiels de l’IA sur la sécurité du régime. Mais Pékin ne suivra pas la voie américaine pour adresser ces risques. »
Le secrétaire au Trésor, Scott Bessent, a déclaré à Axios mercredi que les États‑Unis étaient « ouverts à des discussions visant à éviter les risques partagés et à éviter la bifurcation de nos deux systèmes ». Les chercheurs en IA trouveront ce commentaire prometteur mais peut-être aussi trop tard, compte tenu des adhésions respectives à la Pax Silica dirigée par les États‑Unis et à l’Organisation mondiale de coopération en intelligence artificielle dirigée par la Chine — deux blocs d’IA qui se font concurrence.
Le PDG d’OpenAI, Altman, qui assistera au dîner d’État de Trump en l’honneur de Xi, a récemment déclaré que les dirigeants américain et chinois pourraient remporter le prix Nobel de la Paix s’ils s’accordaient sur des limites en IA. Trump et Xi n’ont peut-être pas intérêt à ralentir, mais ils pourraient tous deux bénéficier d’un accord de principe sur où s’arrêter.
Le même rapport d’Anthropic qui a mis en lumière la Chine la semaine dernière a aussi révélé que des modèles élaborés aux États‑Unis étaient exploités de manière dangereusement créative, y compris pour nuire aux intérêts américains.
L’Iran et ses alliés ont utilisé Claude pour collecter des renseignements ouverts sur le personnel de la marine américaine et pour fournir des recommandations de ciblage, tandis que les Houthis, soutenus par Téhéran au Yémen, ont utilisé les agents d’Anthropic pour développer et tester des roquettes guidées et des missiles balistiques, selon le rapport.
Pékin peut sans doute voir que ses propres ennemis pourraient faire la même chose.
