Un homme de 60 ans qui a fait appel à l’IA s’est retrouvé à l’hôpital après avoir suivi des conseils diététiques fournis par ChatGPT.
Cet homme cherchait des moyens de diminuer le chlore dans son alimentation et a donc remplacé le sel de table par un composé chimique appelé bromure de sodium. Il a ensuite développé des hallucinations et de la paranoïa, nécessitant des soins hospitaliers. Toutefois, la conversation avec le chatbot n’a pas pu être récupérée et les médecins n’ont pas été en mesure de déterminer exactement quels conseils il avait reçus.
Le cas, détaillé dans un article rédigé par des chercheurs de l’Université de Binghamton, de Stanford University, de l’Université Texas A&M et de l’Université de l’Indiana, soutient que le manque de transparence entourant les conseils de santé générés par l’IA peut compliquer l’enquête sur de tels cas.
Utilisation croissante de l’IA pour les questions de santé
L’homme ne fait pas figure d’exception lorsqu’il s’agit d’utiliser l’IA pour des questions liées à la santé. Selon une enquête réalisée par Gallup auprès de plus de 5 500 adultes américains entre le 27 octobre et le 22 décembre 2025, environ 14 millions d’adultes ont déclaré avoir renoncé à une visite auprès d’un professionnel de santé après avoir eu recours à l’IA.
Les chercheurs soutiennent que les systèmes d’IA actuels opèrent avec peu de visibilité sur les conseils de santé qu’ils prodiguent, ce qui rend difficile pour les cliniciens, les chercheurs et les régulateurs d’identifier des recommandations potentiellement nocives après coup.
« Nous précisons clairement dans nos conditions que ChatGPT n’est pas destiné à être utilisé pour un diagnostic ou un traitement médical. Les gens continuent à s’en servir pour obtenir des informations sur la santé, et nous prenons très au sérieux la nécessité de rendre ces résultats aussi fiables et sûrs que possible. »
Les auteurs soutiennent également que les dommages liés aux conseils de santé générés par l’IA restent souvent invisibles pour les cliniciens, les chercheurs et les régulateurs qui pourraient autrement les identifier et y remédier.
Les chercheurs appellent à une plus grande transparence
Les chercheurs recommandent que les utilisateurs demandent aux systèmes d’IA leurs sources et vérifient les informations avant d’apporter des modifications à des médicaments, des régimes ou des traitements.
« Notre conseil est de considérer la réponse comme un point de départ, et non comme un diagnostic. Par exemple, les utilisateurs peuvent recourir à l’IA pour comprendre des termes, préparer des questions pour un médecin ou interpréter les résultats de tests. »
Pour accroître la responsabilité, l’article propose plusieurs mesures visant à renforcer la transparence. Parmi elles figure l’accès des utilisateurs à l’historique de leurs conversations liées à la santé avec le chatbot, afin de pouvoir partager ces enregistrements avec les professionnels de la santé qui enquêtent sur des événements indésirables.
Les auteurs recommandent également de créer des systèmes permettant de signaler, de déclarer et d’examiner les conseils de santé générés par l’IA.
« Les entreprises d’IA devraient donner aux utilisateurs l’accès à l’historique de leurs conversations liées à la santé et offrir un moyen de signaler les dommages, et des tiers indépendants devraient pouvoir surveiller et évaluer les conseils de santé que prodiguent ces systèmes », a expliqué Yang.
« À tout moment, ChatGPT est alimenté par les derniers modèles sous-jacents d’OpenAI. Ces modèles s’améliorent continuellement dans la détection des situations qui peuvent nécessiter une attention urgente, dans la gestion de l’incertitude avec un meilleur discernement, et dans le fait d’offrir des directives plus claires et utiles sur ce qu’il faut faire ensuite. »
« Ce progrès est porté par un partenariat étroit avec des centaines de médecins issus de 60 pays et représentant une douzaine de spécialités qui nous aident à définir, mesurer et améliorer les réponses liées à la santé dans ChatGPT. »
Les chercheurs suggèrent en outre que les entreprises des réseaux sociaux améliorent l’étiquetage du contenu sanitaire généré par l’IA et que les moteurs de recherche utilisent des informations médicalement vérifiées dans les résumés fournis par l’IA. Ils estiment également que les décideurs devraient envisager d’étendre la responsabilité des médecins aux entreprises qui exploitent les chatbots IA.
« Nous ne pensons pas que cela relève de ce que les entreprises devraient faire seules, car leur incitation est toujours de gagner plus d’argent », a déclaré Yang. « La construction d’un tel système va à l’encontre de cette incitation. Nous devons donc mettre en place un système de surveillance tiers, une évaluation indépendante. »
Les erreurs de l’IA peuvent toucher des personnes qui ne les recherchent pas
L’étude soumet également des inquiétudes quant à la qualité des informations sanitaires produites par les chatbots. Les chercheurs notent que les systèmes d’IA peuvent donner des réponses incorrectes avec assurance, simplifier à l’excès des informations médicales complexes ou s’appuyer sur des contenus dépassés.
Ces risques peuvent s’étendre au-delà des personnes qui recherchent activement des conseils médicaux. Avec des résumés générés par l’IA qui apparaissent de plus en plus dans les moteurs de recherche et des fonctions IA intégrées dans les plateformes de réseaux sociaux, les utilisateurs peuvent être confrontés à des informations sur la santé même lorsqu’ils ne les recherchent pas activement.
« Parfois, je ne recherche même pas d’informations sur la santé, mais en parcourant mes fils d’actualités sur les réseaux sociaux, elles apparaissent. Cela survient sans que je le demande, et nous pensons que cela pourrait produire des effets indésirables, surtout s’il existe de la désinformation médicale ou des acteurs étatiques essayant de manipuler le débat en ligne », a déclaré Yang dans un communiqué.
Les auteurs soutiennent que, que les gens recherchent délibérément des conseils de santé ou qu’ils les rencontrent de manière fortuite, les résultats nuisibles laissent souvent peu de traces pouvant être examinées ou vérifiées de manière indépendante.
Référence
DeVerna, M.R., Yan, H.Y., Yang, K.C. et al. Les risques invisibles des informations de santé générées par l’IA. Nat. Health (2026). https://doi.org/10.1038/s44360-026-00206-x
