Il y a environ un an, le personnel d’anesthésie d’Erlanger Baroness, le plus grand hôpital de Chattanooga, était de service au centre de chirurgie lorsqu’ils ont remarqué une infirmière qui avait du mal à parler et essayait de rester éveillée. Ordonnance de licence du Conseil des soins infirmiers du Tennessee.
Dans les jours qui ont suivi, l’infirmière a été licenciée après avoir échoué à un test de dépistage de drogues, indique l’ordonnance. L’infirmière a admis plus tard avoir volé et abusé du fentanyl restant de l’opération pendant des mois, parfois quotidiennement, comme ordonné.
Dans la plupart des cas, il s’agit d’un cas courant d’acquisition illégale de substances contrôlées auprès d’établissements de santé, connu sous le nom de « flux de drogues », qui se produirait probablement dans presque tous les hôpitaux des États-Unis.
Mais le cas Erlanger est particulièrement remarquable car une surveillance de haute technologie devait être mise en place.
L’hôpital utilise la dernière ligne de défense contre les médicaments: Sentri7, logiciel de surveillance des médicaments est alimenté par l’intelligence artificielle et vise à détecter les médicaments manquants plus rapidement que n’importe quel humain. Mais pendant des mois à Erlanger, Sentri7 a ignoré les médicaments manquants et autres « incohérences » qui n’ont pas déclenché l’alarme et qui « auraient dû être signalées », selon l’ordre du conseil des soins infirmiers.
Le cas d’Erlanger, qui n’avait pas été signalé auparavant, offre un rare aperçu de l’échec des logiciels de modification de médicaments à intelligence artificielle utilisés dans des centaines d’hôpitaux américains avec peu de transparence et de surveillance. Les établissements de santé ne sont pas tenus de divulguer la mise en œuvre de ces types de logiciels ni de signaler les échecs à qui que ce soit. Il n’existe donc pas de données complètes sur l’ampleur de l’utilisation de ces programmes ni sur la fréquence de leurs échecs.
Erlanger Baroness, également connue sous le nom d’Erlanger Medical Center, a refusé de commenter l’utilisation de Sentri7 ou d’autres médicaments. Andre Rebelo, porte-parole de la division santé de Wolters Kluwer, la société technologique néerlandaise à l’origine de Sentri7, a refusé de répondre aux questions sur ce qui est arrivé à Erlanger, mais a déclaré que la société “reste confiante dans notre logiciel”.
Un peu de transparence
David Rastall, neurologue et chercheur en intelligence artificielle à Johns Hopkins Medicine, affirme que la technologie de l’IA est en grande partie exclusive et que, comme le personnel médical ne comprend pas comment elle fonctionne, le manque de transparence permet d’enterrer les erreurs plutôt que de les corriger. Cela signifie que les erreurs risquent de se répéter dans d’autres hôpitaux.
“Le système idéal pour les patients, les soignants et le système médical serait celui dans lequel l’IA commettrait une sorte d’erreur qui serait transparente et accessible au public”, a déclaré Rastal.
La Drug Enforcement Administration exige que les hôpitaux signalent de manière confidentielle les médicaments perdus ou volés. Les hôpitaux peuvent également signaler les médicaments volés aux autorités sanitaires de l’État, qui autorisent les professionnels de la santé et enquêtent sur les activités illégales.
Mais ces rapports n’ont pas besoin d’inclure des détails sur les logiciels liés à l’IA, selon des entretiens avec trois experts en prévention des drogues. Toutes les personnes interrogées ont déclaré qu’elles n’avaient jamais vu une défaillance de l’intelligence artificielle aussi médiatisée que celle d’Erlanger.
“Je n’ai jamais vu ces technologies évoquées avec autant de clarté”, a déclaré Jacob Smith, pharmacien responsable de la sécurité des médicaments chez Johns Hopkins Medicine, à propos de l’échec apparent de Sentri7. “Comment ça te manque, ça me dépasse.”
Smith et d’autres experts ont déclaré que l’affaire Erlanger est également déroutante, car le vol des restes de drogue est l’un des moyens les plus populaires de le faire. Et le fentanyl, un analgésique 50 fois plus puissant que l’héroïne, est l’une des cibles les plus courantes.
Terry Vidals, fondateur Solutions expertesErlanger s’est demandé si l’incident était dû à une erreur de l’utilisateur plutôt qu’à un dysfonctionnement.
“C’est le fondement même de ce logiciel”, a déclaré Vidals. “Je trouve intéressant qu’ils disent que cela n’a pas été marqué par un logiciel. Je pense qu’il y a probablement plus à raconter.”
L’échec apparent de Sentri7 à Erlanger a été révélé par le ministère de la Santé du Tennessee dans un communiqué de presse régulier. ordonnance disciplinaire de l’État en décembre. Parmi ces documents figurait une ordonnance du Board of Nursing résumant les résultats d’une enquête d’État sur l’anesthésiologiste John Stevenson, qui a réglé le dossier contre lui en signant le document en novembre.
Stevenson a refusé de commenter par l’intermédiaire de son avocat. Il n’a jamais été accusé d’un crime lié à l’affaire Erlanger. Le Board of Nursing a suspendu sa licence pendant qu’elle suivait des conseils en matière de drogue.
Bill Christian, porte-parole du ministère de la Santé et du Board of Nursing, a refusé de commenter le cas Erlanger ou Sentry7. En réponse aux demandes de documents publics, le ministère de la Santé et la Commission des établissements de santé du Tennessee ont chacun déclaré qu’ils n’avaient aucune autre documentation sur la panne du Sentri7 à Erlanger.
Le porte-parole d’Erlanger, Charlie Milburn, a déclaré en réponse aux questions de KFF Health News plus tôt cette année que l’hôpital avait préparé une déclaration écrite sur l’utilisation du Sentri7.
Cette déclaration n’a jamais été publiée.
Milburn a déclaré dans un e-mail en mars que « notre équipe juridique se demande si nous voulons en parler », puis a refusé de répondre à toutes les questions.
Christy Drollinger, PDG de Wolters Kluwer, qui a parlé de Sentri7 à KFF Health News en mars, a déclaré que le logiciel était très demandé parce que de nombreux hôpitaux avaient du mal à assurer la sécurité des médicaments.
Sentri7 surveille environ 60 « corrélats de risque » qui identifient les signaux d’alarme nécessitant une enquête plus approfondie par le personnel médical, a déclaré Drollinger.
“C’est vraiment effrayant”, a déclaré Drollinger à propos du vol de drogue généralisé. “Chaque système de santé, chaque organisation de soins de santé a connu un changement à un moment donné – et c’est probablement encore le cas.”
“La route du futur”
L’abus de drogues constitue un problème largement répandu dans les établissements de soins de santé aux États-Unis. Cela peut amener les patients atteints de maladies transmissibles par le sang à ne pas prendre de médicaments ou à ne pas en prendre. Selon l’organisation à but non lucratif, on estime que 15 % de tous les professionnels de santé changent de médicament au moins une fois. Réseau de santé.
La diversité était au moins liée 13 foyers de maladies – Selon les Centers for Disease Control and Prevention, depuis 1985, plus de 200 infections, principalement l’hépatite C.
Pour éviter que cela ne se produise, les hôpitaux tentent de suivre chaque médicament et chaque flacon depuis leur distribution au patient en recoupant les informations électroniques de l’armoire à pharmacie et les dossiers médicaux des patients.
Alors que le personnel médical effectuait autrefois ce processus laborieux manuellement, au cours de la dernière décennie, la tâche a été largement automatisée grâce à des logiciels. Après des années de fusions et d’acquisitions, deux programmes dominent l’industrie : Sentri7 de Wolters Kluwer et ControlCheck de Bluesight. Les deux contiennent de l’IA.
“C’est définitivement la voie de l’avenir”, a déclaré le propriétaire de l’entreprise, Luke Overmire. Experts en conversion.
Selon Bluesight, plus de 1 500 hôpitaux utilisent ControlCheck. 700 autres personnes utilisent le logiciel de surveillance clinique Sentri7, qui peut inclure un logiciel modifiant les médicaments, a déclaré Wolters Kluwer.
Aucune des deux sociétés ne publie les prix de ses logiciels. Smith, chercheur en sécurité des médicaments à Johns Hopkins, a déclaré que les hôpitaux achètent ces « technologies coûteuses » parce qu’ils pourraient faire face à des amendes de plusieurs millions de dollars de la part de la DEA en cas de catastrophe.
“Ils ne promettent pas de retour sur investissement”, a déclaré Smith. “Ils promettent de n’épargner aucune dépense.”
En 2022, un recherche évaluée par des pairs Financé par les National Institutes of Health, Sentri7, alors connu sous le nom de Flowlytics, pourrait détecter la dégradation des médicaments plus rapidement que les méthodes existantes. L’auteur principal de l’étude travaillait auparavant pour Invistics, la société propriétaire de Sentri7.
Selon l’étude, les chercheurs ont utilisé le logiciel pour analyser deux années de données sur les médicaments provenant de 10 hôpitaux, à la recherche de 22 infirmières déjà connues pour avoir divulgué des médicaments.
Non seulement le programme les a tous trouvés, mais il l’a fait plus rapidement qu’un humain en une semaine ou un an et demi.
C’est à Erlanger que les gens ont d’abord remarqué des signes de troubles.
Selon l’ordonnance du conseil des soins infirmiers, des collègues ont signalé que Stevenson était devenu invalide le 30 juin 2025 « alors qu’il était de service dans un centre chirurgical ».
Selon le mandat, Stevenson “avait des difficultés d’élocution, semblait très fatigué, se tenait les yeux fermés et tremblait, hochant la tête tout en se tenant debout et ayant du mal à ouvrir les yeux”.
Interrogé par les enquêteurs de l’État, Stevenson a admis qu’en mars 2025, il avait commencé à transférer « du fentanyl inutilisé qui aurait été inefficace après une intervention chirurgicale » en vertu du mandat. Stevenson a déclaré qu’il utilisait des restes de fentanyl une ou deux fois par semaine, puis “avait augmenté sa consommation quotidienne” en juin de la même année, selon l’ordonnance.
Erlanger a vérifié les dossiers de médicaments de Stevenson au cours de ces quatre mois. L’étude a révélé cinq cas dans lesquels Sentri7 n’a pas marqué le médicament manquant comme ordonné.
L’hôpital a ajouté que « des incohérences supplémentaires ont été détectées entre la distribution des médicaments et la documentation sur les déchets, qui auraient dû être signalées par le système de surveillance automatisé ».
Une explication possible a été fournie par le Conseil des soins infirmiers, qui a déclaré dans l’ordonnance que Sentri7 était dans la “phase d’apprentissage précoce” à Erlanger, mais le conseil n’a pas donné de détails.
Dans l’interview, Drollinger a déclaré sans discuter spécifiquement d’Erlanger, que le Sentri7 n’a pas de « phase d’apprentissage » car il est formé sur 9 à 12 mois de données historiques lorsqu’il est mis en œuvre dans un nouvel hôpital.
Smith de Johns Hopkins avait une théorie différente.
Dans une interview, Smith a déclaré que son expérience avec le logiciel de changement de médicaments IA l’avait amené à croire qu’il serait efficace pour surveiller les salles d’urgence et les unités de soins intensifs, mais moins important dans les salles d’opération où la distribution des médicaments et les horaires varient.
Ces domaines peuvent être plus difficiles à contrôler pour l’IA, a déclaré Smith, ce qui oblige les gens à y prêter plus d’attention.
“Nous avons des gens dont l’intégralité du travail consiste à travailler avec ce logiciel”, a déclaré Smith. “Le logiciel en fait partie, mais si vous comptez sur un logiciel pour vous fournir tous vos signaux, vous perdez tout. Ce n’est tout simplement pas 100 %.”
Actualités KFF Santé est une rédaction nationale qui prépare un journalisme approfondi sur les questions de santé et constitue l’un de ses principaux programmes opérationnels. KFF – une source indépendante de recherche, de sondages et de journalisme sur les politiques de santé.