Le plus grand réseau hospitalier américain s'apprête à remplacer les radiologues par l'IA, selon son PDG.

Quelques semaines seulement après la plus grande grève d'infirmières de l'histoire de New York, le PDG de NYC Health and Hospitals a une vision audacieuse d'un avenir où l'IA, et non les radiologues humains, examinera et diagnostiquera les radiographies.

Lors d'une table ronde organisée par Crain's New York Business , Mitchell Katz, président et directeur général de la société d'utilité publique de 11 hôpitaux de New York, a clairement exprimé son désir de remplacer les experts en radiologie hautement qualifiés par des modèles d'IA de langage visuel, a rapporté Radiology Business .

« Nous pourrions remplacer un grand nombre de radiologues par l'IA dès maintenant, si nous sommes prêts à relever le défi réglementaire », a déclaré Mitchell Katz lors de la table ronde.

Selon la revue Radiology , il a cité un exemple concret : l’automatisation du dépistage du cancer du sein grâce à l’intelligence artificielle. En dispensant les radiologues de toute intervention jusqu’à ce qu’un système d’IA signale une anomalie, a affirmé Katz, les hôpitaux pourraient réaliser des économies substantielles.

Mohammed Suhail, radiologue chez North Coast Imaging à San Diego, a déclaré à Radiology que les commentaires de Katz sont « la preuve indéniable que les administrateurs d'hôpitaux confiants et mal informés représentent un danger pour les patients » et sont « facilement dupés par des sociétés d'IA qui sont loin d'être capables de fournir des soins aux patients ».

« Toute tentative d'utiliser exclusivement l'IA pour l'interprétation des examens entraînerait immédiatement des préjudices, voire des décès, pour les patients. Seul un ignorant en radiologie pourrait tenir des propos aussi naïfs », a poursuivi Suhail. « Mais d'une certaine manière, ils ont raison : les hôpitaux sont prêts à réduire leurs coûts, même au détriment des patients, pourvu que cela reste légal. »

En effet, de plus en plus d'études suggèrent que l'IA dans les salles de radiologie est une catastrophe annoncée.

Dans une étude non encore évaluée par des pairs , des chercheurs de Stanford ont découvert que des outils d'IA pour l'interprétation de radiographies pulmonaires, basés sur des modèles d'IA de pointe, réussissent brillamment des tests de référence médicaux sans jamais avoir accès aux images radiographiques. Plutôt que d'admettre l'absence des images , les systèmes d'IA les plus performants se livrent à une sorte de tour de passe-passe grossier : élaborer une explication complexe pour des résultats obtenus à partir de radiographies auxquelles ils n'ont jamais eu accès.

Cette situation dépasse le simple cadre des hallucinations de l'IA pour entrer dans ce que les chercheurs appellent un « mirage ». Contrairement aux erreurs d'IA générative auxquelles nous sommes habitués, ce mirage est d'une rationalité implacable du début à la fin. Le problème réside dans le fait que ces mirages ne reposent sur aucun fondement, ce qui rend les mécanismes de protection habituels contre les hallucinations inefficaces.

« Dans ce mimétisme épistémique, le modèle simule l’intégralité du processus perceptif qui aurait conduit à la réponse », écrivent les scientifiques de Stanford . « Cela permet d’expliquer pourquoi les traces de raisonnement, à elles seules, ne peuvent certifier un raisonnement visuel : la trace peut être fluide, cohérente et apparemment basée sur une image, tout en n’étant ancrée à aucune image. »

En plus de confirmer des recherches antérieures suggérant que les modèles d'IA de langage visuel sont fonctionnellement aveugles , cette étude a des implications majeures pour tout hôpital qui se tourne vers l'IA pour réduire la taille de son service de radiologie, sans parler de tout patient assez malchanceux pour être victime d'une illusion d'imagerie médicale.

https://futurism.com/artificial-intelligence/hospital-ceo-ai-radiology