Skip to main content

17 Juin, 2024

Cette « boîte noire » alimentée par l’IA pourrait rendre la chirurgie plus sûre

Cette « boîte noire » alimentée par l’IA pourrait rendre la chirurgie plus sûre

Un nouveau système de surveillance intelligent pourrait aider les médecins à éviter les erreurs, mais il inquiète aussi certains chirurgiens et conduit à des actes de sabotage.

La première fois que Teodor Grantcharov s’est assis pour se regarder opérer, il a voulu jeter la cassette VHS par la fenêtre.  « J’avais l’impression que ma performance était spectaculaire », explique-t-il, avant de marquer une pause, « jusqu’au moment où j’ai vu la vidéo ». En repensant à cette opération réalisée il y a 25 ans, il se souvient de la rugosité de sa dissection, des mauvais instruments utilisés, des inefficacités qui ont transformé une opération de 30 minutes en une opération de 90 minutes. « Je ne voulais pas que quelqu’un la voie. »

L’automatisation peut nous aider à faire des choix difficiles, mais elle ne peut pas le faire seule.

Cette réaction n’était pas vraiment unique. La salle d’opération a longtemps été définie par sa nature discrète – ce qui se passe dans la salle d’opération reste dans la salle d’opération – parce que les chirurgiens sont notoirement mauvais lorsqu’il s’agit de reconnaître leurs propres erreurs. Teodor Grantcharov plaisante en disant que lorsqu’on lui demande « Quels sont les trois meilleurs chirurgiens du monde ? », un chirurgien typique « a toujours du mal à identifier qui sont les deux autres ».

Mais après l’humiliation initiale de se regarder travailler, Teodor Grantcharov a commencé à comprendre l’intérêt d’enregistrer ses opérations. « Il y a tellement de petits détails qui demandent normalement des années et des années de pratique pour être réalisés – et certains chirurgiens n’y parviennent jamais », explique-t-il. « Soudain, j’ai pu voir toutes ces idées et ces possibilités du jour au lendemain. »

Il y avait cependant un gros problème : nous étions dans les années 90, et passer des heures à repasser des enregistrements VHS granuleux n’était pas une stratégie réaliste d’amélioration de la qualité. Il aurait été pratiquement impossible de déterminer la fréquence de ses erreurs relativement banales à grande échelle, sans parler des erreurs médicales plus graves, comme celles qui tuent quelque 22 000 Américains chaque année. Nombre de ces erreurs se produisent sur la table d’opération, qu’il s’agisse de laisser des éponges chirurgicales à l’intérieur du corps des patients ou de pratiquer la mauvaise intervention.

Alors que le mouvement pour la sécurité des patients préconise l’utilisation de listes de contrôle uniformes et d’autres dispositifs manuels de sécurité pour éviter de telles erreurs, Teodor Grantcharov estime que « tant que la seule barrière entre le succès et l’échec sera un être humain, il y aura des erreurs ». L’amélioration de la sécurité et de l’efficacité chirurgicale est devenue une sorte d’obsession personnelle. Il voulait qu’il soit difficile de commettre des erreurs, et il pensait que le développement d’un système approprié pour créer et analyser des enregistrements pourrait être la clé.

Il lui a fallu de nombreuses années, mais Teodor Grantcharov, aujourd’hui professeur de chirurgie à Stanford, pense avoir enfin mis au point la technologie qui rendra ce rêve possible : l’équivalent de la boîte noire d’un avion pour la salle d’opération. Cette boîte noire enregistre tout ce qui se passe dans la salle d’opération grâce à des caméras panoramiques, des microphones et des moniteurs d’anesthésie, avant d’utiliser l’intelligence artificielle pour aider les chirurgiens à interpréter les données.

La société de M. Grantcharov, Surgical Safety Technologies, n’est pas la seule à déployer l’IA pour analyser les opérations chirurgicales. De nombreuses entreprises de matériel médical sont déjà présentes dans cet espace, notamment Medtronic avec sa plateforme Touch Surgery, Johnson & Johnson avec C-SATS et Intuitive Surgical avec Case Insights.

Mais la plupart d’entre elles se concentrent uniquement sur ce qui se passe à l’intérieur du corps des patients, en capturant uniquement des vidéos peropératoires. M. Grantcharov souhaite capturer la salle d’opération dans son ensemble, du nombre de fois où la porte est ouverte au nombre de conversations non liées à un cas qui ont lieu pendant une opération. « Les gens ont simplifié la chirurgie en la réduisant aux seules compétences techniques », explique-t-il. « Il faut étudier l’environnement de la salle d’opération de manière globale.

Teodor Grantcharov lors d’une intervention enregistrée par le système de boîte noire alimenté par l’IA de Surgical Safety Technologies.

Toutefois, la réussite ne se résume pas à l’utilisation de la bonne technologie. L’idée de tout enregistrer pose une série de questions délicates concernant la protection de la vie privée et pourrait entraîner des risques de sanctions disciplinaires et juridiques. En raison de ces préoccupations, certains chirurgiens ont refusé d’opérer lorsque les boîtes noires étaient en place, et certains systèmes ont même été sabotés. Outre ces problèmes, certains hôpitaux ne savent pas quoi faire de toutes ces nouvelles données ni comment éviter de se noyer dans un déluge de statistiques.

Teodor Grantcharov prévoit néanmoins que son système pourra faire pour le bloc opératoire ce que les boîtes noires ont fait pour l’aviation. En 1970, l’industrie était en proie à 6,5 accidents mortels pour un million de vols ; aujourd’hui, ce chiffre est tombé à moins de 0,5. « L’industrie aéronautique est passée de la réactivité à la proactivité grâce aux données, dit-il, de la sécurité à l’ultra-sécurité.

Les boîtes noires de Grantcharov sont aujourd’hui déployées dans près de 40 établissements aux États-Unis, au Canada et en Europe occidentale, de Mount Sinai à Duke en passant par la Mayo Clinic. Mais les hôpitaux sont-ils à l’aube d’une nouvelle ère de sécurité ou créent-ils un environnement de confusion et de paranoïa ?

S’affranchir du secret

La salle d’opération est probablement l’endroit le plus mesuré de l’hôpital, mais aussi l’un des plus mal documentés. De la performance de l’équipe à la manipulation des instruments, il y a « un nombre impressionnant de données que nous n’enregistrons même pas », déclare Alexander Langerman, éthicien et chirurgien de la tête et du cou au centre médical de l’université Vanderbilt. « Au lieu de cela, nous avons des souvenirs post hoc d’un chirurgien ».

En effet, lorsque les choses tournent mal, les chirurgiens sont censés examiner le cas lors des conférences hebdomadaires de morbidité et de mortalité de l’hôpital, mais ces erreurs sont notoirement sous-déclarées. Et même lorsque les chirurgiens saisissent les notes requises dans les dossiers médicaux électroniques des patients, « il ne fait aucun doute – et je le dis de la manière la moins malveillante possible – que ces notes sont dictées au mieux de leurs intérêts », affirme M. Langerman. « Cela leur donne une bonne image. »

La salle d’opération n’a pas toujours été aussi secrète.

Au XIXe siècle, les opérations se déroulaient souvent dans de grands amphithéâtres – il s’agissait de spectacles publics dont l’entrée était payante. « Tous les sièges, même ceux de la galerie supérieure, étaient occupés », raconte le chirurgien abdominal Lawson Tait à propos d’une opération réalisée dans les années 1860. « Il y avait probablement sept ou huit cents spectateurs. »

Cependant, autour des années 1900, les salles d’opération sont devenues de plus en plus petites et de moins en moins accessibles au public – et à ses germes. « Immédiatement, on a eu le sentiment qu’il manquait quelque chose, que la surveillance publique était absente. On ne pouvait pas savoir ce qui se passait dans les petites salles », explique Thomas Schlich, historien de la médecine à l’université McGill.

Et il était pratiquement impossible de revenir en arrière. Dans les années 1910, un chirurgien de Boston, Ernest Codman, a proposé une forme de surveillance connue sous le nom de système de résultats finaux, qui consistait à documenter chaque opération (y compris les échecs, les problèmes et les erreurs) et à suivre les résultats pour les patients. Le Massachusetts General Hospital n’a pas accepté cette idée, explique Schlich, et Codman a démissionné par frustration. 

Des étudiants assistent à une intervention chirurgicale pratiquée à l’ancien hôpital général de Philadelphie au début du siècle.

Cette opacité s’inscrit dans le cadre d’une évolution plus large vers la professionnalisation de la médecine au cours du XXe siècle, caractérisée par les progrès technologiques, le déclin des généralistes et la bureaucratisation des établissements de santé. Tout cela a créé une distance entre les patients et leurs médecins. À peu près à la même époque, et en particulier à partir des années 1960, le domaine médical a commencé à connaître une augmentation des poursuites pour faute professionnelle, au moins en partie parce que les patients essayaient de trouver des réponses lorsque les choses allaient mal.

Cette bataille sur la transparence pourrait théoriquement être résolue par des enregistrements chirurgicaux. Mais Teodor Grantcharov a très vite compris que le seul moyen d’inciter les chirurgiens à utiliser la boîte noire était de les faire se sentir protégés. À cette fin, il a conçu le système de manière à ce qu’il enregistre l’action mais cache l’identité des patients et du personnel, et supprime même tous les enregistrements dans les 30 jours.

Son idée est qu’aucun individu ne doit être puni pour avoir commis une erreur. « Nous voulons savoir ce qui s’est passé et comment nous pouvons construire un système qui rende difficile une telle situation », explique M. Grantcharov. Les erreurs ne se produisent pas parce que « le chirurgien se réveille le matin et se dit qu’il va provoquer un événement catastrophique », ajoute-t-il. « Il s’agit d’un problème de système.

L’IA qui voit tout

La boîte noire du bloc opératoire de Teodor Grantcharov n’est en fait pas une boîte du tout, mais une tablette, un ou deux microphones au plafond et jusqu’à quatre caméras dômes murales qui peuvent, selon les informations recueillies, analyser plus d’un demi-million de points de données par jour et par bloc opératoire. « En trois jours, nous parcourons l’ensemble du catalogue Netflix en termes de traitement vidéo », explique-t-il.

La plateforme « boîte noire » utilise une poignée de modèles de vision par ordinateur et produit une série de courtes séquences vidéo et un tableau de bord de statistiques, comme la quantité de sang perdue, les instruments utilisés et le nombre de perturbations auditives. Le système identifie également les segments clés de la procédure (dissection, résection et fermeture), de sorte qu’au lieu d’avoir à regarder un enregistrement complet de trois ou quatre heures, les chirurgiens peuvent passer directement à la partie de l’opération où, par exemple, il y a eu une hémorragie importante ou une agrafeuse chirurgicale qui a mal fonctionné.

Un algorithme déforme la voix des personnes et estompe leur visage, les transformant en silhouettes sombres, semblables à des personnages de roman noir. « Pour un tel projet, le respect de la vie privée et la confidentialité sont essentiels », explique M. Grantcharov, qui affirme que le processus d’anonymisation est irréversible. « Même si l’on sait ce qui s’est passé, on ne peut pas vraiment l’utiliser contre une personne. »

Un autre modèle d’IA permet d’évaluer les performances. Pour l’instant, cela se fait principalement en mesurant la conformité à la liste de contrôle de la sécurité chirurgicale, un questionnaire qui doit être coché verbalement lors de chaque type d’opération chirurgicale. (Cette liste de contrôle est depuis longtemps associée à une réduction des infections chirurgicales et de la mortalité globale).

L’équipe de Grantcharov travaille actuellement à la formation d’algorithmes plus complexes pour détecter les erreurs commises au cours de la chirurgie laparoscopique, telles que l’utilisation d’une force excessive sur les instruments, la tenue des instruments dans le mauvais sens ou l’absence d’une vision claire de la zone chirurgicale. Toutefois, l’évaluation de ces paramètres de performance s’est avérée plus difficile que la mesure de la conformité à la liste de contrôle. « Certains éléments sont quantifiables, d’autres nécessitent un jugement », explique M. Grantcharov.

La formation de chaque modèle a pris jusqu’à six mois, grâce à un processus à forte intensité de main-d’œuvre reposant sur une équipe de 12 analystes à Toronto, où la société a été créée. Alors que de nombreux modèles généraux d’IA peuvent être formés par un travailleur indépendant qui étiquette des objets courants (comme des chaises), les modèles chirurgicaux ont besoin de données annotées par des personnes qui savent ce qu’elles voient – soit des chirurgiens, dans des cas spécialisés, soit d’autres étiqueteurs qui ont été correctement formés.

Ces personnes ont visionné des centaines, voire des milliers d’heures de vidéos de salles d’opération et ont noté manuellement quel liquide est du sang, par exemple, ou quel outil est un scalpel. Au fil du temps, le modèle peut « apprendre » à identifier lui-même les saignements ou les instruments particuliers, explique Peter Grantcharov, vice-président de l’ingénierie de Surgical Safety Technologies, qui est le fils de Teodor Grantcharov.

Pour le prochain modèle de chirurgie laparoscopique, les chirurgiens annotateurs ont également commencé à indiquer si certaines manœuvres étaient correctes ou erronées, selon la définition de l’outil générique d’évaluation des erreurs (Generic Error Rating Tool), un moyen normalisé de mesurer les erreurs techniques.

Si la plupart des algorithmes fonctionnent presque parfaitement seuls, Peter Grantcharov explique que la boîte noire de la salle d’opération n’est pas encore totalement autonome. Par exemple, il est difficile de capter le son à l’aide de micros au plafond et d’obtenir ainsi une transcription fiable pour documenter si chaque élément de la liste de contrôle de la sécurité chirurgicale a été rempli ; il estime que cet algorithme a un taux d’erreur de 15 %. C’est pourquoi, avant de finaliser les résultats de chaque procédure, l’un des analystes de Toronto vérifie manuellement le respect du questionnaire. « Il faudra un humain dans la boucle », précise Peter Grantcharov, mais il estime que le modèle d’IA a rendu le processus de confirmation de la conformité à la liste de contrôle 80 à 90 % plus efficace. Il souligne également que les modèles sont constamment améliorés.

Au total, l’installation d’une boîte noire de bloc opératoire peut coûter environ 100 000 dollars, et les dépenses d’analyse s’élèvent à 25 000 dollars par an, selon Janet Donovan, une infirmière de bloc opératoire qui a fait part à la MIT Technology Review d’une estimation donnée au personnel de l’hôpital Brigham and Women’s Faulkner, dans le Massachusetts. (Peter Grantcharov a refusé de commenter ces chiffres, écrivant dans un courriel : « Nous ne communiquons pas de prix spécifiques, mais nous pouvons dire qu’ils sont basés sur la gamme de produits et le nombre total de chambres, avec une remise inhérente basée sur le volume et intégrée dans nos modèles de prix »).

 « Big brother is watching« 

Le Long Island Jewish Medical Center de New York, qui fait partie du système Northwell Health, a été le premier hôpital à piloter des boîtes noires pour les salles d’opération, en février 2019. Le déploiement a été loin d’être transparent, mais pas nécessairement à cause de la technologie.

« Dans la salle colorectale, les caméras ont été sabotées », se souvient Louis Kavoussi, président du département d’urologie de Northwell, car elles ont été retournées et délibérément débranchées. Dans sa propre salle d’opération, le personnel s’est tu pendant qu’il travaillait, craignant de dire ce qu’il ne fallait pas. « À moins que vous ne preniez une leçon de golf ou de tennis, vous ne voulez pas que quelqu’un regarde tout ce que vous faites », explique Louis Kavoussi, qui a depuis rejoint le conseil scientifique de Surgical Safety Technologies.

Les promesses de Grantcharov de ne pas utiliser le système pour punir les individus n’ont guère rassuré certains membres du personnel des salles d’opération. Lorsque deux boîtes noires ont été installées à l’hôpital Faulkner en novembre 2023, elles ont plongé le service de chirurgie dans une crise. « Tout le monde était très inquiet », raconte une technicienne en chirurgie qui a demandé à ne pas être identifiée par son nom car elle n’était pas autorisée à s’exprimer publiquement. « Nous étions surveillés et nous avions l’impression que si nous faisions quelque chose de mal, nos emplois allaient être menacés.

Ce n’est pas qu’elle faisait quelque chose d’illégal ou qu’elle proférait des discours de haine ; elle voulait simplement plaisanter avec ses amis, se plaindre de son patron et être elle-même sans craindre que des administrateurs ne jettent un coup d’œil par-dessus son épaule. « On sait très bien qu’on est surveillé, ce n’est pas du tout subtil », dit-elle. Les premiers temps ont été particulièrement difficiles, les chirurgiens refusant de travailler dans les salles équipées de boîtes noires et le personnel du bloc opératoire boycottant ces opérations : « C’était vraiment un combat tous les matins ».

À un certain niveau, les mesures de protection de l’identité ne sont que des demi-mesures. Avant que les enregistrements datant de 30 jours ne soient automatiquement supprimés, reconnaît M. Grantcharov, les administrateurs de l’hôpital peuvent toujours voir le numéro de la salle d’opération, l’heure de l’opération et le numéro du dossier médical du patient, de sorte que même si le personnel de la salle d’opération est techniquement dépersonnalisé, il n’est pas vraiment anonyme.

Il en résulte le sentiment que « Big Brother nous observe », déclare Christopher Mantyh, vice-président des opérations cliniques à l’hôpital universitaire de Duke, qui a installé des boîtes noires dans sept salles d’opération. Il s’appuie sur les données globales pour parler de l’amélioration de la qualité lors des réunions de service, mais lorsque des problèmes spécifiques se posent, comme des ruptures de stérilité ou un groupe d’infections, il consulte les enregistrements et « s’adresse directement aux chirurgiens ».

À bien des égards, c’est ce qui inquiète Donovan, l’infirmière de l’hôpital Faulkner. Elle n’est pas convaincue que l’hôpital protégera l’identité des membres du personnel et craint que ces enregistrements ne soient utilisés contre eux, que ce soit par le biais de mesures disciplinaires internes ou dans le cadre d’un procès pour faute professionnelle intenté par un patient. En février 2023, elle et près de 60 autres personnes ont envoyé une lettre au chef du service de chirurgie de l’hôpital pour s’opposer à la mise en place de la boîte noire. Elle a depuis déposé un grief auprès de l’État, la procédure d’arbitrage étant prévue pour le mois d’octobre.

Les préoccupations juridiques en particulier sont importantes car, déjà, plus de 75 % des chirurgiens déclarent avoir été poursuivis en justice au moins une fois, selon une enquête réalisée en 2021 par Medscape, un centre de ressources en ligne pour les professionnels de la santé. Pour le profane, toute vidéo chirurgicale « ressemble à un spectacle d’horreur », déclare M. Langerman, de Vanderbilt. « L’avocat d’un plaignant va mettre la main dessus et le jury va voir tout un tas de sang, sans savoir ce qu’il voit. Cette perspective transforme chaque enregistrement en une bataille juridique potentielle. »

D’un point de vue purement logistique, cependant, la politique de suppression de 30 jours mettra probablement ces enregistrements à l’abri des poursuites pour faute professionnelle, selon Teneille Brown, professeur de droit à l’université de l’Utah. Elle note que dans ce délai, il serait presque impossible pour un patient de trouver un avocat, de se soumettre aux vérifications requises en matière de conflit d’intérêts, puis de déposer une demande de communication des données de la boîte noire.

Bien que la suppression de données pour contourner le système judiciaire puisse susciter des critiques, M. Brown voit la sagesse de l’approche de Surgical Safety Technologies. « Si j’étais leur avocate, je leur dirais d’adopter une politique de suppression des données, car ils suppriment alors le bon et le mauvais », dit-elle. Ce qu’elle fait, c’est orienter l’attention pour dire : « Il ne s’agit pas d’un public en contact avec le public. L’audience de ces vidéos est totalement interne ».

Un déluge des données

Lorsqu’il s’agit d’améliorer la qualité, il y a « ceux qui s’intéressent d’abord aux problèmes et ceux qui s’intéressent d’abord aux données », déclare Justin Dimick, président du département de chirurgie de l’université du Michigan. Ces derniers, dit-il, poussent à la « collecte massive de données » sans d’abord se poser la question de savoir « ce que j’essaie de résoudre ». C’est la raison pour laquelle il n’envisage pas d’utiliser les boîtes noires des salles d’opération dans son hôpital. »

Celia Divino, chef du service de chirurgie générale du Mount Sinai, partage ce sentiment et souligne que trop de données peuvent être paralysantes. « Comment les interpréter ? Qu’en faire ? », demande-t-elle. « Il s’agit toujours d’une maladie. »

À Northwell, même Kavoussi admet que cinq années de données provenant des boîtes noires des salles d’opération n’ont pas été utilisées pour changer grand-chose, voire rien du tout. Il affirme que la direction de l’hôpital commence enfin à réfléchir à la manière d’utiliser les enregistrements, mais une question difficile reste en suspens : Les boîtes noires des salles d’opération peuvent collecter des tonnes de données, mais qu’est-ce que cela peut bien faire si personne ne sait quoi en faire ?

Grantcharov reconnaît que les informations peuvent être écrasantes. « Au début, nous avons laissé les hôpitaux décider de l’utilisation des données », explique-t-il. « Cela a entraîné de grandes différences dans la manière dont les données étaient exploitées. Certains hôpitaux ont fait des choses extraordinaires, d’autres les ont sous-utilisées. Aujourd’hui, l’entreprise dispose d’une équipe dédiée à la « réussite des clients » pour aider les hôpitaux à comprendre les données, et elle propose un service de conseil pour résoudre les erreurs chirurgicales. Mais en fin de compte, même les informations les plus pratiques n’ont pas de sens sans l’adhésion de la direction de l’hôpital, suggère M. Grantcharov.

Obtenir cette adhésion s’est avéré difficile dans certains centres, au moins en partie parce qu’il n’y a pas encore eu de grandes études évaluées par des pairs montrant comment les boîtes noires de bloc opératoire contribuent réellement à réduire les complications pour les patients et à sauver des vies. « S’il est prouvé qu’un système complet de collecte de données – comme une boîte noire – est utile, nous le ferons », déclare M. Dimick. « Mais je n’ai pas encore vu ces preuves.

Capture d’écran des analyses produites par la boîte noire.

Les meilleures données concrètes à ce jour proviennent d’une étude publiée en 2022 dans Annals of Surgery, dans laquelle Grantcharov et son équipe ont utilisé des boîtes noires de salle d’opération pour montrer que la liste de contrôle chirurgicale n’avait pas été suivie dans un cinquième des opérations, ce qui a probablement contribué à des infections excessives. Il ajoute qu’une prochaine étude, dont la publication est prévue pour l’automne, montrera que la boîte noire a permis d’améliorer le respect de la liste de contrôle et de réduire les séjours en unité de soins intensifs, les réopérations, les réadmissions à l’hôpital et la mortalité.

À plus petite échelle, M. Grantcharov insiste sur le fait qu’il a accumulé un flux constant de preuves démontrant la puissance de sa plateforme. Par exemple, il a révélé que les perturbations auditives – ouverture des portes, déclenchement des alarmes des machines et des téléavertisseurs personnels – se produisent toutes les minutes dans les salles d’opération de gynécologie, qu’une moyenne de 20 erreurs peropératoires sont commises dans chaque cas de chirurgie laparoscopique, et que les chirurgiens sont excellents en matière de connaissance de la situation et de leadership, tandis que les infirmières excellent dans la gestion des tâches.

Entre-temps, certains hôpitaux ont fait état de petites améliorations basées sur les données de la boîte noire. M. Mantyh, de Duke, explique qu’il a utilisé ces données pour vérifier la fréquence à laquelle les antibiotiques sont administrés à temps. Duke et d’autres hôpitaux ont également indiqué qu’ils utilisaient ces données pour réduire le temps d’inactivité des salles d’opération entre deux interventions. En signalant les périodes d’inactivité anormalement longues et en demandant aux analystes de Toronto de revoir les enregistrements pour en expliquer les raisons, ils ont mis en évidence des problèmes allant d’une communication inefficace à un temps excessif consacré à l’installation de nouveaux équipements.

Cela peut faire une plus grande différence qu’on ne le pense, explique Ra’gan Laventon, directeur clinique des services périopératoires à l’hôpital Memorial Hermann Sugar Land du Texas : « Nous avons de nombreux patients qui dépendent de nous pour être soignés aujourd’hui. Ainsi, plus nous gagnons de temps grâce à l’efficacité opérationnelle, plus l’impact sur le patient est important. »

Le monde réel

À Northwell, où certaines caméras ont été initialement sabotées, il a fallu quelques semaines à l’équipe d’urologie de M. Kavoussi pour s’habituer aux boîtes noires, et environ six mois à ses collègues du service colorectal. Une grande partie de la solution a consisté en des conversations individuelles au cours desquelles Kavoussi a expliqué comment les données étaient automatiquement dépersonnalisées et supprimées.

Pendant ses opérations, Kavoussi essayait également de désamorcer la tension, en disant à la boîte noire du bloc opératoire « Bonjour, Toronto » ou en demandant en plaisantant « Quel temps fait-il là-haut ? En fin de compte, « comme rien de grave ne s’est produit, cela fait partie du cours normal des choses », dit-il.

En réalité, aucun chirurgien ne souhaite être un opérateur moyen, « mais statistiquement, nous sommes pour la plupart des chirurgiens moyens, et ce n’est pas grave », déclare Langerman, de Vanderbilt. « Je n’aimerais pas être un chirurgien inférieur à la moyenne, mais si c’était le cas, je voudrais vraiment le savoir. À l’instar des athlètes qui regardent des films pour préparer leur prochain match, les chirurgiens pourraient un jour revoir leurs enregistrements, évaluer leurs erreurs et réfléchir aux meilleurs moyens de les éviter, mais seulement s’ils se sentent suffisamment en sécurité pour le faire.

« Tant que nous ne connaîtrons pas les garde-fous, il y a un tel risque – un risque incertain – que personne ne laissera quelqu’un allumer la caméra », explique M. Langerman. « Nous vivons dans un monde réel, pas dans un monde parfait.« 

https://www.technologyreview.com/2024/06/07/1093338/surgical-safety-technologies-ai-black-box-surgery-operating-room