« Si quelqu’un vous dit : “Les masques fonctionnent, faites confiance aux experts”, l’IA pourrait vous dire le contraire. ». Image créée avec ChatGPT
Robert F. Kennedy Jr. ne fait pas confiance aux médecins humains, mais il fait confiance aux chatbots d’IA — et vous devriez en faire autant, affirme-t-il en utilisant son autorité de principal porte-parole médical du gouvernement américain pour le dire au public.
L’essentiel des propos tenus récemment par le secrétaire à la Santé lors de son entretien informel avec le vice-président JD Vance à la conférence « Make America Healthy Again » mardi dernier était que les modèles d’intelligence artificielle sont désormais « mieux informés » que les médecins, permettant ainsi aux citoyens américains de remettre en question systématiquement les propos de leur médecin. L’IA, a-t-il proclamé, a le pouvoir de « nous libérer de la tyrannie médicale », rapporte le New York Times .
Ce n’est pas surprenant de la part d’un homme dont la méfiance envers la médecine scientifique provient de son désaccord avec ses convictions farfelues en matière de santé , allant du « scepticisme » envers les vaccins à la promotion d’un régime riche en viande rouge. Plus révélateur encore est le fait que le descendant de Kennedy présente ouvertement l’IA comme un moyen de saper le système médical.
« L’une des choses qui va changer, c’est que nous ne pourrons plus jamais être dominés par des responsables politiques qui nous disent : “Faites confiance aux experts” », a déclaré Kennedy, cité par le NYT .
« Si quelqu’un vous dit : « Les masques sont efficaces, faites confiance aux experts », l’IA pourrait vous dire le contraire », a-t-il poursuivi. « Si quelqu’un vous dit : « La distanciation sociale est efficace, faites confiance aux experts », l’IA pourrait le contredire. Et si quelqu’un vous dit qu’un vaccin empêchera la transmission et l’infection, ou que vous devez vous faire vacciner pour protéger votre grand-mère, l’IA pourrait vous dire qu’en réalité, ce n’est pas le cas. »
À un moment donné, Kennedy a affirmé que le PDG d’OpenAI, Sam Altman, lui avait personnellement déclaré qu’il serait « inapproprié pour un médecin d’établir un diagnostic ou de faire une prescription sans au moins consulter une IA ».
Il est vrai que de nombreux médecins utilisent des outils d’IA pour la prise de notes cliniques, la transcription des consultations et même la recherche de symptômes. Selon ses données internes, OpenEvidence, un outil d’IA médicale largement répandu, est déjà utilisé par environ deux tiers des médecins aux États-Unis.
Cependant, un scepticisme important persiste parmi les professionnels de santé quant à la fiabilité de ces outils. Une étude récente, concluant, à l’instar de Kennedy, que les modèles d’IA surpassaient les médecins, a suscité de vives critiques , y compris de la part du président de l’Association médicale américaine. Par ailleurs, il a été constaté que les assistants médicaux IA utilisés par de nombreux médecins inventaient des cas de maladies fictives .
Plus inquiétant encore est le comportement servile des chatbots d’IA que RFK souhaite que les Américains consultent. L’industrie de l’IA s’est efforcée de rendre ses modèles moins complaisants suite aux nombreuses controverses concernant des chatbots qui auraient poussé certains utilisateurs au suicide. Cependant, à force de persuasion, une personne cherchant à confirmer ses croyances auprès d’un modèle d’IA peut obtenir exactement ce qu’elle veut. (Un exemple frappant : les adeptes de l’« urinothérapie », qui croient aux vertus thérapeutiques de l’ingestion de sa propre urine, ont trouvé un allié dans les modèles d’IA, qu’ils ont incités à se rassurer eux-mêmes sur la validité de leurs croyances pseudo-scientifiques .)
En fin de compte, en faisant la promotion de l’IA, Kennedy érode le peu de confiance qu’il reste aux Américains dans nos institutions de santé — une confiance que Kennedy, en propageant une rhétorique anti-vaccination, a largement contribué à saper dès le départ.
Au lieu de nous tourner vers des experts et de nous fier au consensus scientifique, l’IA nous fragmentera en groupes de croyances de plus en plus cloisonnés et déconnectés de la réalité. Et avec leur propension à la flagornerie et à la désinformation, les chatbots d’IA exacerberont les névroses médicales, piégeant les individus dans un cercle vicieux de méfiance et de problèmes de santé non traités. Si vous pensiez que les croyances farfelues en matière de santé étaient déjà problématiques, imaginez à quel point la situation empirera avec le sous-financement et la fragilisation constants des institutions médicales – au moment même où l’IA leur débitera les conseils charlatanesques qu’ils voudront entendre.
https://futurism.com/artificial-intelligence/rfk-announces-ai-better-doctors
