Les banques se préparent aux conséquences d’une catastrophe sans précédent provoquée par l’IA
infohightech ·
Les prédictions apocalyptiques concernant l’avènement de l’IA ne sont plus l’apanage de quelques milliardaires du secteur technologique .
À présent, les grandes banques américaines, dont les politiques dictent les flux de capitaux à travers le monde, commencent à s’inquiéter des intelligences artificielles incontrôlables et préparent des plans d’urgence pour le lendemain d’une catastrophe hypothétique provoquée par l’IA.
C’est ce que révèle un nouveau rapport d’ Axios , qui note que les banques se préparent au pire face à l’augmentation considérable de l’activité des agents d’IA pour le compte de leurs clients particuliers.
La principale préoccupation semble être l’afflux d’activités financières générées par des agents d’IA autonomes, autorisés à accéder aux comptes bancaires par leurs utilisateurs humains. Dans certains cas, comme l’a déjà souligné Axios , ces agents effectuent des actions sans instruction explicite de la part d’humains ; certains vont même jusqu’à contacter des centres d’appels au nom de leurs utilisateurs, sans y avoir été invités.
Cela représente un handicap majeur pour les grandes banques comme Morgan Stanley, Bank of America, JPMorgan et Wells Fargo, qui s’efforcent de mettre en œuvre des procédures de sécurité et des mises à jour de leurs politiques pour prendre de l’avance sur l’essor de l’IA.
Selon certains experts, ne pas maîtriser les risques émergents pourrait entraîner une catastrophe financière. Comme l’expliquait Torsten Slok, économiste en chef du cabinet de gestion de patrimoine Apollo, dans une note de fin septembre , les agents d’intelligence artificielle programmés pour « optimiser le rendement » des fonds de leurs utilisateurs pourraient faire perdre aux banques « une part importante des dépôts à faible coût sur lesquels elles s’appuient pour octroyer des prêts, ce qui poserait problème à l’ensemble du système financier ».
Aussi répréhensible que soit cet aveu, il n’en reste pas moins vrai que notre système bancaire à but lucratif n’est tout simplement pas conçu pour gérer un tel volume d’optimisations favorables aux consommateurs. Un casino dont les machines à sous paieraient chaque joueur ne ferait pas long feu.
D’autres experts financiers ont souligné que les agents d’IA pourraient tout simplement devenir incontrôlables, quelles que soient les instructions qu’on leur a données.
« Vous partez du principe qu’ils agiront correctement en votre nom, mais ce n’est pas certain », a déclaré Jamie Dimon, PDG de JPMorgan , devant un parterre d’économistes et d’experts financiers à Chicago au début du mois. « Vous ne pouvez rien y faire. Il faut juste gérer la situation au mieux. »
https://futurism.com/artificial-intelligence/banks-preparing-ai-financial-catastrophe