Les banques intègrent des chatbots dans leurs opérations afin de réduire les coûts, mais le Consumer Financial Protection Bureau (CFPB : Bureau de protection financière des consommateurs aux Etats-Unis) estime que certains d’entre eux sont source de frustration pour les clients.
Le Consumer Financial Protection Bureau a publié mardi un avertissement sur les chatbots d’IA générative utilisés par les banques. L’agence dit avoir reçu de « nombreuses » plaintes de clients qui ont interagi avec les chatbots et n’ont pas reçu de réponses « rapides et directes » à leurs questions.
« Travailler avec les clients pour résoudre un problème ou répondre à une question est une fonction essentielle pour les institutions financières – et c’est la base de la banque relationnelle », a déclaré l’agence dans son communiqué de presse.
Les chatbots à intelligence artificielle pourraient courir le risque de fournir des informations financières inexactes aux clients ou de porter atteinte à leur vie privée et à leurs données, selon le CFPB.
Les chatbots à intelligence artificielle risquent de fournir des informations financières inexactes aux clients ou de porter atteinte à leur vie privée et à leurs données, a déclaré le CFPB. Ils pourraient également susciter un manque de confiance dans l’institution financière et ses services et diminuer la satisfaction des clients, en particulier si le chatbot complique le processus d’orientation d’un client vers un représentant du service clientèle humain.
Le CFPB a cité deux chatbots d’IA générative, Eno de Capital One et Erica de Bank of America, qui ont été formés de manière algorithmique à l’aide de conversations de clients et de journaux de chat.
Capital One et Bank of America n’ont pas répondu immédiatement à une demande de commentaire.
Selon le CFPB, environ une personne sur trois aux États-Unis aura interagi avec un chatbot en 2022. Ce chiffre devrait augmenter à mesure que de plus en plus d’entreprises intègrent l’IA dans leurs activités.
« Un chatbot mal déployé peut conduire à la frustration des clients, à une réduction de la confiance et même à des violations de la loi », a déclaré Rohit Chopra, directeur du CFPB, dans un communiqué.
Les banques ne sont pas les seules à adopter les outils d’IA. Un flot de nouveaux services et de nouvelles fonctionnalités alimentés par l’IA générative ont été lancés ces derniers mois à la suite du lancement du ChatGPT d’OpenAI.
Si les chatbots d’IA ont le potentiel d’aider les gens dans des tâches plus ou moins importantes, certains d’entre eux font plus de mal que de bien. Une organisation de prévention des troubles alimentaires a mis son chatbot hors ligne après que celui-ci a encouragé la perte de poids chez les utilisateurs qui s’étaient adressés à la ligne d’assistance téléphonique pour obtenir des conseils et a fait des suggestions « nuisibles » et « sans rapport avec le sujet ».
Le CFPB indique qu’il surveille le marché des chatbots d’IA et encourage les clients à soumettre leurs plaintes concernant les chatbots bancaires sur son site web ou en appelant le (855) 411-CFPB (2372).
https://www.cnet.com/personal-finance/ai-chatbots-are-causing-bank-customers-headaches/
https://www.cnn.com/2023/06/01/tech/eating-disorder-chatbot/index.html
