L'intelligence artificielle change le visage de la fraude et de la lutte contre la fraude

Les criminels exploitent la puissance de l’intelligence artificielle pour changer le visage de la fraude. Outre les histoires d’horreur telles que celle de l’employé de la finance qui a été trompé en payant 25 millions de dollars par un clone vocal d’un directeur d’entreprise basé sur l’IA, les fraudeurs utilisent l’IA pour intensifier leurs campagnes et créer des identités synthétiques convaincantes avec de faux profils sur les réseaux sociaux et des images et du son manipulés.

Deloitte estime que les banques américaines pourraient perdre 40 milliards de dollars au cours des trois prochaines années à cause des escroqueries basées sur l'IA.

Même si les criminels ont peut-être un avantage dans la course à l’IA, les banques et autres sociétés de services financiers réagissent avec une vigilance et une vigilance accrues, et un nombre croissant d’organisations explorent les outils d’IA pour améliorer la détection des fraudes et la réponse aux escroqueries basées sur l’IA.

Exploiter l'IA pour les programmes de lutte contre la fraude

Le secteur bancaire est aujourd’hui à la recherche d’attaques ciblées de type phishing et vishing, qui utilisent des messages réalistes et personnalisés, optimisés par l’IA générative et de vastes modèles linguistiques. Les outils d’IA peuvent reproduire n’importe quel modèle vocal à partir de quelques secondes d’échantillon audio et permettent l’usurpation de l’identité de l’appelant, ce qui donne l’impression que les appels frauduleux proviennent de sources légitimes.

Pour améliorer la détection de ces escroqueries, la société de logiciels SAS travaille sur un projet pilote visant à aider les institutions de services financiers à utiliser l’IA générative pour analyser les enregistrements des demandes de fraude des centres d’appels afin de détecter les escrocs potentiels. David Stewart, directeur des délits financiers et de la conformité chez SAS, a déclaré qu’une enquête récente menée auprès de plus de 1 000 professionnels de la lutte contre la fraude montre que près de 90 % des répondants prévoient d’ajouter l’IA générative à leur ensemble d’outils d’ici l’année prochaine.

« Les grandes institutions sont inondées en raison de la montée en flèche des volumes d'escroqueries et ont besoin de meilleurs renseignements pour différencier les réclamations légitimes des fausses, afin de pouvoir endiguer les pertes et aider les victimes », a déclaré David Stewart à Information Security Media Group.

La plupart des organisations de services financiers utilisent des données historiques et internes pour détecter les schémas de fraude. Cela permet de limiter les contrôles aux seuls types d’événements déjà rencontrés, et les modèles d’apprentissage automatique détectent les nouvelles méthodes des fraudeurs en constante évolution seulement après avoir été escroqués. Les organisations peuvent également passer à côté de schémas de fraude plus larges se produisant dans différentes institutions ou secteurs, ce qui peut entraîner des angles morts potentiels dans les programmes de lutte contre la fraude.

Les modèles traditionnels d'apprentissage automatique évaluent les transactions au fur et à mesure qu'elles se produisent en fonction des événements historiques, mais ils ont du mal à réaliser des analyses prédictives et à s'adapter rapidement aux nouvelles tendances en matière de fraude. Une grande partie du problème est que les modèles statiques doivent être recalibrés et ajustés lorsque de nouvelles sources de données sont introduites, précise David Barnhardt, conseiller stratégique du groupe de pratique de lutte contre la fraude et le blanchiment d'argent de la société de recherche sur les technologies des services financiers Datos Insights, anciennement Aite-Novarica Group.

De plus, l’utilisation exclusive de données internes peut créer une vue cloisonnée qui omet les tendances et les modèles de fraude plus larges dans les produits au sein de l’institution financière, a-t-il déclaré à ISMG.

Pour remédier aux limites des modèles de fraude basés sur le ML, les sociétés de services financiers commencent à utiliser l'IA générative pour créer des données synthétiques qui peuvent aider les institutions à effectuer des analyses « et si » des risques de fraude émergents.

« L’utilisation de jumeaux numériques est une forme améliorée de simulation qui permet de mesurer l’impact de différents scénarios afin de déterminer comment ils affecteraient les contrôles opérationnels des banques contre la fraude. La combinaison de données synthétiques et de simulation est un outil utile pour aider les entreprises à se préparer à l’inattendu », assure David Stewart.

David Stewart a déclaré qu'une organisation utilise des données synthétiques pour simuler certains types de risques majeurs. « Cela nous permet de tester des stratégies sans les problèmes d'informations personnelles liées aux données réelles des clients », a-t-il précisé. L'un des clients de l'organisation envisage également d'utiliser le générateur de données synthétiques comme alternative à la mise en scène d'une image miroir de son environnement de production. Cette approche répond aux préoccupations en matière de confidentialité des données et aux coûts associés à la création d'un environnement de développement avec des données réelles, a-t-il déclaré.

« En fin de compte, les données synthétiques nous permettent de tester des stratégies plus difficiles, ce qui se traduit par des taux de détection améliorés et une meilleure couverture », a ajouté David Stewart.

Mais même si une entreprise utilise des données synthétiques pour former des modèles, la gouvernance des données ne peut pas être reléguée au second plan, a-t-il déclaré. Les banques auront besoin de gestionnaires de données qui comprennent l’applicabilité de certaines fonctionnalités, notamment en ce qui concerne les biais qui pourraient influencer les décisions d’intégration, de crédit et de clôture de compte, a déclaré David Stewart.

David Stewart préconise l'utilisation de l'apprentissage automatique hybride, qui comprend des techniques supervisées et non supervisées, pour identifier les comportements anormaux qui n'avaient pas été surveillés auparavant. « Toute personne qui n'utilise pas de marqueurs biométriques, de géolocalisation et d'appareils dans le cadre de sa stratégie de fraude numérique est vulnérable aux identités synthétiques et aux fraudeurs propriétaires », a-t-il déclaré.

https://www.bankinfosecurity.com/ai-changing-face-fraud-fraud-fighting-a-26200

Une autre technologie est en train de poindre. En effet, un groupe de 32 chercheurs d’institutions telles que OpenAI, Microsoft, MIT et Harvard ont développé une solution potentielle : un concept de vérification appelé « personalhood credentials » (PHC) qui prouve que son détenteur est une personne réelle, sans révéler aucune information supplémentaire sur son identité. L’équipe a exploré l’idée dans un article non évalué par des pairs publié sur le serveur de pré-impression Arxiv au début du mois.