Avertissement concernant une arnaque aux dialectes régionaux alors que la recherche révèle les capacités de l'IA
infohightech ·
Des chercheurs de l'Université d'Abertay en Ecosse, ont exprimé leur inquiétude quant au fait que les progrès de la technologie vocale de l'IA pourraient être exploités par des escrocs pour cibler des victimes sans méfiance en utilisant des accents régionaux.
Une nouvelle étude, dirigée par le Dr Neil Kirk du Département des sciences sociologiques et psychologiques, met en évidence à quel point les voix générées par l'IA sont devenues réalistes, les auditeurs supposant que les voix doivent être réelles, en particulier lorsqu'elles imitent des dialectes régionaux comme l'écossais de Dundee.
L’étude soulève des inquiétudes quant au fait que les escrocs pourraient cibler des zones spécifiques du pays et adopter des dialectes régionaux pour paraître plus humains et tromper les gens.
Le Dr Kirk a déclaré : « À mesure que les voix artificielles se perfectionnent, il devient de plus en plus difficile pour la plupart des gens de les distinguer de la parole humaine. C'est une préoccupation majeure, car les voix augmentées par l'IA pourraient être utilisées dans des escroqueries comme le phishing ou la fraude, en particulier lorsqu'elles imitent de manière convaincante les accents et les dialectes régionaux. »
Publiée dans la revue Computers in Human Behavior: Artificial Humans , la recherche a impliqué la création de six phrases courantes en anglais standard écossais et en dialecte dundonien, par exemple « Le chien avait cinq chiots » et « Le chien avait fev chiots ».
Les enregistrements ont été traités à l'aide d'un logiciel d'IA et, écoutés par 100 adultes écossais et 100 personnes du sud de l'Angleterre, la plupart des auditeurs ont eu du mal à distinguer les deux versions des voix réelles. En moyenne, les participants écossais ont correctement identifié les voix authentiques dans 57 % des cas, contre 52 % pour les participants anglais.
Bien que les Écossais aient été plus doués pour reconnaître les fausses voix, de nombreuses versions d’IA ont quand même réussi à les tromper.
Le Dr Kirk a ajouté : « Les Écossais ne sont pas souvent habitués à ce que la technologie comprenne leur façon de parler, et encore moins à ce qu'ils parlent comme nous. Il n'est donc pas surprenant que les participants écossais à cette étude aient été plus susceptibles de percevoir les voix parlant en écossais de Dundon comme humaines, même lorsque ces voix étaient en réalité générées par l'IA. »
Cela montre comment les escrocs peuvent exploiter les dialectes régionaux pour rendre les fausses voix plus convaincantes et dignes de confiance. De plus, mes recherches montrent que le public sous-estime souvent la sophistication de cette technologie, tout en surestimant sa capacité à détecter une fausse voix.
Dans son article, le Dr Kirk propose de sensibiliser le public au réalisme remarquable des voix générées par l'IA, notamment en présence d'accents régionaux. Cela pourrait se faire par le biais de campagnes de sensibilisation ou de messages de sécurité diffusés par des services comme les banques en ligne.
Il a ajouté : « Bien que de telles campagnes de sécurité publique puissent conduire à davantage de fausses alertes — comme confondre un appel authentique de la banque d'une personne avec une voix d'IA — l'avantage global est un risque moindre d'être victime d'escroqueries ou de manipulations, ce qui pourrait avoir de graves conséquences dans le monde réel. »
Les principales recherches du Dr Kirk portent sur la compréhension des mécanismes cognitifs sous-jacents au bidialectalisme, c'est-à-dire l'utilisation de variétés étroitement apparentées comme l'anglais écossais et l'écossais de Dundon. Reconnu par la Charte européenne des langues régionales et minoritaires, l'écossais est une langue germanique autochtone parlée par environ 1,5 million de personnes en Écosse.
Bien que l'écossais et l'anglais partagent une origine commune, leur statut a évolué au fil du temps. Nombreux sont ceux qui considèrent l'écossais comme une langue distincte, mais un rapport du gouvernement écossais révèle que 64 % des personnes interrogées le considèrent comme « une façon de parler ».
Et cela peut s'appliquer dans tous les pays du monde.