ChatGPT peut-il identifier des terroristes potentiels ? Une étude utilise des outils automatisés et l'IA pour dresser le profil des extrémistes violents
infohightech ·
Selon une étude révolutionnaire, des technologies telles que ChatGPT pourraient jouer un rôle complémentaire et aider à établir le profil des terroristes et à identifier la probabilité qu'ils s'engagent dans des activités extrémistes, ce qui pourrait rendre les efforts de lutte contre le terrorisme plus efficaces.
Des chercheurs de l'Université Charles Darwin (CDU) en Australie ont transmis au logiciel Linguistic Inquiry and Word Count (LIWC), 20 déclarations publiques faites par des terroristes internationaux après le 11 septembre.
Ils ont ensuite fourni à ChatGPT un échantillon de déclarations de quatre terroristes dans cet ensemble de données et ont posé deux questions à la technologie : quels sont les principaux thèmes ou sujets du texte et quels griefs se cachent derrière les messages communiqués ?
ChatGPT a pu identifier les thèmes centraux de textes sélectionnés par quatre terroristes, ce qui a révélé des indices sur les motivations de chaque individu et le but de leurs textes. ChatGPT a pu produire des catégories thématiques et sémantiques assez bien.
Les thèmes abordés incluent les représailles et la légitime défense, le rejet des systèmes démocratiques, l’opposition à la laïcité et aux dirigeants apostats, la lutte et le martyre, la déshumanisation des opposants, la critique de l’immigration de masse, l’opposition au multiculturalisme, et bien plus encore.
ChatGPT a également identifié des indices sur les motivations de la violence, notamment le désir de représailles et de justice, le sentiment anti-occidental, l’oppression et l’agression des ennemis, les griefs religieux et la peur du remplacement racial et culturel.
Les thèmes ont également été transposés dans le Protocole d’évaluation de la radicalisation terroriste-18 (TRAP-18), un outil utilisé par les autorités pour évaluer les individus susceptibles de se livrer au terrorisme.
Les thèmes correspondaient aux indicateurs TRAP-18 de comportement menaçant.
L'auteur principal, le Dr Awni Etaywe , qui est un éminent expert en linguistique médico-légale axé sur le terrorisme, affirme que l'avantage des grands modèles linguistiques (LLM) comme ChatGPT est qu'ils peuvent être utilisés comme un outil complémentaire qui ne nécessite pas de formation spécifique.
« Bien que les LLM ne puissent pas remplacer le jugement humain ou l’analyse de textes rapprochés, ils offrent des indices d’enquête précieux, accélérant les soupçons et améliorant notre compréhension des motivations derrière le discours terroriste », a déclaré le Dr Etaywe.
« Malgré les inquiétudes suscitées par l’utilisation d’outils d’IA comme ChatGPT comme arme, comme le souligne Europol, cette étude a démontré que les travaux futurs visant à améliorer les capacités de profilage médico-légal proactif peuvent également appliquer l’apprentissage automatique à la catégorisation des textes cyberterroristes. »
L'article a été co-écrit par le Dr Kate Macfarlane , maître de conférences en relations internationales et sciences politiques de la CDU , et par Mamoun Alazab, professeur en technologies de l'information de la CDU .
Le Dr Etaywe a déclaré que des études supplémentaires sont nécessaires pour améliorer la précision et la fiabilité des LLM, y compris les analyses de ChatGPT.
« Nous devons veiller à ce que cela devienne une aide pratique pour identifier les menaces potentielles tout en tenant compte des contextes socioculturels du terrorisme », a déclaré le Dr Etaywe.
« Ces grands modèles linguistiques ont jusqu’à présent une valeur d’investigation mais pas de preuve. »