Des pirates informatiques nord-coréens ont utilisé ChatGPT pour falsifier une fausse identité

Un groupe de pirates informatiques présumé parrainé par l'État nord-coréen a utilisé ChatGPT pour créer un deepfake d'un document d'identité militaire afin d'attaquer une cible en Corée du Sud, selon des chercheurs en cybersécurité.

Selon une étude publiée dimanche par Genians, une entreprise sud-coréenne de cybersécurité, des attaquants ont utilisé un outil d'intelligence artificielle pour créer une fausse ébauche de carte d'identité militaire sud-coréenne afin de créer une image réaliste destinée à rendre une tentative d'hameçonnage plus crédible. Au lieu d'inclure une image réelle, l'e-mail contenait un lien vers un logiciel malveillant capable d'extraire des données des appareils des destinataires, selon Genians.

Le groupe responsable de l'attaque, baptisé Kimsuky par les chercheurs, est une unité de cyberespionnage présumée parrainée par la Corée du Nord, auparavant liée à d'autres opérations d'espionnage contre des cibles sud-coréennes. Le Département de la Sécurité intérieure des États-Unis a déclaré que Kimsuky « est très probablement chargé par le régime nord-coréen d'une mission mondiale de collecte de renseignements », selon un avis de 2020.

Les découvertes de Genians en juillet sont le dernier exemple en date d'agents nord-coréens soupçonnés d'utiliser l'IA dans le cadre de leurs activités de renseignement. Anthropic a déclaré en août avoir découvert que des pirates informatiques nord-coréens avaient utilisé l'outil Claude Code pour se faire embaucher et travailler à distance pour des entreprises technologiques américaines du Fortune 500. Dans ce cas, Claude les a aidés à créer de fausses identités élaborées, à réussir des évaluations de codage et à fournir un travail technique concret une fois embauchés.

OpenAI a annoncé en février avoir banni les comptes nord-coréens suspects qui avaient utilisé le service pour créer des CV, des lettres de motivation et des publications frauduleuses sur les réseaux sociaux afin de recruter des personnes pour soutenir leurs projets.

La tendance montre que les attaquants peuvent exploiter l'IA émergente pendant le processus de piratage, y compris la planification de scénarios d'attaque, le développement de logiciels malveillants, la création de leurs outils et pour se faire passer pour des recruteurs, a déclaré Mun Chong-hyun, directeur de Genians.

Parmi les cibles de cette nouvelle vague de cybercriminalité figuraient des journalistes et chercheurs sud-coréens ainsi que des militants des droits de l'homme travaillant sur la Corée du Nord. L'e-mail provenait également d'une adresse e-mail se terminant par .mli.kr, usurpation d'adresse militaire sud-coréenne.

Le nombre exact de victimes victimes de cette violation n'était pas immédiatement clair.

Les chercheurs de Genians ont expérimenté ChatGPT lors de leur enquête sur ce faux document d'identité. La reproduction des pièces d'identité officielles étant illégale en Corée du Sud, ChatGPT a initialement refusé de créer une pièce d'identité. Mais une modification de la demande leur a permis de contourner la restriction.

Des responsables américains ont affirmé que la Corée du Nord se livrait à un effort de longue date visant à utiliser des cyberattaques, le vol de cryptomonnaie et des sous-traitants informatiques pour recueillir des informations au nom du gouvernement de Pyongyang.

Ces tactiques sont également utilisées pour générer des fonds destinés à aider le régime à contourner les sanctions internationales et à développer ses programmes d’armes nucléaires, selon le gouvernement américain.

https://www.genians.co.kr/en/blog/threat_intelligence/deepfake