1 mineur sur 10 déclare que ses amis utilisent l'IA pour générer des photos nues d'autres enfants, selon une enquête
infohightech ·
Selon une enquête de Thorn, une organisation à but non lucratif dont la mission est de développer une technologie pour défendre les enfants contre les abus sexuels, un mineur sur dix a déclaré que ses amis ou camarades de classe avaient utilisé des outils d'IA pour générer des nus d'autres enfants.
Nous savons depuis longtemps que les outils d'IA sont couramment utilisés parmi les mineurs et que les applications de nudification en particulier, qui peuvent prendre une photo de n'importe qui et utiliser l'IA pour le faire apparaître nu, ont semé le chaos et la panique dans plusieurs écoles à travers le pays, mais l'enquête Thorn, menée en partenariat avec le cabinet de recherche BSG, est l'une des premières tentatives que nous ayons vues pour mesurer l'ampleur du problème.
L'enquête, menée en ligne entre le 3 novembre et le 1er décembre 2023, a posé à 1 040 mineurs âgés de 9 à 17 ans des questions sur le matériel d'abus sexuel d'enfants et les « expériences en ligne préjudiciables ».
« Les participants mineurs ont été recrutés via des panels de jeunes existants ou directement par l’intermédiaire de leurs tuteurs au moment de cette enquête », indique un rapport sur les résultats de l’enquête intitulé « Perspectives des jeunes sur la sécurité en ligne, 2023 » (Youth Perspectives on Online Safety, 2023). « Le consentement des tuteurs était requis pour la participation des mineurs aux panels de jeunes, ainsi que pour les mineurs recrutés directement pour l’enquête. »
Quelques mises en garde importantes avant d’aller plus loin : Thorn n’a pas un bilan parfait en matière de sexe et de technologie. L’organisation a été critiquée par des experts en protection de la vie privée pour avoir fourni à la police un outil qui collecte les publicités des travailleuses du sexe dans une base de données, et le fondateur de Thorn, Ashton Kutcher, a démissionné l’année dernière après avoir soutenu le violeur condamné et ancien partenaire de That ’70s Show, Danny Masterson. Un article en avril souligne que Thorn s’était associé à Google, Meta, Microsoft, Civitai et d’autres grandes entreprises technologiques pour s’engager publiquement à respecter les principes de « sécurité dès la conception » afin de « se prémunir contre la création et la diffusion de matériel pédopornographique généré par l’IA (AIG-CSAM : AI-generated child sexual abuse material) », alors que toutes ces entreprises continuaient à favoriser activement ce type précis d’images nuisibles générées par l’IA.
En outre, comme de nombreuses organisations de lutte contre la traite des êtres humains, et comme le dit clairement le rapport lui-même, Thorn a une vision alarmiste de la manière dont les mineurs envoient des sextos, des photos nues ou utilisent Internet d’une autre manière, en tant qu’êtres humains sexuellement conscients et actifs. Par exemple, l’enquête de Thorn révèle qu’un mineur sur sept « a partagé son propre CSAM (Child Sexual Abuse Material)», faisant référence à « du matériel d’abus sexuel sur mineur auto-généré ». Bien que ces images soient techniquement illégales et contraires aux politiques de toutes les principales plateformes Internet, ce terme effrayant couvre également les cas où, par exemple, un jeune de 17 ans envoie consensuellement une photo nue à son partenaire.
Mis à part ces réserves, la méthodologie énoncée par Thorn dans cette enquête semble solide et nous donne une idée approximative de la fréquence à laquelle les outils d’IA sont utilisés par les mineurs pour générer des images nues non consensuelles de leurs pairs : un sur dix a déclaré que ses amis ou camarades de classe utilisaient des outils d’IA à cette fin, et un autre sur dix a déclaré qu’il « préférait ne pas le dire ».
« Bien que la motivation derrière ces événements soit plus probablement dictée par l’acte des adolescents que par une intention d’abuser sexuellement, les préjudices qui en résultent pour les victimes sont réels et ne doivent pas être minimisés dans le but de se dédouaner de toute responsabilité », indique le rapport.
Pour avoir une idée du chaos que ce type d’images peut provoquer dans une communauté, lisez notre article de février sur un cas dans un lycée de l’État de Washington où plusieurs élèves ont fait l’objet d’une enquête policière pour avoir utilisé une « application de déshabillage » sur leurs professeurs et leurs camarades de classe. L’utilisation de ces applications s’est répandue dans d’autres écoles à travers le pays et a abouti en mars à l’ arrestation de deux collégiens en Floride.
« Des efforts considérables doivent être déployés au sein de l’industrie technologique pour remédier aux risques posés par les technologies d’IA générative pour les enfants », indique le rapport. « Cependant, ces efforts ne doivent pas être un rempart contre les comportements liés à ces préjudices. Bien que la technologie soit nouvelle, l’intimidation, le harcèlement et les abus entre pairs ne le sont pas. Il est essentiel que nous parlions de manière proactive et directe des préjudices causés par les « deepfake nudes » et que nous renforcions une compréhension claire des comportements inacceptables dans nos communautés et nos écoles, quelle que soit la technologie utilisée. »
https://info.thorn.org/hubfs/Research/Thorn_23_YouthMonitoring_Report.pdf
Voir aussi article sur "Espagne : un tribunal a ordonné des sanctions à l’encontre de 15 adolescents qui ont créé des images nues de leurs camarades de classe à l’aide de l’IA"