Espagne : un tribunal a ordonné des sanctions à l'encontre de 15 adolescents qui ont créé des images nues de leurs camarades de classe à l'aide de l'IA
infohightech ·
Un tribunal de la jeunesse espagnol a condamné 15 mineurs à un an de mise à l'épreuve après avoir diffusé dans deux groupes WhatsApp des images nues de camarades de classe générées par l'IA.
Les mineurs ont été inculpés de 20 chefs d'accusation pour création d'images d'abus sexuels sur des enfants et de 20 chefs d'accusation pour atteinte à l'intégrité morale de leurs victimes. Outre la mise à l'épreuve, les adolescents devront également suivre des cours sur le genre et l'égalité, ainsi que sur "l'utilisation responsable des technologies de l'information et de la communication", indique un communiqué de presse du tribunal pour enfants de Badajoz.
De nombreuses victimes avaient trop honte pour parler lorsque les fausses images inappropriées ont commencé à se répandre l'année dernière. Avant la condamnation, la mère de l'une des victimes a déclaré au Guardian que les filles comme la sienne "étaient complètement terrifiées et avaient de terribles crises d'angoisse parce qu'elles subissaient cela en silence".
Le tribunal a confirmé que les adolescents avaient utilisé l'intelligence artificielle pour créer des images où des camarades de classe apparaissaient nues, en récupérant des photos de leurs profils sur les réseaux sociaux et en superposant leurs visages à d'autres corps féminins nus.
L'utilisation de l'intelligence artificielle par les adolescents pour sexualiser et harceler leurs camarades de classe est devenue une tendance mondiale alarmante. La police a enquêté sur des cas inquiétants dans des lycées et des collèges aux États-Unis et, au début de l'année, l'Union européenne a proposé d'élargir sa définition de l'abus sexuel sur enfant afin de poursuivre plus efficacement "la production et la diffusion de deepfakes et de matériel généré par l'IA". L'année dernière, le président américain Joe Biden a publié un décret exhortant les législateurs à adopter davantage de mesures de protection.
Outre les effets sur la santé mentale, les victimes ont déclaré avoir perdu confiance dans les camarades de classe qui les avaient prises pour cible et avoir voulu changer d'école pour éviter tout nouveau contact avec les harceleurs. D'autres ont cessé de publier des photos en ligne et craignent que les images nuisibles de l'IA ne refassent surface.
Les mineurs qui s'en prennent à leurs camarades de classe ne se rendent peut-être pas compte de la distance à laquelle les images peuvent potentiellement se propager lorsqu'elles génèrent de faux documents sur les abus sexuels commis sur des enfants (CSAM : Child Sex Abuse Materials) ; elles pourraient même se retrouver sur le "dark web". L'année dernière, une enquête de l'Internet Watch Foundation (IWF), basée au Royaume-Uni, a révélé que "20 254 images générées par l'IA ont été postées sur un forum CSAM du dark web en l'espace d'un mois", et que plus de la moitié d'entre elles ont été jugées comme étant très probablement criminelles.
L'IWF a averti qu'il avait identifié un marché croissant pour le chantage à l'image généré par l'IA et a conclu que "la plupart des images de chantage à l'image générées par l'IA trouvées sont maintenant suffisamment réalistes pour être traitées comme du 'vrai' chantage à l'image". Une mère "choquée" d'une camarade de classe victime en Espagne est du même avis. Elle a déclaré au Guardian que "si je ne connaissais pas le corps de ma fille, j'aurais pensé que cette image était réelle".
Des mesures plus radicales pour mettre fin aux "deepfakes
Alors que les législateurs s'efforcent d'appliquer les protections existantes contre le SCAM aux images générées par l'IA ou de mettre à jour les lois pour poursuivre explicitement le délit, d'autres solutions plus radicales ont été proposées pour empêcher la propagation néfaste des "deepfakes".
Dans un article d'opinion publié aujourd'hui dans The Guardian, la journaliste Lucia Osborne-Crowley préconise l'adoption de lois limitant les sites utilisés pour générer et diffuser de la pornographie "deepfake", y compris la réglementation de ce contenu préjudiciable lorsqu'il apparaît sur les sites de médias sociaux et les moteurs de recherche. L'IWF a suggéré que, à l'instar des juridictions qui restreignent le partage d'informations sur la fabrication de bombes, les législateurs pourraient également restreindre les guides expliquant aux mauvais acteurs comment utiliser l'IA pour générer des CSAM.
L'association Malvaluna, qui représente les familles des victimes en Espagne et milite en faveur d'une meilleure éducation sexuelle, a déclaré à El Diario qu'au-delà des réglementations, une éducation plus poussée est nécessaire pour arrêter les adolescents motivés par l'utilisation de l'IA pour attaquer leurs camarades de classe. Étant donné que les adolescents ont reçu l'ordre de suivre des cours, l'association a accepté les mesures de condamnation.
"Au-delà de ce procès particulier, ces faits devraient nous inciter à réfléchir à la nécessité d'éduquer les gens à l'égalité entre les hommes et les femmes", a déclaré l'association Malvaluna. Le groupe a insisté sur le fait que les enfants d'aujourd'hui ne devraient pas apprendre la sexualité par le biais de la pornographie qui "génère plus de sexisme et de violence".
Les adolescents condamnés en Espagne avaient entre 13 et 15 ans. Selon le Guardian, la loi espagnole ne permet pas de condamner des mineurs de moins de 14 ans, mais le tribunal de la jeunesse "peut les obliger à participer à des cours de rééducation".
Les entreprises technologiques pourraient également faciliter le signalement et la suppression des "deepfakes" nuisibles. Ars n'a pas pu joindre Meta immédiatement pour obtenir des commentaires sur les efforts déployés pour lutter contre la prolifération de CSAM générés par l'IA sur WhatsApp, l'application de messagerie privée qui a été utilisée pour partager de fausses images en Espagne.
Une FAQ indique que "WhatsApp ne tolère pas l'exploitation et les abus sexuels des enfants, et nous bannissons les utilisateurs lorsque nous apprenons qu'ils partagent des contenus qui exploitent ou mettent en danger les enfants", mais elle ne mentionne pas l'IA.