« Nous sommes engagés dans une course contre la montre pour protéger les enfants de notre pays des dangers de l’IA. Jusqu’au dernier« 

Les procureurs généraux des 50 États américains – et de quelques territoires – ont signé une lettre exhortant le Congrès à prendre des mesures pour lutter contre la prolifération du matériel pédopornographique généré par l’IA. (CSAM :  AI-generated child sexual abuse material)

Comme l’a d’abord rapporté l’Associated Press, la lettre bipartisane, envoyée mardi aux législateurs républicains et démocrates de la Chambre des représentants et du Sénat, demande aux dirigeants politiques de « créer une commission d’experts chargée d’étudier les moyens et les méthodes de l’IA qui peuvent être utilisés pour exploiter spécifiquement les enfants » et de « proposer des solutions pour décourager et traiter cette exploitation dans le but de protéger les enfants américains ».

Déjà en retard

Dans leur lettre, les procureurs demandent spécifiquement aux législateurs américains d’étendre les lois existantes sur le CSAM, qui ne tiennent pas encore explicitement compte de la création et de la distribution de contenus synthétiques d’abus d’enfants – ce qui, à ce stade, aurait déjà dû être fait depuis longtemps.

En juin dernier, le Washington Post a rapporté que la prévalence croissante de CSAM générés par l’IA rendait plus difficile l’aide aux véritables enfants victimes d’abus sexuels. Une experte, Rebecca Portnoff, directrice de la science des données au sein de l’organisation à but non lucratif Thorn, a déclaré au journal qu’elle et son équipe avaient constaté une augmentation de mois en mois depuis que les générateurs d’images ont commencé à atteindre la sphère publique à l’automne dernier.

Cela étant, il convient de noter qu’à mesure que les générateurs d’images open source deviennent de plus en plus répandus et faciles d’accès, il sera probablement de plus en plus difficile de contrôler ce qu’ils sont en mesure de produire.

Les procureurs généraux ont également attiré l’attention sur les progrès récents de la deepfake tech, qui, selon eux, peut être utilisée pour étudier « de vraies photographies d’enfants maltraités afin de générer de nouvelles images montrant ces enfants dans des positions sexuelles » ou pour victimiser des enfants auparavant sains et saufs en superposant leur visage sur le corps d’enfants ayant subi des abus.

« En outre, lit-on dans la lettre, l’IA peut combiner des données provenant de photographies d’enfants maltraités et non maltraités pour animer de nouvelles images sexualisées réalistes d’enfants qui n’existent pas, mais qui peuvent ressembler à des enfants réels.« 

Par ailleurs, les procureurs ont reconnu que le Congrès avait envisagé une réglementation fédérale de l’IA de manière plus générale, notamment en ce qui concerne les questions de « sécurité nationale et d’éducation ». Cependant, bien que ces efforts soient certainement importants, l’IA est déjà utilisée pour nuire aux enfants, et « la sécurité des enfants ne doit pas passer entre les mailles du filet ».

« Nous sommes engagés dans une course contre la montre pour protéger les enfants de notre pays des dangers de l’IA », poursuit la lettre. « En effet, les murs proverbiaux de la ville ont déjà été franchis. Il est temps d’agir.

https://futurism.com/the-byte/attorney-generals-ai-generated-child-abuse-materials

https://apnews.com/article/ai-child-pornography-attorneys-general-bc7f9384d469b061d603d6ba9748f38a