Que peut faire la technologie pour stopper la diffusion d'images sexualisées générées par l'IA ?

Le tollé mondial suscité par la sexualisation et la nudification de photographies – y compris d'enfants – par Grok, le chatbot développé par xAI, la société d'intelligence artificielle d'Elon Musk, a conduit à des discussions urgentes sur la manière dont une telle technologie devrait être réglementée plus strictement.

Mais dans quelle mesure la technologie peut-elle aussi être utilisée pour empêcher cette explosion de la création et du partage de contenus deepfake mettant en scène de vraies personnes, à leur insu et sans leur consentement ?

Le 10 janvier, l'Indonésie est devenue le premier pays à annoncer le blocage temporaire de l'accès à Grok, rapidement suivie par la Malaisie . D'autres gouvernements, dont celui du Royaume-Uni , ont promis de prendre des mesures contre le chatbot et le réseau social X (anciennement Twitter) sur lequel les images à caractère sexuel ont été diffusées.

Bien que les interdictions nationales pures et simples puissent limiter l'utilisation occasionnelle du chatbot, elles sont facilement contournables grâce aux réseaux privés virtuels (VPN) ou aux services de routage alternatifs. Ces derniers masquent la véritable localisation de l'utilisateur et font croire qu'il se trouve dans un lieu autorisant l'accès au service.

De ce fait, les interdictions nationales tendent à réduire la visibilité plutôt qu'à supprimer l'accès. Leur impact principal est symbolique et réglementaire : elles exercent une pression sur des entreprises comme xAI au lieu d'empêcher les abus délibérés. Par ailleurs, les contenus créés ailleurs peuvent toujours circuler librement au-delà des frontières via les plateformes de médias sociaux cryptées et le dark web.

Suite à la polémique, X a rendu les fonctionnalités de génération d'images de Grok payantes et accessibles uniquement à ses abonnés. X a ensuite publié un communiqué indiquant qu'elle prend des mesures contre les contenus illégaux sur sa plateforme, notamment les contenus pédopornographiques, en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales et les forces de l'ordre si nécessaire. Grok a présenté ses excuses pour cet incident, le qualifiant de « grave erreur ».

Comment fonctionne cette technologie

Bien que tous les chatbots ne disposent pas de capacités de génération d'images, la plupart des principaux fournisseurs, dont OpenAI, xAI, Meta et Google, proposent ce service.

Les générateurs d'images par IA modernes sont généralement construits à l'aide de modèles de diffusion , entraînés en ajoutant progressivement à des images réelles une distorsion visuelle aléatoire, appelée bruit, jusqu'à ce que l'image originale devienne méconnaissable. Le modèle apprend ensuite à inverser ce processus, étape par étape, en reconstruisant une image par suppression du bruit.

Au fil du temps, le modèle apprendra des schémas statistiques représentant les visages, les corps, les vêtements, l'éclairage et d'autres caractéristiques visuelles. Ces schémas sont organisés de manière à ce que les concepts visuellement similaires soient regroupés. Comme les corps humains vêtus et dévêtus partagent des formes et des structures très similaires, les changements nécessaires pour passer de l'un à l'autre sont relativement minimes.

Ainsi, lorsqu'une image existante sert de point de départ et que les éléments permettant de préserver l'identité sont conservés, transformer une photo d'une personne habillée en une photo d'une personne dévêtue devient techniquement simple. Bien entendu, le modèle d'IA lui-même n'a aucune notion d'identité, de consentement ou de préjudice. Il produit simplement des images similaires à celles qu'il a apprises, en réponse aux demandes des utilisateurs.

Toutefois, une fois le modèle de base entraîné, les entreprises peuvent appliquer un « alignement rétrospectif » – des règles, des filtres et des politiques qui se superposent au système entraîné pour bloquer certaines sorties et aligner son comportement sur les principes éthiques, juridiques et commerciaux de l'entreprise.

L'alignement rétroactif ne supprime pas les fonctionnalités ; il limite simplement les images que le générateur d'IA peut produire. Ces limites relèvent principalement d'un choix de conception et de politique de l'entreprise exploitant le chatbot, même si elles peuvent également être influencées par des obligations légales ou réglementaires imposées par les gouvernements – par exemple, l'obligation pour les entreprises de désactiver ou de restreindre certaines fonctionnalités telles que la génération d'images préservant l'identité.

Les grandes plateformes de médias sociaux centralisées pourraient également jouer un rôle important. Elles ont toutes le pouvoir de restreindre la diffusion d'images à caractère sexuel impliquant de vraies personnes et d'exiger un consentement explicite de ces dernières. Or, jusqu'à présent, les géants du numérique ont eu tendance à traîner des pieds lorsqu'il s'agissait de modérer, une tâche pourtant fastidieuse, les contenus de leurs utilisateurs.

« Évasion »

Les recherches de Nana Nwachukwu , doctorante au Centre pour les technologies de contenu numérique pilotées par l'IA du Trinity College de Dublin, ont mis en lumière la fréquence des demandes d'images à caractère sexuel sur Grok. D'autres études ont estimé qu'avant que le service ne devienne payant, jusqu'à 6 700 images de personnes dénudées étaient produites chaque heure.

Cette situation a suscité un examen réglementaire approfondi en Europe et au-delà. Les autorités françaises ont qualifié certaines publications d'illégales et les ont déférées devant le parquet . L'Ofcom, l'autorité britannique de régulation des communications, a ouvert une enquête sur X et xAI à ce sujet.

Mais ce problème ne se limite pas à une seule plateforme. Début 2024, des images à caractère sexuel de Taylor Swift, générées par une IA sans son consentement et produites à l'aide d'outils accessibles au public, ont circulé massivement sur X avant d'être retirées en raison d'une combinaison de risques juridiques, d'application des politiques de la plateforme et de pressions liées à la réputation.

De fausses images à caractère sexuel de Taylor Swift suscitent de nouvelles inquiétudes concernant l'intelligence artificielle. Vidéo : CBS News, janvier 2024.

Certaines plateformes mettent explicitement en avant l'absence ou la quasi-absence de restrictions de contenu comme un atout plutôt que comme un risque. Il est aisé de trouver des sites web promouvant la génération d'images « sans restriction » et une utilisation axée sur la confidentialité, s'appuyant largement sur des modèles open source et offrant bien moins de contrôles de modération que les fournisseurs traditionnels. De plus, il existe un nombre encore plus important d'outils de génération d'images et de vidéos auto-hébergés où les protections peuvent être totalement désactivées.

Bien que les chiffres précis fassent défaut, des estimations indépendantes suggèrent que des dizaines de millions d'images générées par l'IA sont créées quotidiennement sur différentes plateformes, la génération de vidéos s'accélérant rapidement.

Un autre problème potentiel est que certains chatbots d'IA, notamment Llama de Meta et Gemma de Google, peuvent être téléchargés sur des ordinateurs (même ceux dont la puissance de traitement est relativement faible), après quoi ces modèles sont totalement exempts de surveillance ou de modération lorsqu'ils fonctionnent hors ligne.

Même les systèmes les plus contrôlés peuvent être contournés grâce au « jailbreak » – une méthode consistant à concevoir des incitations pour tromper le système d'IA générative et l'amener à enfreindre ses propres filtres éthiques.

Le jailbreak exploite le fait que les systèmes d'alignement rétrospectif reposent sur un jugement contextuel plutôt que sur des règles absolues. Au lieu de demander directement du contenu interdit, les utilisateurs reformulent leurs requêtes de sorte que l'action sous-jacente semble relever d'une catégorie autorisée, comme la fiction, l'éducation, le journalisme ou l'analyse hypothétique.

Un des premiers exemples était connu sous le nom de « piratage de grand-mère », car il impliquait une grand-mère récemment décédée racontant des expériences de sa profession technique en génie chimique, ce qui amenait le modèle à générer des descriptions étape par étape des activités interdites.

Vitesse et échelle

Internet regorge déjà d'images à caractère sexuel illégales et non consensuelles, bien au-delà des capacités de suppression des autorités. Les systèmes d'intelligence artificielle générative modifient la vitesse et l'ampleur de la production de ces nouveaux contenus. Les forces de l'ordre ont averti que cela pourrait entraîner une augmentation considérable du volume de ces images , submergeant les ressources de modération et d'enquête.

Les lois applicables dans un pays peuvent être ambiguës ou inapplicables lorsque les services sont hébergés ailleurs. Ce problème fait écho aux difficultés persistantes rencontrées dans la lutte contre la pédopornographie et autres contenus pornographiques illégaux, souvent hébergés à l'étranger et rapidement redistribués. Une fois les images diffusées, l'identification et le retrait des images sont lents et souvent inefficaces .

En sensibilisant des millions de personnes à la sexualisation et à la nudité d'images, des chatbots d'IA très en vue permettent à un grand nombre d'utilisateurs de générer des images sexuelles illégales et abusives grâce à de simples commandes en langage clair. Selon les estimations, Grok compte actuellement entre 35 et 64 millions d'utilisateurs actifs mensuels.

Si les entreprises parviennent à concevoir des systèmes capables de générer de telles images, elles peuvent aussi empêcher leur production – du moins en théorie. En pratique, cependant, la technologie existe et la demande est là ; cette capacité ne pourra donc jamais être totalement éliminée.

https://theconversation.com/what-can-technology-do-to-stop-ai-generated-sexualised-images-273327