Interdiction des systèmes et modèles d’IA à « risque inacceptable » : pour les entreprises, plus que 10 semaines pour se mettre en conformité avec les dispositions de l’AI Act

infohightech ·

Les entreprises ont maintenant moins de 10 semaines pour retirer les outils d'IA interdits destinés à être utilisés ou commercialisés au sein de l'UE, sous peine de poursuites, y compris la possibilité de se voir appliquer de fortes amendes.

  • L'AI Act interdit certaines catégories d'IA à partir de février 2025 ;
  • Incluant les IA qui peuvent être trompeuses, manipulatrices ou exploiter les vulnérabilités liées à l'âge et au handicap ;
  • L'utilisation de bases de données de reconnaissance faciale créées par web-scraping (moissonnage) et certains cas d'utilisation biométrique seront également affectés ;
  • Les sanctions en cas de violation incluent des amendes pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial.
  • Le cabinet Osborne Clarke avertit les entreprises de l'UE et les organisations mondiales ayant des clients dans l'UE qu'elles ont maintenant moins de 10 semaines pour retirer une gamme d'outils d'IA interdits, faute de quoi elles pourraient bientôt faire face à des amendes importantes.

La nouvelle loi européenne sur l'IA (EU AI Act) est entrée en vigueur le 1er août 2024 et constitue le premier cadre juridique mondial qui aborde les risques de l'IA et fournit aux développeurs et aux utilisateurs des exigences et des obligations claires concernant les utilisations spécifiques de cette technologie.

Cependant, la loi identifie également une gamme de catégories d'IA qui seront spécifiquement interdites à partir de six mois suivant l'entrée en vigueur de la loi, soit à partir du 2 février 2025.

L’absence de retrait de ces systèmes d'IA à usage général au sein de l'UE pourrait signifier qu'à partir du 2 août 2025, les autorités nationales des pays de l'UE pourront imposer des amendes allant jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial du groupe (le montant le plus élevé étant retenu) en vertu de l'article 99(3) de l'AI Act.

Xavier Pican, avocat associé en technologies de l'information et droit des données chez Osborne Clarke à Paris, a commenté : « Avec moins de 10 semaines pour assurer leur mise en conformité, il est encore temps pour les entreprises de mettre en place un certain nombre de mesures : adopter une politique de gouvernance de l’IA, adopter une politique d’utilisation générale de l’IA et établir des règles spécifiques à chaque projet, établir un mapping des outils d’IA d’ores et déjà utilisés dans l’entreprise, qu’elle en soit propriétaire ou qu’elle fasse appel à un prestataire, et revoir un certain nombre d’engagements contractuels avec notamment leurs prestataire et fournisseurs. Il est à noter que les sanctions prévues sont plus élevées que celles que nous connaissons pour le RGPD, ce qui doit également être anticipé par les entreprises. »

Les interdictions, énoncées à l'article 5 de l'AI Act, couvrent les utilisations de l'IA considérées comme présentant des risques inacceptables pour la santé et la sécurité ou les droits fondamentaux. Les applications interdites incluront la liste suivante. Les détails des orientations relatives à chacune d'elles sont encore à venir de l'Office de l'IA de l'UE :

  • Systèmes d'IA utilisant des techniques subliminales, manipulatrices ou trompeuses destinées à déformer matériellement le comportement de quelqu'un en altérant sa capacité à prendre une décision éclairée et en le poussant à prendre une décision qu'il n'aurait pas prise autrement, avec des dommages significatifs en résultant. Cela concerne particulièrement les systèmes d'IA utilisés pour soutenir les jeux d'argent en ligne et les jeux, ou la vente sous pression dans un contexte de consommation de détail.
  • IA exploitant les vulnérabilités d'une personne liées à l'âge, au handicap, aux circonstances sociales ou économiques afin de déformer son comportement, causant des dommages significatifs. Comme pour l'interdiction des "techniques trompeuses", cela est susceptible de concerner les fournisseurs de systèmes permettant la vente au détail en ligne ou les jeux en ligne.
  • La notation sociale basée sur le comportement ou les caractéristiques personnelles qui entraîne un traitement préjudiciable d'une personne dans un contexte social, sans rapport avec l'endroit où les données servant à la notation ont été initialement recueillies, ou qui est injustifiée ou disproportionnée. Cela concernerait les outils d'IA activés sur les réseaux sociaux et utilisés pour classer les comportements.
  • Systèmes d'IA créant ou élargissant des bases de données de reconnaissance faciale par web-scraping (moissonnage) non ciblé de l’Internet ou de séquences de vidéosurveillance. Cela vise explicitement à empêcher les modèles commerciaux de type Clearview dans l'UE (Clearview était une entreprise américaine qui a collecté illégalement des images faciales publiques sur Internet et les a utilisées dans un système de reconnaissance faciale fourni aux autorités de maintien de l'ordre dans l'UE).
  • Systèmes d'inférence émotionnelle utilisés sur le lieu de travail ou dans les établissements d'enseignement (sauf pour des raisons médicales ou de sécurité).
  • Catégorisation biométrique où des informations telles que le visage ou l'empreinte digitale de quelqu'un sont utilisées pour déduire des caractéristiques sensibles telles que la race, les opinions politiques, les adhésions syndicales, les croyances religieuses ou philosophiques, la vie sexuelle ou l'orientation sexuelle (avec des exceptions dans le cadre de l'application de la loi).
  • Systèmes d'IA utilisés pour prédire la probabilité qu'une personne commette une infraction pénale, uniquement sur la base du profilage ou d'une évaluation de ses traits de personnalité (l'exclusion dite "Minority Report").
  • Systèmes de reconnaissance faciale à distance en temps réel utilisés dans des espaces accessibles au public pour l'application de la loi, avec des exceptions.

Pour toute entreprise utilisant des systèmes d'IA, il existe un certain nombre de dispositions supplémentaires de la loi qui entreront en vigueur progressivement au cours des prochaines années :

  • 2 août 2025 : entrée en vigueur des règles relatives aux systèmes d’IA à usage général, ainsi que les dispositions de notification, de gouvernance, de pénalités et de confidentialité.
  • 2 août 2026 : entrée en vigueur de la plupart des autres dispositions de l’IA Act, y compris les règles pour les modèles à haut risque définis à l'annexe III.
  • 2 août 2027 : entré en vigueur des règles relatives aux systèmes d’IA à haut risque de l’annexe I de l’IA Act, contenus dans les systèmes ou produits déjà soumis à la législation européenne sur la sécurité des produits.

https://www.osborneclarke.com

Cet article vous a été utile ? Partagez-le.