Skip to main content

6 Mai, 2024

Microsoft interdit aux services de police américains d’utiliser l’outil d’IA de l’entreprise pour la reconnaissance faciale

Microsoft interdit aux services de police américains d’utiliser l’outil d’IA de l’entreprise pour la reconnaissance faciale

Microsoft a réaffirmé l’interdiction faite aux services de police américains d’utiliser l’IA générative pour la reconnaissance faciale par le biais d’Azure OpenAI Service, l’enveloppe entièrement gérée et axée sur l’entreprise autour de la technologie OpenAI.

La formulation ajoutée mercredi aux conditions de service pour Azure OpenAI Service interdit plus clairement l’utilisation d’Azure OpenAI Service « par ou pour » les services de police à des fins de reconnaissance faciale aux États-Unis, y compris les intégrations avec les modèles d’analyse d’image actuels – et éventuellement futurs – d’OpenAI.

Un nouveau point distinct couvre « toute application de la loi au niveau mondial » et interdit explicitement l’utilisation de la « technologie de reconnaissance faciale en temps réel » sur les caméras mobiles, telles que les caméras corporelles et les caméras de surveillance, pour tenter d’identifier une personne dans des environnements « incontrôlés, dans la nature ».

Les changements de politique interviennent une semaine après qu’Axon, un fabricant de produits technologiques et d’armes pour l’armée et les forces de l’ordre, a annoncé un nouveau produit qui s’appuie sur le modèle de texte génératif GPT-4 d’OpenAI pour résumer les données audio des caméras corporelles.

Les critiques n’ont pas tardé à souligner les pièges potentiels, comme les hallucinations (même les meilleurs modèles d’IA générative inventent aujourd’hui des faits) et les préjugés raciaux introduits à partir des données d’entraînement (ce qui est particulièrement préoccupant étant donné que les personnes de couleur sont beaucoup plus susceptibles d’être arrêtées par la police que leurs pairs blancs).

On ne sait pas précisément si Axon utilisait GPT-4 via Azure OpenAI Service et, si c’est le cas, si la politique mise à jour était en réponse au lancement du produit d’Axon. OpenAI avait précédemment restreint l’utilisation de ses modèles pour la reconnaissance faciale par le biais de ses API. Nous avons contacté Axon, Microsoft et OpenAI et mettrons à jour cet article si nous recevons une réponse.

Les nouvelles conditions laissent une marge de manœuvre à Microsoft.

L’interdiction totale d’utiliser le service Azure OpenAI ne concerne que la police américaine, et non internationale. Elle ne couvre pas non plus la reconnaissance faciale effectuée à l’aide de caméras fixes dans des environnements contrôlés, comme un bureau (bien que les conditions interdisent toute utilisation de la reconnaissance faciale par la police américaine).

Cela correspond à l’approche récente de Microsoft et de son partenaire OpenAI en ce qui concerne les contrats d’application de la loi et de défense liés à l’IA.

En janvier, Bloomberg a révélé qu’OpenAI travaillait avec le Pentagone sur un certain nombre de projets, notamment dans le domaine de la cybersécurité, ce qui constitue une rupture par rapport à l’interdiction précédemment imposée par la startup de fournir son IA aux militaires. Par ailleurs, Microsoft a proposé d’utiliser l’outil de génération d’images d’OpenAI, DALL-E, pour aider le ministère de la défense à créer des logiciels permettant d’exécuter des opérations militaires, selon The Intercept.

Azure OpenAI Service est devenu disponible dans le produit Azure Government de Microsoft en février, ajoutant des fonctions supplémentaires de conformité et de gestion destinées aux agences gouvernementales, y compris les forces de l’ordre. Dans un billet de blog, Candice Ling, vice-présidente de la division gouvernementale de Microsoft, Microsoft Federal, a promis qu’Azure OpenAI Service serait « soumis à une autorisation supplémentaire » au DoD pour les charges de travail soutenant les missions du DoD.

https://learn.microsoft.com/en-us/legal/cognitive-services/openai/code-of-conduct