Anthropic irrite la Maison Blanche avec les limites imposées à l'utilisation des modèles
infohightech ·
Anthropic, le créateur de l'IA Claude, est en pleine tournée médiatique à Washington, mais son refus d'autoriser l'utilisation de ses modèles à des fins policières a renforcé l'hostilité envers l'entreprise au sein de l'administration Trump, ont déclaré deux hauts responsables.
Anthropic a récemment refusé les demandes d'entrepreneurs travaillant avec les agences fédérales chargées de l'application de la loi parce que l'entreprise refuse de faire une exception permettant à ses outils d'IA d'être utilisés pour certaines tâches, notamment la surveillance des citoyens américains, ont déclaré les responsables, qui ont parlé sous couvert d'anonymat.
Ces tensions surviennent alors que la Maison-Blanche de Donald Trump a présenté les entreprises américaines d'IA comme des remparts patriotiques de la concurrence mondiale, et attend d'elles qu'elles lui rendent cette loyauté. Les responsables ont exprimé leur inquiétude quant à l'application sélective par Anthropic de ses politiques, fondées sur des considérations politiques, et à l'utilisation d'une terminologie vague permettant une interprétation large de ses règles.
Par exemple, Anthropic limite actuellement la manière dont le FBI, les services secrets et l'immigration ainsi que les douanes peuvent utiliser ses modèles d'IA, car ces agences effectuent une surveillance, ce qui est interdit par la politique d'utilisation d'Anthropic .
L'un des responsables a déclaré que la position d'Anthropic, en vigueur depuis longtemps, revient à porter un jugement moral sur la manière dont les forces de l'ordre font leur travail.
La politique ne définit pas spécifiquement ce qu’elle entend par « surveillance domestique » dans un contexte d’application de la loi et semble utiliser le terme au sens large, laissant ainsi place à l’interprétation.
D'autres fournisseurs de modèles d'IA énumèrent également des restrictions en matière de surveillance, mais proposent des exemples plus précis et prévoient souvent des exceptions pour les activités des forces de l'ordre. La politique d'OpenAI , par exemple, interdit la « surveillance non autorisée des individus », impliquant un consentement à la surveillance légale par les forces de l'ordre.
La décision d’Anthropic de limiter la manière dont les forces de l’ordre et les agences de sécurité nationale utilisent ses modèles est devenue un casse-tête pour certains entrepreneurs privés qui travaillent avec ces agences.
C'est parce que dans certains cas, les modèles Claude d'Anthropic - disponibles via le système GovCloud d'Amazon Web Services - sont les seuls modèles haut de gamme autorisés pour les situations de sécurité top secrètes, ont déclaré les responsables.
Anthropic propose un service spécifique destiné aux clients de la sécurité nationale et a conclu un accord avec le gouvernement fédéral pour offrir ses services aux agences gouvernementales pour un montant de 1 $.
Anthropic travaille également avec le ministère américain de la Défense, bien que ses politiques interdisent toujours l’utilisation de ses modèles pour la fabrication d’armes.
Anthropic s'est déjà heurté à des responsables de l'administration Trump dans le passé, lorsqu'il s'est opposé à un projet de loi qui aurait empêché les États américains d'adopter une réglementation sur l'IA.
Les accrochages entre Anthropic et les sous-traitants chargés de l'application de la loi — qui surviennent alors que des rivaux plus importants comme Google ont discrètement renoncé à toute tentative d'imposer des politiques progressistes par le biais de leurs politiques d'entreprise — soulèvent une question difficile pour les entreprises les plus puissantes de la Silicon Valley : dans quelle mesure les fournisseurs de logiciels devraient-ils être en mesure de contrôler la manière dont leurs produits sont utilisés, en particulier une fois qu'ils sont vendus à des agences gouvernementales ?
Par exemple, une agence pourrait payer un abonnement ou négocier un contrat de paiement à l’utilisation avec un fournisseur d’IA, pour finalement découvrir qu’il lui est interdit d’utiliser le modèle d’IA de certaines manières, ce qui limite sa valeur.
Les logiciels traditionnels ne fonctionnent pas ainsi. Une fois qu'une agence gouvernementale a accès à Microsoft Office, elle n'a plus à se soucier d'utiliser Excel pour le suivi des armes ou des crayons.
Il est également généralement mal vu dans le monde des marchés publics de « choisir » l'utilisation des logiciels. Mais au cours de la dernière décennie, les employés militants ont souvent fait pression sur leurs employeurs pour qu'ils restent à l'écart du secteur de la défense en particulier.
Les tensions entre Anthropic et la Maison Blanche font partie d’une bataille plus large entre le mouvement de « sécurité » de l’IA, qui a des alliés au sein de la start-up indépendante d’IA, et nombre de ses rivaux et l’administration républicaine, qui préfèrent aller plus vite.
Un des atouts qui protège Anthropic dans tout cela est la performance exceptionnelle de ses modèles. Cependant, à terme, ses politiques pourraient nuire à ses activités gouvernementales.