Les nouvelles embauches et les commentaires recueillis lors d’entretiens montrent que le géant de l’IA utilise ses capacités contre les dissidents.
Les offres d’emploi et les entretiens avec les hauts responsables de la sécurité d’Anthropic montrent que ce laboratoire d’IA de pointe met en place un vaste système de surveillance pour garder un œil sur les militants qui s’opposent au développement rapide de l’intelligence artificielle.
Outre la surveillance des militants aux abords des dirigeants d’Anthropic et le suivi des manifestations près des installations de l’entreprise, Anthropic met également en œuvre une approche de « prévention du crime », cherchant à anticiper les incidents. Dans certains cas, cela implique également de signaler les suspects à la police avant même qu’un crime ne soit commis. Anthropic n’a pas répondu à la demande de commentaires du Prospect .
Les projets d’Anthropic de surveiller la dissidence sont en contradiction avec les efforts de l’entreprise pour se présenter comme une alternative responsable à OpenAI. En début d’année, le département de la Défense et Anthropic se sont violemment opposés suite au refus d’Anthropic d’autoriser l’armée à utiliser ses outils pour la surveillance intérieure de masse et les armes autonomes.
Ces tensions semblent s’être apaisées, Anthropic recrutant actuellement pour des postes liés aux « ventes en matière de sécurité nationale », dans le but de relancer les contrats militaires. Le renforcement de la surveillance des opposants intérieurs s’inscrit dans un regain d’intérêt pour la sécurité nationale.
Un élément de l’architecture de surveillance d’Anthropic a été révélé lors d’une interview podcast de l’année dernière entre Keon Ellison, responsable du centre des opérations de sécurité mondiale d’Anthropic, Zach Melvin, responsable des opérations de sécurité, et James Neufeld, PDG de Samdesk, une société avec laquelle Anthropic a un contrat pour la détection des risques.
Au cours d’une conversation approfondie sur la surveillance et l’analyse des menaces, l’entretien aborde également la question de la surveillance des activistes. « L’année dernière, un de nos cadres se trouvait dans une grande ville lorsque nous avons reçu, via Samdesk, des informations concernant une manifestation prévue », a déclaré Ellison. La manifestation, initialement prévue, a été avancée en raison de problèmes d’autorisation. « Samdesk nous a prévenus environ 60 minutes à l’avance du changement d’horaire des organisateurs », a expliqué Ellison. « Cette heure supplémentaire a été cruciale. Sans elle, nos cadres auraient quitté leurs réunions et se seraient retrouvés en plein cœur des troubles. »
Ellison a expliqué qu’Anthropic avait utilisé ces données pour concevoir un itinéraire alternatif pour le cadre et le diriger vers une entrée de service de l’hôtel. « Ce qui aurait pu être une situation très stressante », a-t-il déclaré, « a été grandement atténué grâce à la détection précoce par Samdesk et aux informations qu’ils nous ont fournies. »
Anthropic a commencé à signaler systématiquement les menaces aux services de police du pays et a déclaré au Wall Street Journal en juillet : « Nous suivons les comportements préoccupants au fil du temps grâce à une procédure d’identification des personnes d’intérêt, ce qui nous permet de détecter rapidement les signes d’escalade. » Selon le Journal , « plusieurs individus impliqués dans des incidents signalés à la police étaient déjà surveillés par le service de sécurité d’Anthropic. »
Le mois dernier, le San Francisco Standard a rapporté qu’Anthropic avait porté plainte contre un homme auprès de la police de San Francisco pour avoir déclaré à Claude qu’il avait acheté un fusil semi-automatique AR-15 et qu’il avait le PDG Dario Amodei « dans le collimateur ». Contacté par le Standard, l’homme en question a déclaré au journal qu’il « plaisantait ».
Si Anthropic s’est empressé de signaler un utilisateur de Claude mécontent à la police, le Standard a également révélé un détail crucial : Anthropic a refusé de communiquer les messages aux forces de l’ordre, invoquant sa politique interne. En résumé, Anthropic a signalé un utilisateur pour propos tenus sur sa plateforme, puis a refusé de fournir à la police des preuves de son comportement répréhensible.
Ce type de surveillance préventive, encouragé sans procédure régulière, est explicitement mentionné comme un objectif par le responsable du programme de sécurité d’Anthropic dans le podcast analysé par Prospect . « L’objectif serait de transformer les opérations, en passant d’une approche réactive à une approche proactive, prédictive et préventive de l’engagement et de la gestion des menaces », a-t-il déclaré, ajoutant : « C’est le niveau de maturité opérationnelle indispensable à la protection des cibles de grande valeur dans tous les secteurs. »
L’effort d’Anthropic pour mettre en place un dispositif de sécurité prédictif s’étend au-delà de la direction générale pour inclure son équipe mondiale de sécurité, de renseignement et de sûreté (GSIS), selon une offre d’emploi du mois dernier détaillant la recherche par Anthropic d’un spécialiste du renseignement d’entreprise qui « enquêtera sur des menaces, des acteurs et des événements spécifiques, produira des évaluations finales et aidera les employés d’Anthropic à garder une longueur d’avance sur un paysage de menaces en constante évolution et à se maintenir dans une position défendable ».
Ce rôle, rémunéré entre 180 000 et 230 000 dollars, consistera notamment à « identifier, évaluer, suivre et enquêter sur les menaces mondiales, y compris l’instabilité géopolitique, le terrorisme, la criminalité, l’ activisme , le ciblage du secteur de l’IA par les États et les nouvelles tendances en matière de sécurité, y compris des recherches approfondies et la collecte de renseignements en sources ouvertes sur des menaces, des acteurs et des événements spécifiques » (nous soulignons).
L’extension des activités de collecte de renseignements d’Anthropic à l’échelle nationale, voire mondiale, s’inscrit dans le cadre des efforts récents visant à renforcer la reconnaissance de l’IA et des infrastructures qui la sous-tendent, notamment les centres de données et l’approvisionnement énergétique. Une telle désignation placerait l’intelligence artificielle au même rang que l’eau, l’électricité et l’internet haut débit.
De fait, des organisations comme Americans for Responsible Innovation (ARI), ferventes défenseures de l’IA, ont exhorté l’administration Trump à mettre en œuvre ce changement. Selon ARI, l’IA est « si vitale pour les États-Unis que l’incapacité ou la destruction de ces systèmes et actifs aurait un impact dévastateur sur la sécurité nationale, la sécurité économique nationale, la santé ou la sécurité publique nationale, ou toute combinaison de ces éléments. »
Intégrer les laboratoires de pointe dans le cadre strict de la sécurité nationale donnerait non seulement à Anthropic, OpenAI et Google un accès encore plus grand aux produits de renseignement générés par les agences fédérales de police et de renseignement, mais encouragerait également ces entreprises à influencer la façon dont les agences fédérales perçoivent les menaces qui pèsent sur leurs intérêts financiers, désormais qualifiés d’« infrastructures critiques ».
Il est facile d’imaginer comment l’engagement citoyen de cette même coalition bipartite opposée aux centres de données pourrait se tourner vers l’IA, pour se voir aussitôt taxée d’extrémisme, voire de terrorisme. Face à ce problème, Anthropic a redoublé d’efforts pour développer une intelligence artificielle capable de fournir des services que le public ne pourra ignorer.
« Je reconnais que le public a une vision négative de l’IA (et c’est un problème majeur), mais je ne pense pas que ce soit principalement dû à mes mises en garde ou à celles d’autres leaders du secteur concernant les risques liés à l’IA », a écrit Dario Amodei, PDG d’Anthropic, sur Twitter le mois dernier. « Je pense qu’il s’agit fondamentalement d’une crise de confiance… Je pense que les gens ordinaires ne font confiance ni aux entreprises, ni aux gouvernements, ni à l’industrie technologique et soupçonnent toujours que nous sommes en train de concocter un nouveau stratagème pour les duper. »
Alors qu’Anthropic intensifie ses efforts pour surveiller les dissensions grâce à ses équipes de renseignement internes et à un système de suivi des manifestations en temps réel basé sur l’IA, l’entreprise devra faire face à la précarité économique croissante qui touche de nombreuses personnes en dehors de ses tours de la baie de San Francisco. La semaine dernière, les agents de sécurité qui patrouillent les campus d’OpenAI et d’Anthropic ont annoncé avoir autorisé une grève en raison du blocage des négociations salariales. En réponse, Anthropic a envoyé un courriel à l’ensemble de ses employés leur conseillant de privilégier le télétravail.
