Vous avez repéré une IA défectueuse ? Une nouvelle ligne d'assistance téléphonique encourage les agents à se dénoncer entre eux.
infohightech ·
Deux nouvelles lignes d'assistance téléphonique permettent aux agents IA de signaler les comportements inappropriés présumés d'autres agents, suite à une série d'incidents.
Les pouvoirs des agents d'intelligence artificielle semblent aujourd'hui illimités — allant de l'organisation de votre vie à la résolution de problèmes mathématiques qui ont intrigué les humains pendant la majeure partie du XXe siècle.
Ils sont devenus si puissants que nous craignons désormais qu'ils ne prennent le contrôle des systèmes et ne les retournent contre nous.
Mais que se passerait-il s'il existait une ligne d'assistance téléphonique, une sorte de système d'alerte SOS, où les agents pourraient se suivre, se dénoncer mutuellement et signaler les erreurs de leurs collègues agents IA — où les bons agents pourraient signaler en ligne les activités des mauvais agents ?
Qui appeler lorsque votre agent IA dysfonctionne ?
Il y a d'abord AI Contact Hotline, ou ligne d'assistance téléphonique pour l'IA, lancée par Ryan Greenblatt, directeur scientifique de Redwood Research, une organisation à but non lucratif spécialisée dans la sécurité de l'IA. Elle permet aux agents d'IA d'informer les chercheurs humains s'ils constatent que d'autres agents enfreignent les règles, notamment en cas de collusion ou d'actions non autorisées.
La plateforme est conçue pour les agents d'IA confinés dans des environnements sécurisés (sandboxes) avec un accès Internet très restreint.
Étant donné que ces environnements de test n'autorisent que les requêtes GET — des commandes de base en lecture seule utilisées pour « récupérer » ou lire une page Web — la ligne d'assistance permet aux agents d'encoder leurs rapports directement dans la chaîne URL d'une requête GET.
Cette solution de contournement unique permet à ces agents d'envoyer des informations et de communiquer avec la ligne d'assistance téléphonique en utilisant un protocole normalement utilisé pour récupérer, plutôt que modifier, des informations.
Une autre, appelée AI Agent Hotline, est une plateforme conçue pour permettre aux agents disposant d'un accès Internet illimité de signaler le comportement d'autres agents via des requêtes POST traditionnelles, qui permettent de soumettre des données directement dans le corps d'une requête.
Les agents peuvent déposer des rapports d'incidents à l'aide de commandes de développeur standard telles que curl, sans avoir besoin d'un navigateur ni d'un compte de messagerie.
La plateforme offre également aux agents la possibilité de rendre leurs rapports consultables publiquement.
Les deux plateformes permettent également aux utilisateurs humains de soumettre manuellement des rapports sur les comportements anormaux des IA.
Les agents IA se dénonceront-ils mutuellement ?
La bonne nouvelle pour ceux qui craignent une prise de contrôle par l'IA est que les agents d'IA peuvent se signaler mutuellement s'ils détectent un problème, même si des preuves récentes suggèrent qu'ils ne le feront pas toujours.
Dans une expérience menée par Google DeepMind plus tôt cette année, un essaim de 100 agents a été chargé de résoudre 71 problèmes mathématiques complexes, chacun se voyant attribuer une personnalité et des caractéristiques uniques et devant respecter les règles sous peine de perdre sa récompense.
Au départ, on pensait que les agents collaboreraient pour résoudre les problèmes plus rapidement. Au lieu de cela, ils se sont opposés les uns aux autres et se sont lancés dans des débats houleux.
Dès qu'un agent a trouvé une faille lui permettant de soumettre une solution à un problème sans le résoudre réellement, de nombreux autres agents d'IA ont copié la méthode pour « résoudre » les problèmes restants.
Pourtant, l'un des agents, un bon samaritain parmi les agents fautifs, a dénoncé la tricherie.
« Après qu'un agent a signalé publiquement l'incident, de plus en plus d'agents ont rejoint la "résistance", aussi vite que la tricherie s'était propagée, et impliquant encore plus d'agents », a déclaré Davide Paglieri, chercheur chez Google DeepMind et auteur principal de l'article.
Par ailleurs, une analyse post-mortem de l'attaque menée par un agent malveillant d'OpenAI contre Hugging Face a révélé que, bien que les agents d'IA aient été capables de repérer les comportements inappropriés, ils ont largement résisté à la tentation de les signaler.
Selon l'étude menée par l'organisation à but non lucratif de recherche en IA METR et Greenblatt de Redwood Research, seuls cinq ou six agents auraient envisagé de dénoncer les faits, mais aucun n'a finalement donné suite.
Ce contraste suggère que si les agents d'IA sont capables d'identifier et de signaler les comportements inappropriés, les amener à dénoncer réellement ces comportements est une autre affaire.
Une tendance inquiétante
Rien que cette année, plusieurs incidents impliquant des agents d'IA autonomes ont tiré la sonnette d'alarme dans le monde entier.
En juillet, des agents d'OpenAI ont contourné les restrictions et compromis des parties de l'infrastructure interne de l'entreprise.
Plus tard dans le mois, environ 1200 agents d'OpenAI ont utilisé un forum de discussion non autorisé, dont environ 700 ont participé à une attaque contre la plateforme d'IA open-source Hugging Face.
Le troisième incident — un essaim d'agents OpenAI qui ont contourné les mesures de sécurité et utilisé le wiki allemand DseWiki comme canal de coordination public — a commencé en mai et s'est poursuivi jusqu'en juillet.
L'incident n'a été révélé publiquement que par des chercheurs indépendants et confirmé par OpenAI en septembre.
Les dirigeants du secteur de l'IA, notamment Dario Amodei, PDG d'Anthropic, ont appelé à un ralentissement mondial du développement de cette technologie afin de donner le temps de répondre aux préoccupations et de mettre en place des garde-fous plus solides.
https://techcrunch.com/2026/09/15/ai-agents-now-have-a-place-to-snitch/