Si vous utilisez un générateur de code IA, les pirates informatiques viennent de découvrir une méthode sournoise pour installer des logiciels malveillants directement sur votre ordinateur.
Malgré certaines améliorations en matière de précision, les grands modèles de langage produisent encore de nombreuses erreurs. À tel point que les chercheurs en cybersécurité avertissent que les criminels peuvent facilement exploiter ces résultats erronés pour diffuser des logiciels malveillants sur Internet.
Selon SecurityWeek , l’attaque exploite une faille persistante des assistants de programmation basés sur l’IA. Concrètement, lorsque ces outils recommandent des logiciels tiers, il est fort probable qu’ils mentionnent des logiciels inexistants.
Étonnamment, des chercheurs en cybersécurité de l’Université de Tel Aviv et d’Intuit ont découvert que ce scénario pouvait être exploité dans des outils de codage IA courants, allant de Cursor à Microsoft Copilot, à des taux allant de 85 à 100 %, selon les spécificités de la tâche d’ingénierie.
Cette attaque, appelée « squattage par hallucination adverse » ou « hallusquatting », exploite cette faille. Pour la mener à bien, les attaquants peuvent simplement identifier des noms de paquets hallucinés que les assistants de programmation IA référenceront, les enregistrer comme de véritables dépôts et y insérer un logiciel malveillant. Ce paquet malveillant reste alors en attente, avec la quasi-certitude qu’un assistant IA y accédera et le clonera sur la machine de son propriétaire.
Comme l’attaque repose sur un processus automatisé, la victime ne se rendra probablement compte que son assistant IA a téléchargé le logiciel malveillant que bien après le début de l’exécution du code.
Et comme cette faille est inhérente à la technologie elle-même, un grand nombre d’assistants IA sont vulnérables, notamment Cursor, OpenClaw, Gemini, GitHub Copilot et bien d’autres.
Les chercheurs affirment avoir informé les entreprises d’IA de la faille et avoir omis certains détails sensibles qui auraient permis aux attaquants d’améliorer leurs méthodes de travail, mais le problème sous-jacent demeure : les assistants IA sont des menteurs remarquablement sûrs d’eux — et apparemment des proies faciles pour la prochaine génération de cybercriminels.
https://futurism.com/future-society/hackers-cybersecurity-crime-ai-assistant-hallucination