Des chercheurs en sécurité ont transformé le chatbot en une « arme d’exfiltration de données en un clic ».

Plus tôt ce mois-ci, la fonctionnalité d’assistant de chatbot IA de Meta a été prise dans un incident de cybersécurité embarrassant : le bot accédait volontiers aux profils Instagram d’autres personnes lorsque des pirates informatiques lui demandaient cet accès.

Les pirates n’ont pas eu à déployer beaucoup d’efforts. Après avoir activé un VPN, ils ont simplement demandé au chatbot de modifier l’adresse électronique associée au profil cible, ce qui leur a permis de réussir l’authentification à deux facteurs (2FA) et d’en prendre le contrôle.

Deux semaines plus tard, le chatbot Copilot Enterprise de Microsoft est impliqué dans une affaire aux conséquences similaires, illustrant une fois de plus comment le recours à l’IA pour les tâches de cybersécurité peut facilement exposer des données clients sensibles. Comme le rapporte Ars Technica , le géant technologique a été contraint de corriger une faille de sécurité majeure, qui permettait aux chercheurs en cybersécurité de la société Varonis de transformer le chatbot en une véritable « arme d’exfiltration de données en un clic ».

Microsoft a classé la vulnérabilité comme « critique » et l’a depuis corrigée, selon Varonis.

La ruse était étonnamment simple.

« Pour exfiltrer les données, un attaquant crée une URL qui demande à Copilot de rechercher dans les e-mails de l’utilisateur, d’en extraire le titre et de l’intégrer dans une URL d’image », explique l’entreprise. « La victime n’a rien à saisir. Elle clique sur un lien, et Copilot se charge du reste. »

« Comme Copilot Enterprise fonctionne avec les autorisations graphiques complètes de l’utilisateur, l’attaquant hérite effectivement de l’accès de la victime aux données de l’organisation, sans jamais avoir à s’authentifier », a averti Varonis.

De ce fait, les pirates informatiques pourraient accéder à des communications confidentielles et même activer l’authentification multifacteurs ou à deux facteurs pour pratiquement n’importe quel service.

Les chercheurs ont utilisé une faille appelée injection de paramètre à invite (P2P), qui est étroitement liée aux méthodes d’injection d’invite plus conventionnelles , qui sont des attaques consistant à manipuler un LLM en créant des entrées de texte trompeuses qui remplacent les instructions originales du bot.

Dans le cas des injections P2P, l’invite malveillante se trouve dans le « paramètre de requête », paramètres de configuration qui déterminent comment un LLM traite une invite pour générer sa réponse, et non intégrée dans le texte de l’invite elle-même.

L’attaque a également contraint le navigateur Bing de Microsoft à exécuter une commande malveillante au sein d’une URL Bing. L’adresse « bing.com » est autorisée par Microsoft puisqu’il s’agit de son propre moteur de recherche, selon Varonis.

« Puisque le piratage cible les solutions Microsoft pour entreprises, son impact ne se limite pas aux données personnelles : il peut exposer tout ce à quoi l’utilisateur a accès au sein de l’organisation, y compris les courriels, les invitations à des réunions et les notes », a écrit l’entreprise. « Selon la manière dont Microsoft 365 est connecté à l’environnement, l’impact pourrait être encore plus important. »

https://futurism.com/future-society/microsofts-copilot-hackers-steal-2fa-click