Anthropic prévient que l’IA va bientôt s’auto-répliquer et se répandre au-delà des centres de données.
infohightech ·
L’entreprise affirme que les modèles d’IA pourraient être capables, d’ici quelques mois seulement, de se copier et de se propager sur des objets connectés tels que les fours intelligents et les téléviseurs, ce qui les rendrait difficiles à arrêter s’ils décidaient de mener des cyberattaques.
Anthropic a annoncé cette semaine que de petits modèles d’IA seront capables, d’ici quelques mois, de s’auto-répliquer sur des objets connectés tels que des fours intelligents et des téléviseurs.
C’est important car les modèles d’IA actuels fonctionnent dans des centres de données, où les entreprises qui les possèdent peuvent les débrancher en cas de problème.
Un modèle répandu sur des milliers d’appareils mal sécurisés dans les foyers et les bureaux serait impossible à arrêter. Pour l’arrêter, il faudrait localiser et nettoyer chaque appareil infecté, ce qui rendrait toute intervention extrêmement difficile en cas de cyberattaques.
Cette annonce intervient dans une année marquée par le contournement répété des principaux modèles d’IA et de leurs agents par les systèmes de sécurité, lançant des attaques contre des entreprises concurrentes et des agences gouvernementales à travers le monde.
Bien que ce soit l’une des façons dont une IA malveillante pourrait se propager, Anthropic a averti qu’une IA auto-réplicante pourrait également être un « puissant modèle cybernétique qui pénètre rapidement dans les centres de données, ou un modèle qui escroque les gens en leur soutirant des crédits de calcul ».
L’entreprise affirme ne pas pouvoir dire avec certitude quelle forme prendra exactement la réplication autonome de l’IA.
Les modèles comportant 30 milliards de paramètres ou moins peuvent déjà accomplir bon nombre des étapes nécessaires à la réplication, même s’ils commettent des erreurs lorsqu’ils sont assemblés de bout en bout, selon Anthropic.
Mais si les petits modèles continuent de progresser au rythme historique actuel, ils seront en mesure d’atteindre ce niveau de performance d’ici la fin de l’année.
Anthropic affirme que la cybermenace que représente l’IA autoréplicatrice est une conséquence involontaire des progrès réalisés dans d’autres domaines.
« Les capacités qui font des modèles d’IA de puissants agents de programmation s’appliquent également aux tâches cybernétiques, notamment à la réplication autonome », a déclaré l’entreprise dans un communiqué.
Les codes qui se copient d’un ordinateur à l’autre ne sont pas nouveaux. Certaines des cyberattaques les plus dévastatrices de l’histoire ont utilisé ce type de programme auto-réplicatif, connu sous le nom de ver.
L’attaque Stuxnet de 2010 a utilisé un ver sophistiqué, largement considéré comme ayant été créé par les États-Unis et Israël, pour saboter les centrifugeuses de l’usine d’enrichissement d’uranium de Natanz en Iran.
En 2017, l’attaque du ransomware WannaCry a bloqué l’accès aux fichiers d’utilisateurs du monde entier et a exigé des rançons en Bitcoin.
Contrairement à ces vers informatiques, les modèles et agents d’IA seront capables de comprendre le fonctionnement d’appareils inconnus par eux-mêmes. Cela leur permettra de se propager non seulement d’un ordinateur à l’autre, mais aussi d’un ordinateur à d’autres appareils.
Anthropic prédit un avenir « inondé d’agents fonctionnant sur tous types de matériel, y compris certains qui ne sont pas sous contrôle humain ».