Skip to main content

23 Jan, 2024

Les experts sont terrifiés par les projets d’IA de niveau humain de Mark Zuckerberg

Les experts sont terrifiés par les projets d’IA de niveau humain de Mark Zuckerberg

« Vraiment très effrayant. »

La semaine dernière, le fondateur de Facebook, Mark Zuckerberg, a annoncé qu’il allait acheter des centaines de milliers de puces de traitement d’IA coûteuses – et les experts s’inquiètent beaucoup de l’usage qu’il compte en faire.

Dans le même post Instagram annonçant son achat prévu de 350 000 puces graphiques H100 de Nvidia, d’une valeur moyenne d’environ 30 000 $ chacune et considérées comme la référence en matière d’alimentation des modèles d’IA, Zuckerberg a déclaré qu’il souhaitait construire une AGI artificielle open source, le terme industriel pour le point auquel l’IA atteint, voire dépasse l’intelligence humaine.

Bien qu’il y ait encore un débat ouvert sur la question de savoir si l’AGI est même possible , la perspective elle-même suffit à faire réfléchir certains chercheurs.

AGI : Artificial General Intelligence

« L’idée que l’AGI open source soit publiée avant que nous ayons trouvé comment réguler ces systèmes d’IA très puissants est vraiment très effrayante », a déclaré Dame Wendy Hall, informaticienne à l’Université de Southampton en Angleterre et membre des Nations Unies au Conseil consultatif sur l’IA, a déclaré au Guardian . « Entre de mauvaises mains, une telle technologie pourrait faire beaucoup de mal. Il est tellement irresponsable de la part d’une entreprise de la proposer. »

L’AGI sera probablement encore « dans de nombreuses années », a ajouté Wendy Hall, ce qui donne à la société le temps de mettre de l’ordre dans un cadre réglementaire. Néanmoins, « c’est une question de sécurité publique que nous fassions progresser ce travail avec une certaine urgence », a-t-elle déclaré.

Andrew Rogoyski, l’un des directeurs de l’Institut pour l’IA centrée sur les personnes de l’Université de Surrey, a fait écho aux inquiétudes de Hall concernant le fait que Meta soit un acteur potentiel dans l’AGI.

« Il existe des arguments profonds et complexes sur les mérites des modèles d’IA actuels en open source, pousser cela dans le domaine de l’AGI pourrait sauver le monde ou être catastrophique », a déclaré Anfrew Rogoyski au journal. « Ces décisions doivent être prises par consensus international, et non dans la salle du conseil d’administration d’un géant de la technologie. »

Les rêves d’IA open source de Meta suscitent depuis longtemps des critiques. L’été dernier, Hall a même déclaré au Guardian que l’open source du grand modèle de langage (LLM) Llama 2 de la société était un « un peu comme donner aux gens un modèle pour construire une bombe nucléaire » en raison de son accessibilité à tous.

Meta, bien sûr, est loin d’être la seule entreprise à tenter de créer une AGI. Mais parmi ses concurrents comme OpenAI et Google DeepMind, il semble être le seul à vouloir rendre open source les modèles potentiellement révolutionnaires, ce qui soulève de nombreuses inquiétudes.

https://futurism.com/the-byte/experts-terrified-zuckerberg-agi