Skip to main content

22 Nov, 2023

Le nouveau PDG d’OpenAI a dit quelque chose de terrifiant il y a quelques mois

Le nouveau PDG d’OpenAI a dit quelque chose de terrifiant il y a quelques mois

« ça devrait vous faire pisser dans votre pantalon ».

Le malheur et la sinistrose: Emmett Shear, l’homme actuellement chargé de diriger OpenAI en pleine crise de leadership, a des idées assez bizarres sur l’IA pour quelqu’un qui est maintenant à la tête de l’entreprise d’IA la plus célèbre au monde.

Dans un clip datant du mois de juin, le nouveau PDG intérimaire d’OpenAI a admis dans l’émission « The Logan Bartlett Show » qu’il souscrivait à l’argument du « désastre de l’IA » (AI doomer) avancé par l’informaticien Eliezer Yudkowsky, qui est peut-être le plus grand pessimiste au monde en ce qui concerne la technologie.

« Je sais qu’Eliezer pense que nous sommes tous condamnés à coup sûr », a déclaré Emmett Shear, qui a également cofondé Twitch, à l’animateur du podcast. « Je suis d’accord avec son argumentaire, je suis d’accord avec la chaîne [de pensée] et la logique ».

Eliezer Yudkowsky est devenu l’un des sonnettes d’alarme les plus célèbres – ou les plus infâmes, selon la personne à qui l’on s’adresse – en matière d’IA au cours de la dernière décennie. L’année dernière, depuis que ChatGPT a été lancé sur le monde, il a même appelé à bombarder les centres de données de l’IA pour éviter la catastrophe et la mort que l’intelligence générale artificielle (AGI : Articial General Intelligence), ou l’IA de niveau humain, infligera à notre planète et à notre espèce.

Emmett Shear ne croit pas tout à fait au «désastre » de M. Yudkowsky, et il l’a dit à Logan Bartlett, mais il pense qu’il y a entre 5 et 50 % de « probabilité de mort » pour la technologie qu’il est maintenant chargé de mettre au point.

L’animateur du capital-risque a ensuite cité les convictions du chercheur en IA Paul Christiano, un ancien d’OpenAI qui s’est également fait un nom dans l’industrie de la technologie pour ses estimations des probabilités d’anéantissement de l’humanité par l’IA et qui, comme l’a fait remarquer Logan Bartlett, a évalué ce même risque à environ 25 à 50 pour cent.

« Il semble que si vous parlez à la plupart des chercheurs en IA », poursuit l’animateur, « il y a une prépondérance de personnes qui donnent un certain pourcentage ».

« Cela devrait vous faire pisser dans votre pantalon », a répondu Emmett Shear – et honnêtement, il n’a pas tort.

Tellement excitant

Ces commentaires de podcast qui viennent de refaire surface n’étaient pas la seule fois où le chef temporaire d’OpenAI a exprimé ses vives inquiétudes quant à l’avenir de l’IA – il s’est carrément qualifié de « doomer », après tout – et ce ne sont pas non plus les seules choses étranges que nous avons entendues de sa part depuis qu’il a fait irruption dans le radar de tout le monde cette semaine.

Plusieurs médias ont rapporté que dans des tweets pas si vieux, Emmett Shear a fait des observations très bizarres sur les fantasmes de viol et a dit qu’il préférait que des nazis prennent le contrôle du monde plutôt qu’une IA particulièrement risquée – ce qui, pour être honnête, semble tout à fait en ligne avec sa tendance doomer.

Voilà : le responsable d’OpenAI pendant la période chaotique qui a suivi le licenciement de Sam Altman est un fanatique de l’IA qui a fait des tweets dignes d’un edgelord (seigneur de la limite) au cours de l’année écoulée.

https://futurism.com/the-byte/openai-interim-ceo-ai-doomer

https://twitter.com/loganbartlett/status/1726662761785024966

https://twitter.com/liron/status/1672986864297578501

https://ai-alignment.com/my-views-on-doom-4788b1cd0c72

https://www.vice.com/en/article/z3m8z8/openai

NDLR: Décidément, on se sent « super » bien et rassuré sur cette planète !!!!