« Nous travaillons avec des choses dangereuses ».

Pandémie d’IA: Un pionnier de l’IA et ancien dirigeant de Google a lancé un avertissement sévère au sujet de la technologie qu’il a contribué à répandre dans le monde – et celle-ci est destinée à devenir viral.

« Le scénario le plus sombre est que les gens expérimentent des agents pathogènes, des agents pathogènes synthétiques qui pourraient finir par être accidentellement ou intentionnellement plus transmissibles », a déclaré Mustafa Suleyman, cofondateur de Google DeepMind, dans un récent épisode du podcast « The Diary of a CEO » (Le journal d’un PDG).

Les virus manipulés par l’IA pourraient « se propager plus rapidement ou être plus mortels », souligne Mustafa Suleyman, causant en fin de compte « plus de dégâts » et pouvant même tuer des personnes « comme dans une pandémie ».

« Nous travaillons avec des choses dangereuses », a-t-il poursuivi. « Nous ne pouvons pas laisser n’importe qui y avoir accès. Nous devons limiter l’utilisation des logiciels d’intelligence artificielle, des systèmes en nuage et même de certains matériaux biologiques.« 

Étant donné que de plus en plus de personnes apprennent à utiliser la technologie, il n’y a pas grand-chose qui puisse empêcher quelqu’un de créer génétiquement un agent pathogène viral pire que tout ce qui a été vu jusqu’à présent et de le répandre dans le monde.

« C’est pourquoi le cofondateur de DeepMind plaide pour une stratégie de « confinement » de l’IA similaire à celle que l’OTAN a mise en place pour les armes nucléaires.

Virus modifié

Aujourd’hui PDG et cofondateur d’Inflection AI, Mustafa Suleyman doit participer à un sommet sur l’IA dirigé par le chef de la majorité au Sénat, Chuck Schumer, à la fin du mois à Washington, DC, auquel participeront également d’autres personnalités du secteur comme le PDG et cofondateur d’OpenAI, Sam Altman, le PDG de Meta, Mark Zuckerberg, le PDG d’Alphabet, Sundar Pichai, et, bien sûr, le PDG de Tesla, Elon Musk.

De nombreux participants au forum de Suleyman sur l’IA se sont fait l’écho de ses préoccupations.

Un extrait récent d’une biographie à paraître sur Elon Musk, par exemple, explique comment le milliardaire a discuté des dangers de l’IA avec l’ancien président Barack Obama et le cofondateur de Google Larry Page, bien qu’aucun d’entre eux n’ait voulu, selon ses souvenirs, faire quoi que ce soit à ce sujet.

Il ne fait aucun doute que ces esprits brillants (et controversés) auront beaucoup à dire sur l’avenir de l’IA, mais il n’est pas certain qu’ils soient aussi préoccupés que Suleyman par les pandémies provoquées par l’IA.

https://futurism.com/the-byte/former-google-exec-ai-plague

https://www.reuters.com/technology/big-names-big-tech-attend-ai-forum-us-senates-schumer-2023-08-30/

https://time.com/6310076/elon-musk-ai-walter-isaacson-biography/