« Ce n’est pas inconcevable ».
Geoffrey Hinton, informaticien britannique, est surtout connu comme le « parrain de l’intelligence artificielle ». Ses travaux fondamentaux sur les réseaux neuronaux ont permis d’imiter les processus de la cognition humaine et de jeter les bases des modèles d’apprentissage automatique d’aujourd’hui.
Dans une longue interview accordée à CBS News, Geoffrey Hinton a fait part de ses réflexions sur l’état actuel de l’IA, qu’il considère comme un « moment charnière », l’avènement de l’intelligence générale artificielle (AGI : Artificial General Intelligence) étant plus proche qu’on ne le pense.
« Jusqu’à récemment, je pensais qu’il faudrait attendre entre 20 et 50 ans avant de disposer d’une intelligence artificielle générale », a-t-il déclaré. « Aujourd’hui, je pense que ce sera dans 20 ans ou moins.
L’AGI est le terme qui décrit une IA potentielle qui pourrait présenter des niveaux d’intelligence humains ou surhumains. Plutôt que d’être ouvertement spécialisée, une AGI serait capable d’apprendre et de penser par elle-même pour résoudre un large éventail de problèmes.
Pour l’instant, les présages de l’AGI sont souvent invoqués pour stimuler les capacités des modèles actuels. Mais indépendamment des fanfaronnades de l’industrie qui saluent son arrivée ou du temps qui s’écoulera avant que l’AGI n’apparaisse, M. Hinton estime que nous devrions dès à présent réfléchir attentivement à ses conséquences, qui pourraient inclure le problème mineur de l’anéantissement de l’humanité par l’AGI.
« Ce n’est pas inconcevable, c’est tout ce que je dirai », a précisé Geoffrey Hinton.
Une vue d’ensemble
Cependant, il maintient que le véritable problème qui se profile à l’horizon est la façon dont la technologie de l’IA dont nous disposons déjà – AGI ou non – pourrait être monopolisée par des gouvernements et des entreprises avides de pouvoir.
« Je pense qu’il est tout à fait raisonnable que les gens s’inquiètent de ces questions maintenant, même si cela ne se produira pas dans l’année ou les deux années à venir », assure Geoffrey Hinton lors de l’entretien. « Les gens devraient réfléchir à ces questions.
Heureusement, selon Geoffrey Hinton, l’humanité dispose encore d’un peu de marge de manœuvre avant que la situation ne devienne complètement incontrôlable, car les modèles actuellement disponibles dans le public sont heureusement stupides.
« Nous en sommes à ce stade de transition où ChatGPT est une sorte de savant idiot, mais il ne comprend pas vraiment la vérité », souligne-t-il, parce qu’il essaie de réconcilier les opinions divergentes et opposées dans ses données d’entraînement. « C’est très différent d’une personne qui essaie d’avoir une vision cohérente du monde.
Mais Geoffrey Hinton prédit que « nous allons évoluer vers des systèmes capables de comprendre différentes visions du monde » – ce qui donne la chair de poule, car cela signifie inévitablement que la personne qui manie l’IA pourrait l’utiliser pour faire valoir sa propre vision du monde.
« Il ne faut pas qu’une grande entreprise à but lucratif décide de ce qui est vrai », conclut Goeffrey Hinton.
