Un professeur de Harvard met en garde contre le risque que les dirigeants du secteur de l'IA poussent le monde vers un élevage industriel d'êtres humains.

Nous fonçons vers un avenir où l'IA permettra « l'élevage industriel des êtres humains », avertit un professeur de Harvard – du moins si les élites technologiques parviennent à leurs fins. Dans un nouvel épisode du podcast « Hard Fork » du New York Times, l'historienne Jill Lepore expose son idée d'un « État artificiel » qui supplante l'État-nation traditionnel, et en particulier la démocratie constitutionnelle, par un système qui efface l'autonomie humaine.

Dans ce nouvel ordre mondial, la gouvernance est assurée « non par le consentement du peuple, mais par des machines qui prennent des décisions », a-t-elle expliqué dans le podcast. Et ces machines, bien sûr, appartiennent à des entreprises.

Nous ne vivons pas encore dans un État artificiel, souligne Jill Lepore, mais c'est un système qui se construit et se réalise autour de nous. Et surtout, c'est aussi un fantasme entretenu par certaines élites influentes qui estiment que leur pouvoir devrait primer sur le gouvernement et les électeurs qui décident de son fonctionnement.

« La rhétorique qui émerge de ce moment historique particulier dénonce en réalité la disparition progressive de la démocratie libérale moderne, de la démocratie constitutionnelle », a-t-elle déclaré. Les élites qui propagent cette rhétorique ne se soucient pas des souhaits du peuple, a-t-elle ajouté. « Car en réalité, ce que le peuple souhaite, c'est l'absence d'IA et de centres de données. Voilà la véritable crise. »

Jill Lepore explore cette idée en profondeur dans son prochain livre «The Rise and Fall of the Artificial State » ou « L’essor et la chute de l’État artificiel ». Elle a été inspirée par une question simple : dans notre monde actuel où l’on est obligé de parler à une IA pour obtenir des réponses, que ce soit lorsqu’on appelle pour se renseigner sur un rendez-vous ou lorsqu’on discute avec le chatbot d’assistance d’une entreprise sur son site web, « qui a décidé que c’était ainsi que nous devions vivre ? »

L'État artificiel représente une forme de régression, où de plus en plus de fonctions étatiques sont désormais assurées par des entreprises qui possèdent et contrôlent notre infrastructure de communication numérique. La manière dont nous nous informons, notamment sur les élections et les candidats à choisir, est entièrement médiatisée par ces puissants groupes – autrefois par la télévision et la radio, et aujourd'hui par les réseaux sociaux, qui deviennent le média dominant.

La communication numérique qui structure désormais nos vies a un puissant effet isolant. Dans un article paru en 2024 dans le New Yorker,où elle explorait initialement l'idée qui allait devenir son livre, Jill Lepore décrivait l'État artificiel comme « l'industrie de la vie publique, le tri et la segmentation, l'isolement et l'aliénation, la destruction de la communauté humaine ». 

L'État artificiel n'est pas entièrement piloté par l'IA, mais son développement est indéniablement accéléré par elle. Les gens demandent à ChatGPT pour savoir pour qui voter , plutôt que de consulter leurs voisins, les élus locaux ou des experts. Les messages politiques qu'ils voient, quant à eux, sont probablement en partie rédigés par l'IA . À tous les niveaux, les décisions sont prises avec l'aide de machines pensantes . L'IA renforce également la surveillance , en traitant les masses de données collectées sur chacun d'entre nous.

Un aspect pernicieux du discours pro-IA émanant de la Silicon Valley est qu'il présente l'IA comme une fatalité. Or, Lepore soutient que ce fatalisme repose sur un postulat fallacieux, lui-même fondé sur plusieurs propositions plus douteuses encore.

L'une d'elles, que l'on entend sans cesse, est que la réglementation étouffe l'innovation ; par conséquent, l'État devrait lever les freins au développement de l'IA. Une autre est que la technologie fait toujours progresser la démocratie, ce qui nous assure que toutes les menaces bien réelles que l'IA fait peser sur la démocratie aujourd'hui se résoudront comme par magie.

Aucune de ces affirmations n'est vraie, affirme Lepore, et il suffit de regarder comment des promesses similaires ont été faites pour des technologies dans un passé récent. 

« Alors maintenant, les spécialistes de l'IA reviennent avec le même argument qu'à propos d'Internet : l'ordinateur personnel, Internet et les réseaux sociaux », a-t-elle déclaré lors de l'interview.

https://futurism.com/artificial-intelligence/harvard-professor-ai-factory-farming-humans