L’objectif de l’automatisation a toujours été l’efficacité. Et si l’intelligence artificielle considérait l’humanité elle-même comme la chose à optimiser ?

Lorsque Conor Sprouls, un représentant du service à la clientèle du centre d’appels du géant de l’assurance MetLife parle à un client au téléphone, il garde un œil sur le coin inférieur droit de son écran. Là, dans une petite boîte bleue, l’IAI lui dit comment il travaille.

Vous parlez trop vite ? Le programme fait clignoter l’icône d’un compteur de vitesse, indiquant qu’il doit ralentir.

Vous avez sommeil ? Le logiciel affiche une « indication d’énergie », avec l’image d’une tasse à café. Pas assez empathique ? Une icône en forme de cœur apparaît.

Pendant des décennies, les gens ont imaginé avec crainte, des armées de robots hyper efficaces envahissant les bureaux et les usines, engloutissant des travaux autrefois effectués par des humains. Mais malgré toute l’inquiétude que suscite le potentiel de l’intelligence artificielle pour remplacer les travailleurs de base, nous avons peut-être négligé la possibilité qu’elle remplace aussi les patrons.

Conor Sprouls et les autres employés du centre d’appels de son bureau de Warwick, R.I., ont encore beaucoup de superviseurs humains. Mais le logiciel sur leurs écrans – réalisé par Cogito, une société d’I.A. de Boston – est devenu une sorte de gestionnaire adjoint, toujours à leur écoute. À la fin de chaque appel, les notifications Cogito de Conor Sprouls sont comptabilisées et ajoutées à un tableau de bord statistique que son superviseur peut consulter. S’il masque la fenêtre Cogito en la minimisant, le programme en informe son superviseur.

Cogito est l’un des nombreux programmes d’I.A. utilisés dans les centres d’appels et autres lieux de travail. L’objectif, selon Joshua Feast, directeur général de Cogito, est de rendre les travailleurs plus efficaces en leur donnant un feedback en temps réel.

« Il y a une variabilité dans la performance humaine, assure Joshua Feast.

Samantha Sinon et Aaron Osei, employés du centre d’appels MetLife à Warwick, R.I., sont toujours suivis par Cogito, un programme d’intelligence artificielle.

« On peut en déduire la façon dont les gens parlent entre eux si les choses vont bien ou pas. »

L’objectif de l’automatisation a toujours été l’efficacité, mais dans ce nouveau type de lieu de travail, l’IA considère l’humanité elle-même comme la chose à optimiser. Amazon utilise des algorithmes complexes pour suivre la productivité des employés dans ses centres de traitement des commandes et peut générer automatiquement la paperasserie pour licencier les travailleurs qui n’atteignent pas leurs objectifs, comme The Verge l’a découvert cette année. (Amazon a contesté le fait qu’elle licencie les travailleurs sans intervention humaine, affirmant que les gestionnaires peuvent intervenir dans le processus.) IBM a utilisé Watson, sa plate-forme d’IA, lors des évaluations des employés pour prédire les performances futures et affirme avoir un taux de précision de 96 %.

Ensuite, il y a les start-ups. Cogito, qui travaille avec de grandes compagnies d’assurance comme MetLife et Humana ainsi qu’avec des sociétés financières et de vente au détail, affirme qu’il compte 20 000 utilisateurs. Percolata, une entreprise de la Silicon Valley qui compte Uniqlo et 7-Eleven parmi ses clients, utilise des capteurs en magasin pour calculer un score de « productivité réelle » pour chaque employé, et classe ces employés du productif au moins productif.

La gestion par algorithme n’est pas un concept nouveau. Au début du XXe siècle, Frederick Winslow Taylor a révolutionné le monde manufacturier avec sa théorie de la  » gestion scientifique « , qui tentait d’éliminer l’inefficacité des usines en chronométrant et en mesurant chaque aspect d’un travail. Plus récemment, Uber, Lyft et d’autres plates-formes à la demande ont gagné des milliards de dollars en externalisant des tâches classiques des ressources humaines – planification, paie, évaluation des performances – à des ordinateurs.

Mais l’utilisation de l’I.A. pour gérer les travailleurs dans des emplois conventionnels, de 9 à 17 heures, a été plus controversée. Les critiques ont accusé les entreprises d’utiliser des algorithmes pour les tâches de gestion, disant que les systèmes automatisés peuvent déshumaniser et punir injustement les employés. Et s’il est clair que les cadres veulent que l’I.A. puisse suivre leurs employés, il est moins clair de savoir pourquoi les travailleurs le voudraient aussi.

« Il est surréaliste de penser que n’importe quelle entreprise peut licencier ses propres employés sans aucune implication humaine « , a déclaré Marc Perrone, président de l’Union internationale des travailleurs et travailleuses unis de l’alimentation et du commerce, qui représente les travailleurs de l’alimentation et du commerce de détail, dans une déclaration sur Amazon en avril.

Dans l’économie du spectacle, la gestion par algorithme a également été une source de tension entre les employés et les plateformes qui les relient aux clients.

Cette année, les conducteurs de Postmates, DoorDash et d’autres sociétés de distribution à la demande ont protesté contre une méthode de calcul de leur rémunération, utilisant un algorithme, qui consiste à orienter les clients vers un salaire minimum garanti – une pratique presque invisible pour les conducteurs, en raison de la la plateforme masque les détails de la paie du travailleur.

Il n’y a pas eu de protestations au centre d’appels de MetLife. Au lieu de cela, les employés semblent considérer leur logiciel Cogito comme un léger ennui au pire. Plusieurs ont dit qu’ils aimaient recevoir des notifications sous forme de pop-up pendant leurs appels, bien que certains ont dit qu’ils avaient eu du mal à trouver comment obtenir la notification « d’empathie » pour cesser d’apparaître. (Cogito dit que l’I.A. analyse les différences subtiles de ton entre l’employé et l’appelant et encourage l’employé à essayer de refléter l’humeur du client).

MetLife, qui utilise le logiciel avec 1 500 employés de son centre d’appels, affirme que l’utilisation de l’application a augmenté la satisfaction de ses clients de 13 %.

« En fait, cela change le comportement des gens sans qu’ils s’en rendent compte « , a déclaré Christopher Smith, responsable des opérations mondiales de MetLife. « Ça devient une interaction plus humaine. »

Pourtant, il y a une ambiance de science-fiction flippante dans une situation où l’I.A. surveille les employés humains et leur dit comment établir des relations avec d’autres humains.

Et cela rappelle la tendance du  » jeu en milieu de travail  » qui s’est répandue dans les entreprises américaines il y a dix ans, lorsque les entreprises utilisaient des astuces psychologiques empruntées aux jeux vidéo, comme les badges et les tableaux d’affichage, pour essayer d’inciter les travailleurs à améliorer leurs performances.

Phil Libin, le directeur général de All Turtles, un studio start-up en IA à San Francisco, a été très surpris par le fonctionnement du centre d’appels. « C’est un paysage dystopique. Pourquoi voudrait-on construire ce monde où vous êtes jugé par un ordinateur opaque et noir ? »

Les défenseurs de l’IA sur le lieu de travail pourraient soutenir que ces systèmes ne sont pas censés être dominants. Elle vise plutôt à améliorer la situation des employés en leur rappelant de remercier le client, de faire preuve d’empathie à l’égard du prestataire frustré de la ligne 1 ou d’éviter de se laisser aller au travail.

Le meilleur argument en faveur de l’I.A. en milieu de travail peut être des situations dans lesquelles les préjugés humains faussent la prise de décision, comme l’embauche.

Pymetrics, une jeune entreprise new-yorkaise, a fait une percée dans le monde de l’embauche en remplaçant le processus traditionnel de sélection des CV par un programme d’I.A. qui utilise une série de jeux pour évaluer les compétences pertinentes. Les algorithmes sont ensuite analysés pour s’assurer qu’ils ne créent pas des résultats d’embauche biaisés ou ne favorisent pas un groupe plutôt qu’un autre.

« Nous pouvons modifier les données et les algorithmes jusqu’à ce que nous puissions éliminer le biais. Nous ne pouvons pas faire cela avec un être humain « , a déclaré Frida Polli, directrice générale de Pymetrics.

Utiliser l’I.A. pour corriger les préjugés humains est une bonne chose. Mais à mesure que l’I.A. se répandra sur le marché du travail, les cadres devront résister à la tentation de l’utiliser pour resserrer leur emprise sur leurs travailleurs et les soumettre à une surveillance et une analyse constantes. Si ça arrive, ce ne seront pas les robots qui organiseront une révolte.

https://www.nytimes.com/2019/06/23/technology/artificial-intelligence-ai-workplace.html