Des « têtes pensantes » du gouvernement du Nevada laissent une IA bancale décider si les gens doivent bénéficier d'allocations de chômage.

Bien qu'il n'y ait guère de preuves que ce soit une bonne idée, le Nevada va de l'avant avec son projet d'utiliser l'intelligence artificielle pour décider qui bénéficie des allocations de chômage.

Dans une interview accordée à Gizmodo, le directeur du département de l'emploi, de la formation et de la réadaptation du Nevada - dont l'acronyme est DETR - a insisté sur le fait que son algorithme de prise de décision aura au moins un « arbitre » humain pour s'assurer qu'il ne se trompe pas.

« Il n'y a pas d'IA [décisions écrites] sans interaction humaine et sans examen humain », a déclaré le directeur de la DETR, Christopher Sewell. « Nous pouvons rendre les décisions plus rapidement afin d'aider le demandeur ».

Approuvée le mois dernier par le Conseil des examinateurs de l'État, l'IA alimentée par Google parcourt les transcriptions et les documents probants des audiences pour émettre des recommandations sur la question de savoir si un demandeur devrait recevoir des allocations de chômage - ou non.

Si l'arbitre n'est pas d'accord avec la décision de l'IA, les documents seront alors révisés par le fonctionnaire et examinés par le DETR, ce qui signifie que le processus pourrait prendre plus de temps au lieu d'en prendre moins si l'algorithme se trompe de manière répétée.

« Le gain de temps recherché ne se produit que si l'examen est très superficiel », explique Morgan Shah, directeur de l'engagement communautaire pour Nevada Legal Services. « Si quelqu'un examine quelque chose de manière approfondie et correcte, il ne gagne pas beaucoup de temps. »

En fin de compte, a ajouté Morgan Shah, les employés qui utilisent le système pour traiter rapidement les demandes risquent d'être « encouragés à prendre un raccourci ».

Inquiétude du public

Les inquiétudes concernant le système, qui a été annoncé au début de l'année après que l'agence a lancé un chatbot sur le chômage l'été dernier, se sont reflétées dans les commentaires d'un ancien fonctionnaire du travail du Nevada.

« Si un robot vient de vous remettre une recommandation et que vous n'avez qu'à cocher une case, alors qu'il y a une pression pour résorber un arriéré, c'est un peu inquiétant », a précisé Michele Evermore, qui a travaillé au département du travail de l'État en tant que directrice adjointe de la politique de modernisation de l'assurance-chômage.

Lorsque que Google a été contacté pour s'enquérir d'éventuels problèmes liés à l'IA, dont le nom n'a pas encore été dévoilé et dont la mise en service aurait coûté environ un million de dollars aux contribuables, un porte-parole du géant de la technologie a déclaré que l'entreprise « travaille avec ses clients pour identifier et traiter tout biais potentiel et les aider à se conformer aux exigences fédérales et étatiques ».

Comme pour la plupart des tentatives d'utilisation de cette technologie encore balbutiante dans le secteur public, nous ne saurons probablement pas à quel point l'IA du chômage du Nevada fonctionne bien, à moins qu'il ne soit démontré qu'elle fait du mauvais travail - ce qui ressemble à une expérience menée sur certains des membres les plus vulnérables de la société sans leur consentement.

https://futurism.com/the-byte/nevada-unemployment-claims-ai

https://gizmodo.com/googles-ai-will-help-decide-whether-unemployed-workers-get-benefits-2000496215