Comment les « certificats de personnalité » pourraient aider à prouver que vous êtes un être humain en ligne
infohightech ·
À mesure que les modèles d’IA parviennent à imiter de mieux en mieux le comportement humain, il devient de plus en plus difficile de faire la distinction entre les vrais utilisateurs humains d’Internet et les systèmes sophistiqués qui les imitent.
C’est un véritable problème lorsque ces systèmes sont déployés à des fins malveillantes, comme la diffusion de fausses informations ou la fraude, et il devient alors beaucoup plus difficile de faire confiance à ce que vous voyez en ligne.
Un groupe de 32 chercheurs d'institutions telles que OpenAI, Microsoft, MIT et Harvard ont développé une solution potentielle : un concept de vérification appelé « personalhood credentials » (PHC) qui prouve que son détenteur est une personne réelle, sans révéler aucune information supplémentaire sur son identité. L'équipe a exploré l'idée dans un article non évalué par des pairs publié sur le serveur de pré-impression Arxiv au début du mois.
Les informations d’identification de la personnalité fonctionnent en faisant deux choses que les systèmes d’IA ne peuvent toujours pas faire : contourner les systèmes cryptographiques de pointe et se faire passer pour une personne dans le monde réel et hors ligne.
Pour demander des informations d'identification, un humain doit se rendre physiquement auprès d'un émetteur, qui peut être un gouvernement ou un autre type d'organisation de confiance, où il lui sera demandé de fournir la preuve qu'il est un véritable humain, comme un passeport ou des données biométriques volontaires. Une fois l'approbation obtenue, il recevra un identifiant unique à stocker sur ses appareils, comme les utilisateurs peuvent actuellement stocker des cartes de crédit et de débit dans les applications Wallet des smartphones.
Pour utiliser ces informations d'identification en ligne, un utilisateur pourrait les présenter à un fournisseur de services numériques tiers qui pourrait ensuite les vérifier à l'aide de preuves à connaissance nulle, un protocole cryptographique qui confirmerait que le titulaire était en possession d'un titre de personnalité sans divulguer d'autres informations inutiles.
La possibilité de filtrer tous les humains non vérifiés sur une plateforme pourrait permettre aux gens de choisir de ne pas voir tout ce qui n'a pas été définitivement publié par un humain sur les réseaux sociaux, ou de filtrer les correspondances Tinder qui ne sont pas accompagnées d'informations d'identification de personnalité, par exemple.
Les auteurs souhaitent encourager les gouvernements, les entreprises et les organismes de normalisation à envisager de l’adopter à l’avenir pour éviter que la tromperie de l’IA n’échappe à notre contrôle.
« L’IA est partout. Il y aura de nombreux problèmes, de nombreux enjeux et de nombreuses solutions », explique Tobin South, doctorant au MIT qui a travaillé sur le projet. « Notre objectif n’est pas de prescrire cette approche au monde, mais d’ouvrir le débat sur les raisons pour lesquelles nous en avons besoin et sur la manière dont elle pourrait être mise en œuvre. »
Des options techniques existent déjà. Par exemple, un réseau appelé Idena prétend être le premier système de preuve d'identité basé sur la blockchain. Il fonctionne en demandant aux humains de résoudre des énigmes qui seraient difficiles pour des robots dans un court laps de temps. Le programme controversé Worldcoin , qui collecte les données biométriques des utilisateurs, se présente comme le plus grand réseau financier et d'identité humaine au monde préservant la confidentialité. Il a récemment conclu un partenariat avec le gouvernement malaisien pour fournir une preuve d'humanité en ligne en scannant l'iris des utilisateurs, ce qui crée un code. Comme pour le concept de preuve d'identité personnelle, chaque code est protégé par cryptographie.
Le projet a toutefois été critiqué pour ses pratiques commerciales trompeuses, la collecte de données personnelles plus nombreuses que prévu et l’absence de consentement explicite des utilisateurs. Les régulateurs de Hong Kong et d’Espagne ont interdit à Worldcoin d’opérer plus tôt cette année, tandis que ses opérations ont été suspendues dans des pays comme le Brésil, le Kenya et l’Inde.
Il reste donc nécessaire de trouver de nouvelles solutions. L’essor rapide des outils d’IA accessibles a inauguré une période dangereuse où les internautes sont extrêmement méfiants quant à ce qui est vrai ou non en ligne, explique Henry Ajder, expert en IA et en deepfakes et conseiller auprès de Meta et du gouvernement britannique. Et même si les idées de vérification de l’identité existent depuis un certain temps, ces informations semblent être l’une des visions les plus concrètes pour lutter contre le scepticisme croissant, dit-il.
Mais le plus grand défi que ces certificats devront relever sera de susciter l’adhésion des plateformes, des services numériques et des gouvernements, qui pourraient se sentir mal à l’aise à l’idée de se conformer à une norme qu’ils ne contrôlent pas. « Pour que cela fonctionne efficacement, il faudrait que ce soit quelque chose qui soit adopté universellement », dit-il. « En principe, la technologie est assez convaincante, mais dans la pratique et dans le monde confus des humains et des institutions, je pense qu’il y aura beaucoup de résistance. »
Martin Tschammer, responsable de la sécurité chez Synthesia, une start-up qui crée des deepfakes hyperréalistes générés par l'IA , se dit d'accord avec le principe qui sous-tend les titres de personnalité : la nécessité de vérifier les personnes en ligne. Cependant, il ne sait pas si c'est la bonne solution ni dans quelle mesure elle serait pratique à mettre en œuvre. Il a également exprimé son scepticisme quant à la personne qui dirigerait un tel système.
https://www.synthesia.io/post/expressive-avatars-powered-by-synthesias-new-express1-model-are-here
« Nous risquons de nous retrouver dans un monde où nous centraliserons encore plus de pouvoir et concentrerons la prise de décision sur nos vies numériques, ce qui donnera aux grandes plateformes Internet encore plus de contrôle sur qui peut exister en ligne et à quelles fins », déclare-t-il. « Et, compte tenu des résultats médiocres de certains gouvernements dans l’adoption des services numériques et des tendances autocratiques qui se multiplient, est-il réaliste d’espérer que ce type de technologie soit adopté en masse et de manière responsable d’ici la fin de la décennie ? »
Plutôt que d’attendre une collaboration entre les différents secteurs, Synthesia évalue actuellement comment intégrer d’autres mécanismes de preuve de personnalité dans ses produits. Il affirme que plusieurs mesures sont déjà en place : par exemple, elle exige des entreprises qu’elles prouvent qu’elles sont des sociétés enregistrées légitimes et interdira et refusera de rembourser les clients qui enfreignent ses règles.
Une chose est claire : nous avons un besoin urgent de méthodes pour différencier les humains des robots, et encourager les discussions entre les acteurs technologiques et politiques est un pas dans la bonne direction, déclare Emilio Ferrara, professeur d’informatique à l’Université de Californie du Sud, qui n’a pas non plus participé au projet.
« Nous ne sommes pas loin d’un avenir où, si rien n’est fait pour nous contrôler, nous serons incapables de faire la différence entre nos interactions en ligne avec d’autres humains et des robots. Il faut faire quelque chose », dit-il. « Nous ne pouvons pas être naïfs comme les générations précédentes avec les technologies. »