Les lois de la robotique d'Asimov doivent être mises à jour pour l'IA
infohightech ·
En 1942, le légendaire auteur de science-fiction Isaac Asimov a présenté ses trois lois de la robotique dans sa nouvelle « Runaround ». Ces lois ont ensuite été popularisées dans son recueil de nouvelles phare I, Robot .
- Première loi : Un robot ne peut pas blesser un être humain ni, par son inaction, permettre qu’un être humain soit blessé.
- Deuxième loi : Un robot doit obéir aux ordres qui lui sont donnés par des êtres humains, sauf lorsque ces ordres entrent en conflit avec la première loi.
- Troisième loi : Un robot doit protéger sa propre existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Bien qu’elles soient tirées d’œuvres de fiction, ces lois ont influencé les discussions sur l’éthique des robots pendant des décennies. Et à mesure que les systèmes d’IA – qui peuvent être considérés comme des robots virtuels – sont devenus plus sophistiqués et omniprésents, certains technologues ont trouvé le cadre d’Asimov utile pour envisager les protections potentielles nécessaires à l’IA qui interagit avec les humains.
Mais les trois lois existantes ne suffisent pas. Nous entrons aujourd’hui dans une ère de collaboration homme-IA sans précédent qu’Asimov n’aurait guère pu imaginer. L’évolution rapide des capacités de l’IA générative , notamment dans la génération de langage et d’images, a créé des défis qui vont au-delà des préoccupations initiales d’Asimov concernant les dommages physiques et l’obéissance.
Deepfakes, désinformation et escroqueries
La prolifération des tromperies basées sur l’IA est particulièrement préoccupante. Selon le rapport 2024 du FBI sur la cybercriminalité , la cybercriminalité impliquant la manipulation numérique et l’ingénierie sociale a entraîné des pertes dépassant 10,3 milliards de dollars. Le rapport 2023 Threat Landscape de l’Agence de l’Union européenne pour la cybersécurité a spécifiquement mis en évidence les deepfakes (des médias synthétiques qui semblent authentiques) comme une menace émergente pour l’identité et la confiance numériques.
La désinformation sur les réseaux sociaux se répand comme une traînée de poudre et la prolifération des outils d’IA générative a rendu sa détection de plus en plus difficile. Pire encore, les articles générés par l’IA sont tout aussi convaincants, voire plus, que la propagande traditionnelle, et utiliser l’IA pour créer un contenu convaincant ne demande que très peu d’efforts .
Les deepfakes sont en plein essor dans la société. Les botnets peuvent utiliser du texte, de la parole et des vidéos générés par l'IA pour créer de fausses perceptions d'un soutien généralisé à n'importe quelle question politique. Les bots sont désormais capables de passer et de recevoir des appels téléphoniques tout en se faisant passer pour des personnes . Les appels frauduleux par IA imitant des voix familières sont de plus en plus courants , et d'un jour à l'autre, nous pouvons nous attendre à une explosion des appels vidéo frauduleux basés sur des avatars superposés créés par l'IA, permettant aux escrocs d'usurper l'identité de leurs proches et de cibler les populations les plus vulnérables. Pour l'anecdote, mon propre père a été surpris lorsqu'il a vu une vidéo de moi parlant couramment l'espagnol , car il savait que je suis un fier débutant dans cette langue (400 jours d'expérience sur Duolingo !). Il suffit de dire que la vidéo a été éditée par l'IA.
Plus alarmant encore, les enfants et les adolescents développent des liens affectifs avec les agents d’intelligence artificielle et sont parfois incapables de faire la distinction entre les interactions avec de vrais amis et celles avec des robots en ligne. Des suicides ont déjà été attribués à des interactions avec des chatbots d’intelligence artificielle.
Dans son livre Human Compatible , publié en 2019, l’éminent informaticien Stuart Russell soutient que la capacité des systèmes d’IA à tromper les humains représente un défi fondamental pour la confiance sociale. Cette préoccupation se reflète dans les initiatives politiques récentes, notamment la loi sur l’IA de l’Union européenne , qui comprend des dispositions exigeant la transparence des interactions avec l’IA et la divulgation transparente du contenu généré par l’IA. À l’époque d’Asimov, les gens n’auraient pas pu imaginer comment des agents artificiels pourraient utiliser des outils de communication en ligne et des avatars pour tromper les humains.
Il nous faut donc apporter un complément aux lois d’Asimov.
- Quatrième loi : Un robot ou une IA ne doit pas tromper un humain en se faisant passer pour un être humain.
La voie vers une IA de confiance
Nous avons besoin de limites claires. Si la collaboration entre humains et IA peut être constructive, la tromperie de l’IA sape la confiance et entraîne une perte de temps, une détresse émotionnelle et une mauvaise utilisation des ressources. Les agents artificiels doivent s’identifier pour garantir que nos interactions avec eux soient transparentes et productives. Le contenu généré par l’IA doit être clairement indiqué, à moins qu’il n’ait été considérablement modifié et adapté par un humain.
La mise en œuvre de cette quatrième loi nécessiterait :
- Divulgation obligatoire de l'IA dans les interactions directes,
- Étiquetage clair du contenu généré par l'IA,
- Normes techniques pour l'identification de l'IA,
- Cadres juridiques d'application,
- Initiatives éducatives pour améliorer la maîtrise de l’IA.
Bien sûr, tout cela est plus facile à dire qu'à faire. D'énormes efforts de recherche sont déjà en cours pour trouver des moyens fiables de filigraner ou de détecter les textes , les fichiers audio , les images et les vidéos générés par l'IA . Créer la transparence que je réclame est loin d'être un problème résolu.
Mais l’avenir de la collaboration homme-IA dépend du maintien de distinctions claires entre agents humains et artificiels. Comme l’indique le cadre « Ethically Aligned Design » de l’IEEE de 2022, la transparence dans les systèmes d’IA est fondamentale pour renforcer la confiance du public et assurer le développement responsable de l’intelligence artificielle .
Les histoires complexes d'Asimov ont montré que même les robots qui essayaient de suivre les règles découvraient souvent les conséquences imprévues de leurs actions. Pourtant, avoir des systèmes d'IA qui essaient de suivre les directives éthiques d'Asimov serait un très bon début.