Une nouvelle enquête massive mise au point par des chercheurs du MIT révèle certaines préférences mondiales distinctes concernant l’éthique des véhicules autonomes, ainsi que certaines variations régionales de ces préférences.

L’enquête a une portée mondiale et une échelle unique, avec plus de 2 millions de participants en ligne provenant de plus de 200 pays confrontés à des versions d’une énigme éthique classique, le «problème du chariot». Le problème concerne des scénarios dans lesquels un accident impliquant un véhicule est imminent, et le véhicule doit choisir l’une des deux options potentiellement mortelles. Dans le cas des voitures sans conducteur, cela pourrait signifier une déviation vers deux personnes, plutôt que vers un groupe important de passants.

«L’étude cherche essentiellement à comprendre les types de décisions morales auxquelles les voitures sans conducteur pourraient avoir recours», déclare Edmond Awad, post-doctorant au MIT Media Lab et auteur principal d’un nouveau document décrivant les résultats du projet. « Nous ne savons pas encore comment elles devraient le faire. »

Edmond Awad ajoute: «Nous avons constaté qu’il y a trois éléments que les gens semblent approuver le plus. »

En fait, les préférences globales les plus catégoriques de l’enquête concernent l’économie de la vie humaine par rapport à celle d’autres animaux; épargnant la vie de beaucoup de gens plutôt que de quelques-uns; et préserver la vie des jeunes plutôt que des personnes âgées.

« Les préférences principales étaient dans une certaine mesure universellement acceptées », note Edmond Awad. « Mais le degré auquel ils sont ou non d’accord avec cela varie selon les groupes ou les pays. » Par exemple, les chercheurs ont constaté une tendance moins prononcée à favoriser les jeunes, plutôt que les personnes âgées, dans ce qu’ils définissaient comme un cluster « oriental » de pays, y compris de nombreux pays asiatiques.

Le document, «L’expérience de la machine morale», est publié aujourd’hui dans Nature.

Pour mener l’enquête, les chercheurs ont conçu ce qu’ils appellent une «Moral Machine», un jeu en ligne multilingue dans lequel les participants pouvaient exprimer leurs préférences concernant une série de dilemmes auxquels les véhicules autonomes pourraient être confrontés. Par exemple: Si le problème se pose, les véhicules autonomes devraient-ils épargner la vie des passants respectueux des lois ou, alternativement, des piétons qui enfreignent la loi et qui pourraient être maltraités? (La plupart des personnes interrogées ont opté pour le premier.)

Au total, «Moral Machine» a rassemblé près de 40 millions de décisions individuelles de répondants de 233 pays; l’enquête a recueilli 100 réponses ou plus provenant de 130 pays. Les chercheurs ont analysé les données dans leur ensemble, tout en divisant les participants en sous-groupes définis par leur âge, leur éducation, leur sexe, leur revenu et leurs opinions politiques et religieuses. 491 921 répondants ont proposé des données démographiques.

Les érudits n’ont pas trouvé de différences marquées dans les préférences morales fondées sur ces caractéristiques démographiques, mais ils ont trouvé des «groupes» de préférences morales plus vastes fondés sur des affiliations culturelles et géographiques. Ils ont défini les groupes de pays «occidentaux», «orientaux» et «méridionaux» et ont relevé des variations plus prononcées le long de ces lignes. Par exemple: Les répondants des pays du sud avaient une tendance relativement plus forte à favoriser le fait d’épargner les jeunes plutôt que les personnes âgées, en particulier par rapport au groupe « oriental ».

Edmond Awad suggère que la reconnaissance de ces types de préférences devrait être un élément fondamental de la discussion publique sur ces questions. Dans toutes les régions, privilégiant modérément les passants respectueux de la loi plutôt que les piétons irrespectueux des règles, la connaissance de ces préférences pourrait en théorie éclairer la manière dont les logiciels sont écrits pour contrôler les véhicules autonomes.

«La question est de savoir si ces différences de préférences auront une incidence sur l’adoption de la nouvelle technologie lorsque les véhicules utilisent une règle spécifique», a-t-il déclaré.

Iyad Rahwan, pour sa part, note que « l’intérêt du public pour la plate-forme a dépassé nos attentes les plus folles », permettant aux chercheurs de mener une enquête qui a sensibilisé les gens à l’automatisation et à l’éthique tout en fournissant des informations spécifiques sur l’opinion publique.

«D’une part, nous voulions offrir au public un moyen simple d’engager une discussion sociétale importante», a déclaré Iyad Rahwan. «D’autre part, nous voulions collecter des données pour identifier les facteurs jugés importants par les voitures autonomes afin de résoudre les compromis éthiques.»

Au-delà des résultats de l’enquête, la recherche de la participation du public sur une question d’innovation et de sécurité publique devrait continuer à faire partie du dialogue autour des véhicules autonomes.

«Ce que nous avons essayé de faire dans le cadre de ce projet, et ce que j’espère devenir plus courant, est de susciter l’engagement du public dans ce type de décisions», assure Edmond Awad.

http://news.mit.edu/2018/how-autonomous-vehicles-programmed-1024