Les applications ludiques et les chatbots peuvent distraire les utilisateurs de la protection de leurs données personnelles
infohightech ·
Selon une équipe dirigée par des chercheurs de l’Université américaine Penn State, plus une application mobile ou un chatbot d'intelligence artificielle (IA) est interactif, plus il est perçu comme ludique, les utilisateurs baissant leur garde et risquant leur vie privée.
Les chercheurs ont étudié l'effet de l'interactivité des applications mobiles sur la vigilance des utilisateurs face aux risques liés à la confidentialité lors de l'inscription, ainsi que l'influence de cet effet sur leur attitude envers l'application et leur volonté de continuer à l'utiliser. L'équipe a constaté que l'interactivité incite les utilisateurs à interagir avec l'application en renforçant leur côté ludique et en atténuant leurs inquiétudes en matière de confidentialité.
Les résultats, publiés dans la revue Behaviour & Information Technology , ont des implications pour la confidentialité des utilisateurs à une époque de plus en plus dominée par les applications mobiles et les chatbots IA conçus pour être amusants et engageants, selon l'auteur principal S. Shyam Sundar, professeur à l'université Evan Pugh et professeur James P. Jimirro d'effets médiatiques à Penn State.
« Je pense que, de manière générale, les applications et les outils d'IA s'intéressent de plus en plus aux données des utilisateurs , soi-disant pour mieux les servir et personnaliser les informations », a déclaré Sundar. « Dans cette étude, nous avons constaté que l'interactivité n'incite pas les utilisateurs à réfléchir, comme on pourrait s'y attendre, mais plutôt à se sentir plus immergés dans l'aspect ludique de l'application et à se soucier moins de leur vie privée. Les entreprises pourraient exploiter cette vulnérabilité pour extraire des informations privées à l'insu des utilisateurs. »
Lors d'une expérience en ligne, les chercheurs ont demandé à 216 participants de s'inscrire à une application de fitness simulée. Les participants ont été répartis aléatoirement entre différentes versions de l'application, présentant différents niveaux d'interactivité pour deux types d'interaction : « interactivité par message », allant de simples questions-réponses à des conversations hautement interconnectées, où les messages de l'application s'appuient sur les réponses précédentes de l'utilisateur ; et « interactivité par modalité », faisant référence à des options telles que cliquer et zoomer sur les images.
Les participants ont ensuite répondu à des questions sur leur expérience d'inscription à l'application en évaluant le côté ludique perçu et les préoccupations en matière de confidentialité sur une échelle de sept points afin d'indiquer dans quelle mesure ils étaient d'accord ou non avec des affirmations spécifiques, telles que « J'ai trouvé l'application amusante » et « Je craindrais que les informations que j'ai soumises à l'application soient utilisées à mauvais escient ». Les chercheurs ont examiné les réponses afin d'identifier l'effet du type et de l'ampleur de l'interactivité sur la perception de l'application par les utilisateurs.
Ils ont constaté que l'interactivité améliorait le côté ludique perçu et l'intention des utilisateurs d'interagir avec une application, ce qui s'accompagnait d'une diminution des préoccupations en matière de confidentialité. Étonnamment, a expliqué Sundar, l'interactivité des messages, que les chercheurs pensaient devoir accroître la vigilance des utilisateurs, les a au contraire distraits des informations personnelles qu'ils pouvaient partager avec le système. Autrement dit, le fonctionnement actuel des chatbots IA – qui élaborent des réponses à partir des saisies antérieures de l'utilisateur – rend les individus moins enclins à réfléchir aux informations sensibles qu'ils peuvent partager, selon les chercheurs.
« Aujourd'hui, lorsque les utilisateurs interagissent avec des agents d'IA, les échanges sont nombreux, et l'expérience étant si captivante, ils oublient qu'ils doivent être vigilants quant aux informations qu'ils partagent avec ces systèmes », explique Jiaqi Agnes Bao, auteure principale et professeure adjointe de communication stratégique à l'Université du Dakota du Sud, qui a mené cette recherche dans le cadre de son doctorat à Penn State. « Nous souhaitions comprendre comment mieux concevoir une interface pour garantir que les utilisateurs soient conscients de la divulgation d'informations. »
Bien que la vigilance des utilisateurs joue un rôle important dans la prévention de la divulgation involontaire d'informations personnelles, les développeurs d'applications et d'IA peuvent équilibrer le côté ludique et les préoccupations en matière de confidentialité grâce à des choix de conception qui aboutissent à des situations gagnant-gagnant pour les particuliers et les entreprises, a déclaré Bao.
« Nous avons constaté que si l'interactivité des messages et celle des modalités sont conçues pour fonctionner en synergie, cela peut inciter les utilisateurs à réfléchir », a-t-elle déclaré. « Ainsi, lorsqu'un utilisateur converse avec un chatbot IA, un bouton contextuel lui demandant d'évaluer son expérience ou de laisser des commentaires pour améliorer ses réponses personnalisées peut l'inciter à réfléchir au type d'informations qu'il partage avec le système et aider l'entreprise à offrir une expérience plus personnalisée. »
La responsabilité des plateformes d'IA va au-delà du simple fait de donner aux utilisateurs la possibilité de partager ou non des informations personnelles via une conversation, a déclaré le co-auteur de l'étude, Yongnam Jung, doctorant à Penn State.
« Il ne s’agit pas seulement d’informer les utilisateurs, mais de les aider à faire des choix éclairés, ce qui est la manière responsable de renforcer la confiance entre les plateformes et les utilisateurs », a-t-elle ajouté.
L'étude s'appuie sur des recherches antérieures de l'équipe , qui ont révélé des tendances similaires, selon les chercheurs. Ensemble, ont-ils déclaré, les deux études soulignent un compromis crucial : si l'interactivité améliore l'expérience utilisateur, elle met en avant les avantages de l'application et détourne l'attention des risques potentiels pour la vie privée.
L'IA générative, dans la plupart des domaines d'application, repose sur l'interactivité des messages, de nature conversationnelle, a déclaré Sundar, également directeur du Centre pour l'intelligence artificielle socialement responsable (CSRAI) de l'Université d'État de Pennsylvanie. Il a ajouté que les résultats de cette étude remettent en question l'idée reçue chez les concepteurs selon laquelle, contrairement aux outils de clic et de balayage, les outils conversationnels rendent les utilisateurs plus attentifs aux aspects négatifs, comme les préoccupations en matière de confidentialité .
« En réalité, les outils conversationnels se révèlent être un exercice ludique, et nous le constatons dans le discours plus large sur l'IA générative, où l'on entend de nombreuses histoires de personnes tellement absorbées par les conversations qu'elles font des choses qui semblent illogiques », a-t-il déclaré. « Elles suivent les conseils des outils d'IA générative pour prendre des décisions à très fort enjeu. D'une certaine manière, notre étude constitue un avertissement pour cette nouvelle suite d'outils d'IA générative. »
« Peut-être que l'insertion d'une fenêtre contextuelle ou d'autres outils d'interactivité au milieu d'une conversation pourrait endiguer le flux de cette interaction fascinante et ludique et attirer l'attention des utilisateurs de temps à autre. »