Attention, Alexa pourrait aider les gouvernements à violer les droits civils des citoyens. En octobre, Amazon avait déclaré qu’elle permettrait à son assistant d’IA d’analyser la voix d’un utilisateur et de tout déduire, de son état de santé à son pays d’origine probable, des capacités que les gouvernements pourraient utiliser contre les personnes, avertissent des experts sur la vie privée, dans un récent article publiée dans The Intercept.
Service labiale
Il est facile de voir comment Amazon pourrait tirer parti de la technologie décrite dans le brevet. Alexa pouvait entendre qu’un utilisateur tousse entre les mots et proposer de lui commander un médicament contre la grippe. Si l’IA pense qu’u utilisateur parle en anglais avec un accent chinois, l’IA pourrait lui suggérer d’acheter un appareil pour diffuser des émissions de télévision en chinois en temps réel.
Un peu effrayant? Oui. Mais est-ce différent ce que fait Amazon par rapport à ses semblables? Pas vraiment.
Le réel problème pourrait apparaître si un gouvernement décidait de vouloir avoir accès à ces informations qu’Amazon collecte sur les utilisateurs, précise l’avocate Jennifer Granick, spécialisée en surveillance et cybersécurité.
« Disons que vous êtes du service de l’immigration et des douanes, vous allez voir ces fournisseurs et vous leur dite : Donnez-moi toutes les informations d’abonnement des personnes ayant des accents espagnols » qui sont sans papiers « , dit-elle. « Ainsi, vous pouvez voir que ce type d’informations peut certainement être maltraité. »
Bien sûr, il est important de garder à l’esprit qu’une approbation de brevet ne garantit pas qu’Amazon – ou toute autre entreprise – créera réellement cette technologie de détection d’accents. Et il n’y a pas non plus de preuve qu’un gouvernement s’intéresse à cette technologie.
Néanmoins, il est toujours utile de prendre en compte les conséquences non souhaitées potentielles de toute nouvelle technologie, en particulier lorsque la société utilise cette technologie.
https://theintercept.com/2018/11/15/amazon-echo-voice-recognition-accents-alexa/
