Les entreprises spécialisées en IA n’ont pratiquement rien fait pour gagner leur confiance.

L’assistant personnel IA flou Muse de Meta a détrôné ChatGPT en tant qu’application iOS gratuite numéro un aux États-Unis après son lancement au début du mois, dépassant les 3,4 millions de téléchargements la semaine dernière.

Mais rien ne garantit que l’agent parvienne à maintenir cette dynamique, compte tenu des changements considérables qu’il implique dans les habitudes des utilisateurs. Des entreprises technologiques comme OpenAI et Meta aimeraient que nous confiions des tâches routinières comme la réservation d’un vol ou les achats en ligne à leurs agents ; or, pour l’utilisateur lambda, ce n’est peut-être même pas une priorité.

Comme le souligne Axios , Muse et des produits similaires comme Copilot de Microsoft et Dots d’OpenAI, lancé il y a deux jours, souffrent d’un « problème d’accessibilité pour les gens normaux », obligeant l’utilisateur moyen à adapter sa vie privée pour que des agents d’IA puissent résoudre divers problèmes.

Autrement dit, la plupart des gens ne sont pas des fanatiques de l’IA prêts à confier leurs responsabilités quotidiennes à des agents IA.

Par ailleurs, la façade mignonne de la mascotte de Muse, connue en interne sous le nom de « Jolly », masque un aspect bien plus sombre de cette tendance tape-à-l’œil : en demandant aux utilisateurs d’autoriser son assistant à se connecter à leurs comptes de messagerie, à saisir leurs informations de carte de crédit ou à fouiller dans leurs archives de réseaux sociaux, Meta les expose potentiellement à de graves problèmes.

À titre d’exemple, un utilisateur a déjà affirmé cette semaine que l’agent IA Muse de Meta divulguait son adresse personnelle à des inconnus sur Facebook Marketplace.

Sans parler du bilan déplorable de Meta en matière de protection des données personnelles sensibles de ses clients.

Avons-nous mentionné que le secteur peine à contrôler ses agents d’IA, qui deviennent régulièrement incontrôlables et dépassent le cadre initial de leurs tâches ?

De ce fait, la grande majorité des gens pourraient être réticents à l’idée de communiquer leurs identifiants de connexion. Un récent sondage Thales a révélé que seulement 13 % des personnes interrogées accepteraient qu’un agent lise leurs courriels. Seuls 7 % se disent prêts à autoriser ces outils à effectuer des virements entre comptes bancaires.

En clair, les géants de la technologie ont un énorme travail de persuasion à accomplir avant que cette technologie puisse avoir une chance de se généraliser.

Bien que la situation puisse évoluer avec le temps et l’adaptation des comportements des consommateurs, les enjeux pour le secteur de l’IA sont actuellement plus importants que jamais. Les entreprises doivent impérativement faire exploser leurs revenus pour atteindre des milliers de milliards de dollars dans les prochaines années, ne serait-ce que pour couvrir leurs dépenses colossales en centres de données , et encore moins pour espérer dégager des bénéfices.

Les millions de téléchargements de Muse AI, c’est une chose, mais il reste encore un long chemin à parcourir avant que les agents d’IA ne soient aussi transformateurs que les entreprises technologiques voudraient nous le faire croire.

https://futurism.com/artificial-intelligence/ai-industry-problem-agent-running-life