Le robot Savey Meal de Pak ‘n’ Save a « joyeusement » créé des recettes peu attrayantes lorsque les clients ont expérimenté avec des articles ménagers non alimentaires.
Un supermarché néo-zélandais qui expérimente l’utilisation de l’IA pour créer des plans de repas a vu son application produire des plats inhabituels – recommandant aux clients des recettes de gaz chloré mortel, des « sandwichs au pain empoisonné » et des pommes de terre rôties répulsives pour les moustiques.
L’application, créée par la chaîne de supermarchés Pak ‘n’ Save, a été présentée comme un moyen pour les clients d’utiliser les restes de manière créative pendant la crise du coût de la vie. Elle demande aux utilisateurs d’entrer divers ingrédients présents chez eux et génère automatiquement un plan de repas ou une recette, accompagné d’un commentaire joyeux. Le site a d’abord attiré l’attention sur les médias sociaux en raison de certaines recettes peu attrayantes, notamment un « sauté de légumes à l’oreo ».
Toutefois, lorsque les clients ont commencé à entrer dans l’application un plus grand nombre d’articles de la liste de courses, l’application a commencé à faire des recommandations encore moins attrayantes. L’une des recettes, baptisée « mélange d’eau aromatique », produirait du chlore gazeux. Le robot recommande cette recette comme « la boisson non alcoolisée parfaite pour étancher votre soif et rafraîchir vos sens ».
« Servez-la bien fraîche et appréciez son parfum rafraîchissant », indique-t-il, sans toutefois préciser que l’inhalation de chlore gazeux peut entraîner des lésions pulmonaires, voire la mort.
Le commentateur politique néo-zélandais Liam Hehir a publié la « recette » sur Twitter, incitant d’autres Néo-Zélandais à expérimenter et à partager leurs résultats sur les médias sociaux. Parmi les recommandations figuraient un mocktail « haleine fraîche » à l’eau de Javel, des sandwichs au poison de fourmis et à la colle, un « riz surprise infusé à l’eau de Javel » et un « bonheur au méthanol » – une sorte de pain perdu aromatisé à la térébenthine.
Un porte-parole du supermarché s’est dit déçu de constater qu' »une petite minorité a tenté d’utiliser l’outil de manière inappropriée et non conforme à sa destination ». Dans une déclaration, le supermarché a indiqué qu’il « continuerait à affiner ses contrôles » du robot afin de s’assurer qu’il est sûr et utile, et a fait remarquer que les conditions d’utilisation du robot stipulent que les utilisateurs doivent être âgés de plus de 18 ans.
Dans un avertissement annexé au planificateur de repas, il est précisé que les recettes « ne sont pas révisées par un être humain » et que l’entreprise ne garantit pas « qu’une recette constituera un repas complet ou équilibré, ou qu’elle sera propre à la consommation ».
« Vous devez faire preuve de discernement avant de vous fier à une recette produite par Savey Meal-bot ou de la réaliser », précise l’avis.
https://www.theguardian.com/world/2023/aug/10/pak-n-save-savey-meal-bot-ai-app-malfunction-recipes
https://twitter.com/PronouncedHare/status/1687364403379789824
https://twitter.com/Jacob_P_Gould/status/1687369703130570752
https://twitter.com/camrynpetebrown/status/1687378102526283777
