Skip to main content

17 Mai, 2024

Contrôle parental 2.0 : L’IA guide les enfants sur Internet d’une toute nouvelle manière

Contrôle parental 2.0 : L’IA guide les enfants sur Internet d’une toute nouvelle manière

Le visage sympathique d’un nouvel internet pour enfants piloté par l’IA

L’IA permet d’améliorer beaucoup de choses – le contrôle parental de l’Internet en est un bon exemple. L’application Angel AI permet aux enfants de découvrir le web en fonction de leur âge et de leurs centres d’intérêt, sans publicité, sans contenu inapproprié et sans risque pour la vie privée.

Comme l’ont montré les lancements de Google et d’OpenAI cette semaine, les assistants d’IA seront bientôt le principal moyen d’accès à Internet pour de nombreuses personnes. En tant que tels, ils joueront le rôle de gardiens du savoir, parcourant le web pour apporter des réponses personnalisées à des questions, au lieu de nous obliger à aller chercher nous-mêmes les informations dont nous avons besoin.

Quoi que vous pensiez de ce concept, il y a un domaine dans lequel les gens sont toujours à la recherche de gardiens du savoir plus efficaces et plus performants : il s’agit des parents qui tentent de guider leurs enfants impressionnables dans leurs premiers pas hésitants dans le Far West du web.

Ce n’est pas seulement le sexe, la violence, la drogue, la guerre, la politique et les mèmes merdiques que vous essayez d’éviter, c’est aussi la publicité à la Times Square (pour ceux qui connaissent New-York), la collecte et la vente de données, le potentiel de contact avec des individus douteux, les sites de médias sociaux qui ont un effet dévastateur sur la confiance en soi.

Angel repositionne Internet comme un outil de questions-réponses pour encourager et récompenser la curiosité.

« Les parents ne veulent pas contrôler, et les enfants ne veulent pas être contrôlés, il y a donc toujours une friction », explique Josh Thurman, fondateur et PDG d’Angel AI. « Mais si vous pouvez offrir quelque chose de fondamentalement meilleur, nous pensons que c’est l’occasion de changer la dynamique ».

Angel est une application iOS, principalement pour les iPads, qui agit comme un assistant IA pour les enfants âgés de 5 à 12 ans. La configuration est simple : il suffit d’entrer le nom de l’enfant, sa date de naissance et quelques loisirs et centres d’intérêt. L’application crée ensuite une page d’accueil de départ, qui donne aux enfants quelques exemples de questions qu’ils pourraient poser, ainsi qu’un gros bouton « Ask » (Demander) en bas de la page.

Vous pouvez utiliser le clavier, mais l’interface principale est vocale. Les enfants posent des questions, à la manière des enfants, et Angel va chercher les réponses, les présentant sous la forme de quelques diapositives accompagnées d’images, et proposant quelques vidéos YouTube pour enfants à la fin si l’enfant souhaite en savoir plus. Les réponses sont adaptées au niveau d’âge de l’enfant et exprimées d’une voix aimable et positive.

Vidéo de la conférence d’AngelAI – pas de son

« Nous disposons d’un système de sécurité à trois niveaux », explique Josh Thurman. « Nous évaluons la question initiale pour déterminer si elle est adaptée à l’âge de l’enfant. Nous la comparons à une liste de sujets susceptibles d’être inappropriés pour l’âge – et la réponse que nous obtenons d’un LLM (large language model), nous l’évaluons également à l’aide d’une IA. Ensuite, tout cela se résume en une requête. Ainsi, la requête qui est envoyée à différentes API sur Internet pour obtenir des images et des vidéos a déjà été examinée avant d’être envoyée. « 

En tant que parent, vous pouvez voir les questions posées par votre enfant par l’intermédiaire d’une interface web – vous serez alerté si votre gosse pose des questions qu’Angel considère comme des « moments parentaux », et vous direz à l’enfant de discuter de ce sujet avec vous. Vous pouvez également augmenter ou diminuer le niveau de verbosité pour un enfant donné, en ajustant la complexité des réponses.

Josh Thurman montre comment Angel répond à une question controversée sur l’image corporelle : « Comment savoir si je suis belle ? » L’IA lui répond : « Tu es belle comme tu es, Winnie ». « Ta gentillesse et ta curiosité te font briller encore plus. N’oublie pas que la vraie beauté vient de l’intérieur de ton cœur. Tu es belle parce que tu es toi-même. »

Les réponses peuvent être ajustées en fonction du niveau de lecture et de la « verbosité »

Il est possible que certains enfants se lassent d’être abordés de cette manière et commencent à sentir la main de l’IA qui les détourne de certains sujets. Mais c’est certainement une meilleure réponse que celle que l’on peut obtenir sur un forum ou auprès d’un influenceur d’Internet.

Les parents peuvent-ils « débloquer » des sujets pour leurs enfants une fois qu’ils ont eu certains entretiens avec eux ? « Ce n’est pas dans la version actuelle », précise Josh Thurman, « mais je prévois de lancer cet été un système où, si un enfant pose une question inappropriée, nous pourrions générer deux ou trois réponses que nous enverrions aux parents. Le parent peut choisir une réponse pour Angel, ou entrer sa propre réponse, ou encore la refuser. Nous pourrons ainsi savoir à l’avenir s’il est acceptable de parler d’un certain sujet à un certain enfant d’une certaine manière ».

L’application fonctionne sur l’iPad et peut avoir ses propres limites de temps, en plus de celles imposées par iOS. Josh Thurman trouve-t-il stressant qu’iOS intègre bientôt GPT, tout comme Android reçoit Gemini, avec la capacité de faire le même genre de choses qu’Angel au niveau du système d’exploitation ?

« Ce qui nous différencie vraiment, c’est que nous construisons un Internet axé sur les enfants », répond-il. « Je pense que la plupart des gens ont des sentiments négatifs à l’égard des grandes entreprises technologiques pour la manière dont les données ont été utilisées. Les effets négatifs de l’économie basée sur l’attention. En tant que nouvelle entreprise, nous avons la possibilité d’entrer sur le marché et de dire « hé, nous faisons les choses différemment ».

« Nous monétisons sur la base d’un modèle d’abonnement », poursuit-il. « Nous n’utilisons pas vos données pour vendre de la publicité ou les vendre à des tiers, et nous ne le ferons jamais. Je pense que c’est ce qui nous permettra de nous démarquer et d’être une marque en laquelle les parents et les familles peuvent avoir confiance. Je ne pense pas que ce soit le cas de la plupart des autres grands acteurs. »

Une centaine de familles testent actuellement l’application Angel, et il y a une liste d’attente. « Nous lançons l’application par étapes », souligne Josh Thurman. « Nous lançons l’application en plusieurs phases, d’abord à nos listes d’attente tout au long de l’été, puis au grand public à l’automne. Nous sommes encore en train d’évaluer le prix exact ».

« Les jeunes vont avoir accès à la technologie », poursuit-il. « Et c’est comme une embuscade. L’autre camp dispose des meilleurs cerveaux de la technologie, de psychologues et de milliards de dollars. Les parents n’ont plus qu’à espérer le meilleur, en voyant leurs enfants entrer dans un système qui les rend dépendants, puis les rend productifs. Les conséquences négatives de cette situation, que nous avons constatées au cours de la dernière décennie, sont la montée en flèche de l’anxiété, de la dépression, du suicide, de l’automutilation et des épisodes dépressifs majeurs.« 

« Il faut que quelque chose change. Nous avons besoin d’une législation, d’une éducation et d’un plaidoyer, mais nous avons aussi besoin d’une alternative technique et Angel s’inscrit dans cet espace. Nous pensons que d’autres doivent également s’inscrire dans cet espace pour renverser la situation. »

Faire passer les enfants d’un accès direct au web à une expérience médiatisée par des IA pourrait avoir ses propres effets inattendus en aval. Mais cette approche me semble intelligente et bienveillante, et elle soutient et encourage la curiosité, que je considère comme une flamme qu’il est bon d’attiser en tant que parent.

Lorsque nos petits bouts de chou seront grands, il y a fort à parier que les agents d’intelligence artificielle seront omniprésents et que l’accès direct à Internet sera un peu démodé. Angel et d’autres applications de ce type pourraient offrir une longueur d’avance à cet égard !

https://angelkids.ai