L’intelligence artificielle
chez Mallow
Chez Mallow nous croyons que l’intelligence artificielle peut être un formidable outil d’éveil lorsqu’elle est utilisée à bon escient.
Trop souvent, nos usages de la technologie isolent ou divisent. Nous faisons le choix inverse : utiliser l’IA pour permettre aux enfants de parler davantage, imaginer davantage, réfléchir davantage et apprendre en jouant.
L’IA au service de leur imagination
L’intelligence artificielle est au cœur de l’expérience Mallow. C’est elle qui permet aux enfants de parler avec les personnages, d’être compris, de faire évoluer les histoires avec leurs propres idées et de vivre des aventures qui s’adaptent réellement à eux.
Tous les enfants ne jouent pas de la même manière alors l’IA permet aussi à Mallow de s’adapter à leur rythme : laisser davantage de temps à un enfant qui hésite, rebondir sur une idée inattendue, ajuster progressivement la difficulté d’un jeu ou poser une nouvelle question pour l’aider à aller plus loin.
Chez Mallow, l’IA ne pense pas à la place des enfants. Elle leur donne encore plus d’occasions d’imaginer, de réfléchir et de s’exprimer.
Une IA conçue pour les enfants
Mallow n’est pas un assistant conversationnel généraliste auquel nous avons ajouté des histoires pour enfants.
Notre intelligence artificielle a été conçue spécifiquement pour une expérience de jeu destinée aux enfants. Nous avons donc accordé une attention systématique à la manière dont nos systèmes interagissent avec eux.
Aujourd’hui, la sécurité des systèmes Mallow est au meilleur niveau de ce qui se fait dans le monde dans la catégorie « IA et enfants ».
Beaucoup de liberté pour l’imagination.
Aucune concession sur la sécurité.
Dans l'imaginaire,
beaucoup de liberté
Un enfant peut combattre un dragon, inventer une histoire complètement absurde ou faire dire des bêtises à un personnage. C’est justement tout l’intérêt du jeu.
Hors de l'imaginaire,
les règles changent
En revanche, dès qu’on quitte l’imaginaire, les règles changent. Mallow ne donne pas de consignes qui pourraient mettre un enfant en danger.
L'enfant passe avant l'histoire
Et si un enfant dit quelque chose d’inquiétant, le jeu passe au second plan : Mallow sort de l’histoire et l’encourage à aller parler à un adulte de confiance.
L’imagination est libre. Le cadre, lui, est maîtrisé.
Des personnages, pas des amis imaginaires
C’est un choix fort de Mallow : nos personnages ne sont ni des compagnons, ni des amis imaginaires.
Mallow propose des jeux audio. Il y a un début, une fin, des objectifs. Les personnages ne sont pas là pour discuter de tout et de rien, servir de confidents ou chercher à créer une relation affective avec l’enfant.
S’il déclare sa flamme à l’un d’eux, le personnage lui rappellera gentiment qu’il est un personnage imaginaire et qu’il n’existe pas dans la vraie vie.
Nous avons fait ce choix en tant que parents, mais aussi parce que la recherche appelle à la prudence : les jeunes enfants peuvent avoir du mal à saisir ce qu’est réellement un agent conversationnel et les effets d’un lien émotionnel avec une machine sont encore mal connus.
Mallow ne cherche pas à connaître votre enfant
Mallow est conçue pour ne pas demander à un enfant son adresse, le nom de son école, ses coordonnées ou d’autres informations permettant de l’identifier.
L’objectif de nos personnages est de faire avancer le jeu, pas d’en savoir davantage sur l’enfant qui joue avec eux.
Des humains aux commandes
Chez Mallow, les histoires s’écrivent à plusieurs. Des dizaines de personnes et de métiers différents sont mobilisés pour créer une aventure.
La directrice de création imaginent le concept et les compétences que l’aventure va stimuler.
Les experts en sciences cognitives affinent ces compétences et tracent son fil conducteur.
Les auteurs imaginent les personnages et écrivent une première version de l’histoire.
Les narrative designers la transforment ensuite en script interactif et l’intègrent dans notre moteur de jeu.
Designers, compositeurs, chanteurs et sound designers donnent ensuite une apparence, une musique, des voix et une ambiance à ces univers.
Tous peuvent utiliser l’intelligence artificielle pour aller plus vite ou être plus efficaces. Mais il y a toujours un humain dans la boucle.
Et en matière de création, notre constat est simple : l’humain garde une longueur d’avance, même sur les modèles les plus avancés.
L’IA fait vivre l’aventure.
Les humains en définissent les règles.
La sécurité est un travail continu
La sécurité n’est jamais acquise. Et les enfants ont beaucoup d’imagination.
Mettre nos systèmes
en difficulté
Nos équipes cherchent donc régulièrement à mettre nos systèmes en difficulté : détourner une consigne, provoquer une réponse inadaptée ou tester leurs limites.
Hors de l'imaginaire,
les règles changent
Ces situations sont reproduites par simulation, jamais avec de vrais enfants, puis rejouées à grande échelle par des adultes pour vérifier que les protections tiennent.
Echanger avec des
spécialistes
Nous travaillons également avec des organismes spécialistes de la sécurité des systèmes d’IA destinés aux enfants afin de tester nos systèmes et d’échanger sur les meilleures pratiques dans le monde.
Et nous continuons à améliorer Mallow en permanence.
Si vous constatez un comportement inapproprié, vous pouvez nous écrire à safety@mallow.fr en nous donnant le maximum de contexte : figurine utilisée, moment de l’aventure et propos du personnage.
Respecter les règles.
Et même plus.
Mallow respecte l’ensemble des réglementations européennes qui lui sont applicables, notamment en matière de protection des données, de produits électroniques et de limitation des émissions d’ondes électromagnétiques.
Nous avons également choisi d’appliquer dès le lancement de Mallow en septembre 2026 les réglementations européennes sur l’intelligence artificielle, l’AI Act, et sur la cybersécurité, le Cyber Resilience Act, avant l’entrée en vigueur de certaines de leurs dispositions.
Nous estimons cependant que la réglementation applicable aux produits intégrant des systèmes d’intelligence artificielle destinés aux enfants reste aujourd’hui insuffisante.
C’est pourquoi nous contribuons à des outils parmi les plus avancés, comme le benchmark KORA, et collaborons avec les régulateurs pour participer à l’amélioration des standards du secteur.
Envie de rejoindre l'aventure ?
La communauté Mallow continue de grandir. Familles testeuses, retours d'expérience, avis d'enseignantes : c'est grâce à elle que Mallow progresse, encore aujourd'hui.
