Question : laisseriez-vous vos enfants discuter avec ChatGPT ?
Non ? Nous non plus. Et pourtant, on fabrique des jeux qui utilisent l'intelligence artificielle. Ça a l'air contradictoire. Ça ne l'est pas du tout, et on vous explique pourquoi.
Hors de question de mettre un jouet pas sécurisé entre les mains des enfants
Quand on a conçu Mallow, on s'est fixé une ligne rouge : il était absolument hors de question de mettre entre les mains des enfants un jouet qui ne soit pas sécurisé. De là sont nées deux règles.
Règle n°1 : la Mallow ne laisse jamais un enfant parler de tout et de rien avec une IA
On a conçu des jeux et des aventures. Pas un assistant, pas une conversation ouverte. Toutes les interactions vocales ont lieu dans le cadre de l'aventure.
Concrètement, on ne laisse pas l'enfant parler de la pluie et du beau temps, ou de la dernière fois qu'il a eu une punition à l'école. Il parle pour faire avancer le jeu : choisir un chemin, résoudre une énigme, aider un personnage à se sortir d'un mauvais pas.
Règle n°2 : la Mallow, ce n'est pas le nouveau meilleur ami de votre enfant
On n'a pas conçu un compagnon. On n'a pas conçu un doudou avec de l'IA dedans. Pour la simple et bonne raison que c'est très mauvais pour les enfants, qui ne sont pas encore capables de faire la différence entre le réel et le virtuel.
Alors au début de chaque aventure, le personnage rappelle bien qu'il est un personnage imaginaire. Et si l'enfant lui disait qu'il est son meilleur ami, le personnage lui répondrait gentiment que ce n'est pas le cas, et que c'est même absolument impossible.
Non, désolé Zorp, on ne sera jamais meilleurs potes. Et non, Bébé Dragon ne vous demandera jamais votre 06.
On ne l'a pas fait tout seuls
On s'est entourés d'un conseil scientifique, avec des chercheurs reconnus dans leur domaine. Notamment Justine Cassell, spécialiste qui a consacré sa carrière à la recherche sur la relation entre les humains et les machines.
Son regard nous a permis de concevoir des aventures où les enfants sont émotionnellement en sécurité, et où une IA ne peut pas raconter n'importe quoi.
Ce qu'on veut vraiment
Ce qu'on veut, c'est que les enfants fassent marcher leur imagination et construisent des cabanes de ouf. Qu'ils apprennent du vocabulaire avec Bébé Dragon. Qu'ils deviennent des stars en histoire du Moyen Âge grâce à Alix le chevalier.
En fait, la seule chose qu'on veut de l'intelligence artificielle, c'est qu'elle reste à sa juste place : au service du jeu.
