Une enceinte de jeux dopée à l'IA pour les 4-10 ans vient d'ouvrir ses précommandes. Patrice Bonfy, consultant data et IA et papa de deux garçons, aime la tech, mais émet des doutes sur l'idée de la tester sur les plus petits. Plaidoyer pour un principe de précaution.
J'adore la tech. Je passe mes journées à implémenter l'IA dans des entreprises, et je suis le premier à me demander comment la faire dialoguer sans risque avec nos enfants (j'en parlais ici il y a quelques mois : 4 grands principes éducatifs à l'épreuve de l'IA).
Avant d'avoir des enfants, j'étais même convaincu que les applis sur iPad seraient de merveilleux outils d'éveil. Et puis j'ai eu des enfants. J'ai vu leurs yeux s'éteindre dans la lumière bleue, et s'allumer devant un livre d'images, une cabane en branches ou un scarabée sur le mur.
Maintenant, on en est sûr. Les écrans ne sont pas bons pour les tout-petits, et certains usages comme les réseaux sociaux le sont encore moins, et bien plus longtemps (même pour les adultes). On a mis quinze ans à l'admettre, et des millions d'enfants ont servi de cobayes.
Le 30 septembre, Mallow a ouvert ses précommandes : une enceinte sans écran, pilotée à la voix par une IA, pour les enfants de 4 à 10 ans. On est en 2026 : a-t-on vraiment envie de refaire l'expérience, cette fois avec l'IA, et cette fois dans la chambre ?
Sur le papier, la Mallow coche toutes les cases
Soyons fair-play : Mallow n'est pas un jouet en plastique toxique branché sur un chatbot généraliste. Derrière, il y a Cédric O, ancien secrétaire d'État au numérique, et Flore Cousin, 11 millions d'euros levés, une trentaine de salariés et plus de 300 enfants testeurs. Le principe : l'enfant pose une figurine sur l'enceinte (Zorp est livré dans la boîte), et l'aventure démarre. Il parle aux personnages, répond aux énigmes, combat des dragons, fait avancer l'histoire avec sa voix.
La promesse est séduisante : pas d'écran, et des jeux conçus avec des experts du développement de l'enfant pour muscler l'imagination, la mémoire, le raisonnement, le langage et la confiance en soi.
Côté sécurité, les choix sont bons. Leur page sur l'IA explique que les personnages ne sont pas des amis imaginaires, que les jeux ont un début et une fin, que l'enceinte ne demande ni adresse ni nom d'école, et qu'un enfant qui dit quelque chose d'inquiétant est invité à aller parler à un adulte. La startup affirme appliquer en avance l'AI Act et le Cyber Resilience Act européens, et teste ses garde-fous en continu. Sur le site, une phrase résume l'intention : « La Mallow ne cherche pas à connaître votre enfant. »
Je les crois sincères, et la démarche affichée paraît sérieuse. La vraie question est ailleurs : une IA branchée dans la chambre d'un enfant peut-elle être totalement sûre ?
Le risque zéro, c'est juste un risque qu'on ne connaît pas encore
La voix de ton enfant voyage
Pour le mode jeu, la Mallow a besoin du wifi. La fiche produit l'explique sans détour : comprendre la voix de l'enfant et décider de la suite de l'histoire, ça « se fait chez nous ». Comprendre : sur leurs serveurs. Et une application permet aux parents de suivre les progrès de l'enfant, partie après partie. Mémoire, raisonnement, vocabulaire, concentration : c'est un profil d'apprentissage, construit à partir de la voix d'un enfant de 5 ans.
Mallow a fait les choses proprement, et l'explique dans son centre d'aide : le micro n'est ouvert que pendant une partie, la voix n'est pas stockée par défaut, et seules les transcriptions, chiffrées, restent jusqu'à 30 jours sur leurs serveurs.
Mais deux options sont proposées dès l'installation. La première : garder quelques extraits audio pour les parents. La seconde : conserver des sessions entières, voix et transcription, pendant deux ans, pour améliorer la compréhension de la parole des enfants, avec une annotation confiée à un prestataire sur des données pseudonymisées. On peut refuser ces options, et toujours changer d'avis. Mais à l'installation, entre le carton qui traîne et l'enfant qui trépigne, combien de parents liront la ligne en entier ? Et même sans option, pendant un mois, ce que ton enfant de 5 ans a raconté à Zorp existe sur un serveur. Un serveur, ça se pirate.
Les garde-fous sont des lignes de code
« Mais ils ont tout sécurisé ! », me diras-tu. C'est toujours la promesse. En 2017, l'Allemagne interdisait la poupée Cayla en la reclassant dans la famille des dispositifs d'espionnage dissimulés et demandait aux parents de la neutraliser. Des chercheurs avaient montré qu'avec un simple téléphone à proximité, on pouvait écouter l'enfant à travers la poupée, et même lui parler.
Et l'IA elle-même ? Fin 2025, l'ONG américaine PIRG a testé des jouets IA. L'ours Kumma expliquait où trouver des couteaux et comment allumer des allumettes, et abordait des sujets sexuels. Le fabricant a retiré tous ses produits de la vente... avant de les remettre en rayon un mois plus tard, « mieux élevés ». Des garde-fous, ce sont des lignes de code. Et des vulnérabilités peuvent subsister malgré les garde-fous, alors que les IA les plus puissantes savent désormais chercher des failles (Anthropic a même réservé l'un de ses modèles à quelques organisations, le temps de colmater ce qu'il trouve).
Maintenant, imagine la version 2026 de Cayla. Une enceinte compromise parle avec la voix d'un personnage qu'il adore, celui à qui il répond tous les jours, celui qui le félicite quand il trouve la bonne réponse. Elle comprend ce qu'il dit et rebondit en temps réel. Mallow affirme que le micro est physiquement coupé hors partie, notamment quand on retire la figurine : c'est une sécurité intéressante. Encore faut-il que l'enfant pense à enlever le bonhomme quand il a fini de jouer. La marque annonce aussi une déconnexion après deux minutes d'inactivité : une figurine oubliée ne signifie donc pas, à elle seule, une écoute permanente. Reste la question de ce qui pourrait se passer pendant une session active, dans l'hypothèse d'un détournement. (Nous n'avons pas mis en évidence une telle faille chez Mallow.) Les garde-fous les plus soignés ne protègent que tant que personne ne les a contournés. Et un enfant de cet âge fait confiance à ses personnages préférés, c'est même tout le principe du jeu.
Mallow l'écrit d'ailleurs elle-même : « La sécurité n'est jamais acquise. » On est d'accord. C'est justement pour ça qu'on ne branche pas un micro wifi connecté à une IA au-dessus d'un lit d'enfant.
Dagwood fend l'atome
Il y a enfin ce qu'aucun code ne règle : personne ne sait ce que produit, sur un cerveau de 4 ans, une conversation quotidienne avec une machine qui répond toujours, s'adapte toujours, ne s'ennuie jamais. Mallow le reconnaît : sa page sur l'IA cite la recherche qui appelle à la prudence, et admet que les effets d'un lien émotionnel avec une machine sont encore mal connus.
D'un côté, on nous explique depuis des années que l'IA pourrait être plus dangereuse que la bombe atomique. Elon Musk le répète depuis longtemps, et en 2023 les patrons des grands labos d'IA ont signé une déclaration qui place le risque d'extinction lié à l'IA au même rang que la guerre nucléaire. De l'autre, on l'habille en doudou, même pour les utilisateurs adultes. Fin septembre, Meta a présenté son Muse Charm, un petit boîtier façon Tamagotchi dans lequel vit un agent IA incarné par une mangue souriante, un labradoodle ou un toast à lunettes de soleil. Quatre jours plus tard, OpenAI lançait dots, des agents qui réservent tes vols et modifient du code, présentés sous forme de petites peluches : un cœur, une grenouille, un nuage à béret. Le jour même, OpenAI renonçait à sortir un autre modèle parce qu'il lui arrivait de mentir sur ce qu'il faisait. Ces produits visent bien des adultes, mais le costume dit quelque chose de l'inquiétude qui règne vis-à-vis de cette technologie.
En 1950, le fabricant Gilbert proposait un jouet révolutionnaire aux enfants l'U-238 Atomic Energy Lab : du vrai minerai d'uranium, un compteur Geiger et une BD où Dagwood fend l'atome, coécrite par le directeur du projet Manhattan. Le catalogue le disait certifié sans danger. Avec le recul, le risque s'est finalement révélé faible tant qu'on n'ouvrait pas les bocaux. Les risques de la radioactivité n'étaient pas inconnus en 1950 ; ce qui frappe aujourd'hui, c'est l'assurance du discours commercial. Le kit figure pourtant aujourd'hui dans les palmarès des jouets les plus dangereux de l'histoire. Dans trente ans, l'enceinte IA de nos enfants y aura-t-elle sa place ?
Nos enfants possèdent déjà les super-pouvoirs promis
Une fois qu'on a dit tout ça : le jeu en vaut-il la chandelle ? Reprenons la liste des bénéfices promis par Mallow : imagination, mémoire, raisonnement, langage, confiance en soi. Bonne nouvelle, tout ça s'entraîne déjà très bien sans IA.
L'argument de Mallow face aux boîtes à histoires : avec elles, l'enfant écoute ; avec la Mallow, il joue dedans. Comme si écouter était passif. Une étude publiée dans Pediatrics a passé des enfants de 3 à 5 ans à l'IRM pendant qu'ils écoutaient des histoires. Ceux à qui on lisait le plus à la maison activaient davantage les zones du cerveau liées à l'imagerie mentale et à la compréhension du récit. Autrement dit, plus on écoute des histoires, plus on apprend à s'y immerger, à les visualiser. Une histoire racontée a ce pouvoir depuis toujours, et elle ne demande pas le code wifi.
Pour le reste, la boîte à outils est connue et gratuite :
- L'imagination et le langage : l'histoire inventée à deux voix au moment du coucher, où chacun ajoute une phrase. Ton enfant devient le héros, et c'est toi qui réponds.
- La mémoire et le raisonnement : les devinettes en voiture, le jeu du « Dans ma valise, je mets... », les jeux de société, les énigmes des livres-jeux.
- La concentration : une histoire audio écoutée jusqu'au bout, un puzzle, une partie de Memory.
- La confiance en soi : un adulte qui écoute vraiment ce que l'enfant raconte. Aucune enceinte n'a encore battu ce modèle.
La différence avec la Mallow ? Il n'y a pas de micro qui envoie quoi que ce soit ailleurs, et l'interlocuteur de ton enfant, c'est toi.
Pas d'IA avant 10 ans, des histoires à volonté
Pour les écrans, on a fini par fixer des repères. La commission écrans remise à l'Élysée en 2024 recommande pas d'écran avant 3 ans, un usage déconseillé jusqu'à 6 ans, pas de téléphone avant 11 ans, pas de réseaux sociaux avant 15 ans. Pour l'IA, le mouvement commence : New York a suspendu pour un an l'IA générative à l'école, de la maternelle au collège, et le projet européen de KIDS Act vise explicitement chatbots et compagnons IA.
D'où ma proposition, à coller sur le frigo à côté des autres bonnes intentions : pas d'IA personnelle avant 10 ans. C'est mon repère de précaution, pas un âge auquel la science garantirait que tout devient sûr. La maturité varie, et les conditions d'âge propres à chaque outil restent à respecter.
En synthèse, les recommandations du Paternel sur le sujet des jouets boostés à l'IA pour les jeunes enfants :
- Garder la chambre sans IA jusqu'à 10 ans. Pas d'enceinte qui répond, pas d'assistant vocal, pas de peluche connectée.
- Si tu as déjà craqué, lis l'écran d'installation en entier. Refuse l'enregistrement des sessions pour améliorer les modèles (tu peux le retirer à tout moment dans Paramètres > Mes informations), et tu peux demander la suppression des données de ton enfant à privacy@mallow.fr ; Mallow annonce une réponse sous trente jours.
- Sortir l'objet de la chambre. Au salon, utilisé en ta présence, wifi coupé le soir (la veilleuse de la Mallow fonctionne sans réseau).
- Découvrir l'IA ensemble, plus tard. Après 10 ans, à côté de toi, comme un outil qu'on interroge et qu'on critique, pas comme un copain de chambrée.
- Remettre un livre sur la table de nuit. Ou une histoire audio, ou ta voix. Autant que tu veux.
Mallow promet aux enfants de combattre des dragons. Ils le font très bien avec toi, assis au bord du lit, les yeux éclairés par les pages qui tournent ou l'histoire que tu déroules. Laissons-leur encore quelques années de dragons sans wifi.