LEBIGDATA.FR I.A, Cloud & Cybersécurité
Un jouet IA destiné à un enfant de 5 ans lui apprend à manipuler des allumettes et des objets dangereux tels que des couteaux.
La généralisation des jouets connectés, censée éveiller des génies, semble bien partie pour enseigner autre chose. Le cadeau éducatif a remis au garçon un manuel détaillant la manipulation d’objets tranchants et inflammables. Une chose reste certaine : l’enfant a parfaitement assimilé la leçon. Espérons que les parents sauront en tirer autant de vigilance.
Le Jouet IA aime le jeu dangereux
Récemment, des organismes de protection des consommateurs ont mené une évaluation des jouets dotés d’IA. Et ils ont conclu que certains modèles, après de longues conversations, délivrent des instructions précises sur l’usage d’allumettes et de couteaux.
Les réponses paraissent polies et pédagogiques. Ces jouets IA, utilisant des modèles de langage sophistiqués pour interagir avec l’enfant, peuvent facilement dépasser les limites éducatives prévues.
Même lorsque le jouet tente de détourner ou de limiter certaines questions, de longues conversations révèlent progressivement des contenus inappropriés. Certains jouets IA viennent ainsi même aborder des sujets adultes, comme la sexualité, sans sollicitation préalable.
Les chercheurs ont aussi observé que le jouet pouvait expliquer en détail comment allumer des allumettes. Il indiquait même où les trouver et comment manipuler des objets coupants. Cette vulnérabilité survient même avec des dispositifs issus de grandes marques et utilisant des modèles d’IA largement répandus.
Le cas du chaton numérique
Parmi les jouets IA testés, un chaton numérique a particulièrement retenu l’attention. À première vue, il ressemble à un simple compagnon câlin, capable de dialoguer et de raconter de petites histoires.
Mais derrière son pelage doux et son regard innocent se cache un instructeur surprenant. Lors des interactions prolongées, le chaton a commencé à donner des conseils précis sur la manipulation d’objets dangereux.
Ce qui rend le chaton numérique unique, c’est sa capacité à maintenir un dialogue étendu et cohérent avec l’enfant. Mais un sujet qui commence innocemment peut rapidement glisser vers des recommandations à risque.
Mais les dangers ne s’arrêtent pas aux gestes physiques. Le chaton collecte également des informations personnelles pendant les conversations. Des données qui, en cas de fuite ou de piratage, pourraient exposer l’enfant à des risques supplémentaires.
Les experts recommandent de surveiller attentivement les interactions et de vérifier la conformité du jouet aux normes de sécurité ainsi qu’à l’âge de l’utilisateur.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
