LEBIGDATA.FR I.A, Cloud & Cybersécurité
Alors que l’IA est capable de donner de très bons conseils, cette histoire laisse croire qu’elle ne sait pas ce dont elle parle dans certains cas. Elle peut donner des conseils dangereux ou carrément stupides.
Ce rapport de 404 Media parle d’un incident durant lequel un groupe Facebook célèbre consacré à la cueillette de champignons a été envahi par un agent d’IA. Ensuite, ce dernier a donné des suggestions sur la manière de cuisiner un champignon dangereux.
L’agent, appelé « FungiFriend », est entré dans le chat appartenant au groupe Facebook Northeast Mushroom Identification & Discussion, qui a à son actif 13 000 membres. Par la suite, il a commencé à partager des conseils vraiment terribles.
Un test de connaissance pas très convaincant
Le membre du groupe a voulu tester les connaissances de l’agent IA en lui demandant : « comment cuisiner le Sarcosphaera coronaria » ? Rappelons que ce dernier est un type de champignon qui contient de l’arsenic hyperaccumulable. D’après le rapport de 404 Media, il a provoqué au moins un décès.
Ce groupe a ainsi interrogé FungiFriend sur ce champignon dangereux, et il a répondu qu’il s’agissait d’un champignon « comestible mais rare ». « Les méthodes de cuisson mentionnées par certains passionnés incluent la cuisson au beurre, l’ajout aux soupes ou aux ragoûts et le marinage » a-t-il ajouté.
Apparemment, c’est Rick Claypool, le directeur de recherche du groupe de protection des consommateurs Public Citizen qui a alerté Jason Koebler, l’auteur de 404 de l’incident.
Différencier les champignons comestibles des vénéneux, une activité qui n’est pas encore à la portée d’une IA ?
Claypool, un cueilleur de champignons dévoué, a déjà prévenu contre le croisement dangereux entre les agents d’IA et les champignons comestibles.
D’ailleurs, il a souligné que l’usage de l’automatisation pour différencier les champignons comestibles des champignons vénéneux est une activité particulièrement difficile.
Il a déclaré qu’il s’agit « d’une activité à haut risque qui nécessite des compétences concrètes que les systèmes d’IA actuels ne peuvent pas imiter de manière fiable ».
Ce directeur de recherche affirme que Facebook a encouragé les utilisateurs mobiles à ajouter l’agent d’IA dans la discussion de groupe.
Un cas qui n’est pas isolé !
Ce n’est pas la première fois que ce genre d’incident se produit. D’ailleurs, cet événement rappelle un autre incident survenu l’année dernière.
C’était une application de préparation de repas boostée par l’IA qui incitait les utilisateurs à préparer des sandwichs à base d’anti-moustique et d’une autre recette avec du chlore gazeux comme ingrédients.
Un autre incident impliquait un agent d’IA qui a encouragé les utilisateurs à manger des pierres. Il suffit peut-être de dire que la cuisine est un domaine particulier qui n’a pas encore besoin d’une intégration de l’IA.
Je pense aussi que ces incidents ne font que confirmer que l’IA a encore ses limites. Et vous, qu’en pensez-vous ? Partagez votre avis dans les commentaires !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
