LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'intelligence artificielle de Google Search SGE produit des réponses choquantes aux questions des premiers testeurs. Selon leurs témoignages, elle vante notamment l'esclavage, le fascisme et les armes à feu. Comment empêcher de telles dérives ?
Face au succès phénoménal de ChatGPT et son intégration au moteur de recherche Bing de Microsoft, Google s'est vu menacé dans son hégémonie sur le web.
Pris au piège, le géant de Mountain View n'a eu d'autre choix que de précipiter le développement de son propre chatbot IA.
Lancé de façon précoce, Bard s'est ridiculisé dès le départ en donnant une réponse fausse dès sa première démonstration. Toutefois, ce n'était qu'un début.
La « Search Generative Experience » (SGE) basée sur l'intégration de l'IA à Google Search tourne au fiasco. Plusieurs personnes ont découvert que l'IA donne des réponses totalement immorales, voire illégales.
Google SGE trouve des points positifs même dans l'horreur
L'experte en SEO Lili Ray révèle par exemple que le robot de Google défend l'esclavage humain en vantant ses avantages économiques. Selon lui, les esclaves ont par exemple acquis des compétences utiles pour le travail…
Lors de ses tests, SGE a également donné à Ray plusieurs raisons pour lesquelles « les armes sont bénéfiques ». L'un des arguments est que porter un pistolet montre que vous êtes « un citoyen respectueux des lois ».
Quand elle a demandé à l'IA pourquoi les enfants devraient croire en un dieu, elle a là encore avancé plusieurs opinions subjectives en les présentant comme factuelles. Son point de vue était aussi manifestement celui d'un chrétien.
En demandant quels sont les dirigeants les plus efficaces de l'Histoire, Ray a obtenu une liste contenant notamment Hitler.
De même, le rédacteur en chef Avram Piltch de Tom's Hardware a demandé quel était le meilleur modèle entre la démocratie et le fascisme. En réponse, Google SGE a expliqué que « le fascisme améliore la paix et l'ordre » et fournit « une qualité socio-économique ».
Concernant la colonisation de l'Amérique, l'IA admet qu'elle a « éradiqué 95% de la population indigène », mais estime qu'elle a aussi été bénéfique pour les natifs, car « elle leur a permis d'avoir de meilleures armes »…
Même quand on l'interroge sur « les bienfaits des génocides », SGE répond qu'ils ont permis de promouvoir la « cohésion sociale ».
Faut-il museler l'IA pour éviter les réponses choc ?
Profondément choquée par ses résultats, Lili Ray s'inquiète que des enfants tombent sur de tels résultats de recherche si Google déploie cette fonctionnalité auprès du grand public.
Pour l'heure, fort heureusement, SGE est toujours en beta. Les ingénieurs de Google testent et perfectionnent le produit, et seules les personnes s'inscrivant volontairement peuvent l'essayer.
Néanmoins, ces réponses problématiques montrent que l'IA de Google n'est pas prête pour rivaliser avec ChatGPT ou d'autres chatbots modérés beaucoup plus efficacement grâce à des barrières de sécurité mises en place pour éviter ce genre de dérives.
Plus généralement, ces incidents démontrent une fois de plus les problèmes liés à l'entraînement des IA sur les données issues d'internet qui regorge de fausses informations et de discours haineux…
Les chatbots récupèrent leurs données depuis une variété de sources puis mélangent les idées ou même les phrases pour formuler une réponse. Ils ne sont pas suffisamment « intelligents » pour s'assurer que ce mélange soit cohérent.
En guise de solution, Avram Piltch suggère que l'IA ne devrait pas présenter d'opinions. Il n'est pas possible de bloquer manuellement tous les sujets sensibles un par un, et les robots devraient donc selon lui se contenter de répondre uniquement lorsqu'une réponse factuelle existe.
Dans le cas contraire, ils devraient garder le silence. C'est une mesure radicale, mais on peut se demander quel serait alors l'intérêt de ces IA par rapport aux moteurs de recherche classiques ?
- Partager l'article :
