LEBIGDATA.FR I.A, Cloud & Cybersécurité
Pendant quelques heures, Grok, le chatbot censé répondre aux questions posées sur le réseau social X, s’est lancé dans un monologue passionnel. Il parlait du supposé « génocide des Blancs » en Afrique du Sud.
Je l’avoue, ce n’est pas un délit. Seulement, personne ne lui avait rien demandé. Pire, les internautes attendent autre chose de lui. Qu’il réponde à leur question qui n’a rien avoir avec le génocide des Blancs.
La crise existentiel de Grok
Hier, le mercredi 14 mai, l’IA d’Elon Musk Grok a commencé à parasiter les fils de discussion avec un sujet qui l’obsède. Qu’est-ce que c’est ? L’idée que la minorité blanche sud-africaine serait victime d’un génocide.
Peu importe ce que les utilisateurs lui demandaient. Salaire d’un joueur de baseball ou encore astuce pour changer de logiciel, le chatbot revenait inlassablement à ce thème. Il répète en boucle des éléments sur les meurtres de fermiers blancs et les tensions autour des réformes foncières en Afrique du Sud.
Vous vous demandez sûrement pourquoi Grok s’emballe-t-il autant sur ce sujet. Et bien, vous n’êtes pas seul. Chacun a sa théorie mais beaucoup – et j’en fais partie – pensent que ce n’est pas un hasard.
Pourquoi ? Car son créateur défend cette idée depuis des années. Musk étant lui-même Sud-Africain blanc, il pense que des fermiers blancs sont victimes d’attaques racistes en Afrique du Sud.
D’ailleurs, il n’est pas le seul à y croire. Donald Trump a aussi repris cette idée. Il a même proposé d’accueillir ces fermiers blancs aux États-Unis comme réfugiés. Et devine quoi ? Juste la veille des délires de Grok, les premiers Sud-Africains blancs sont arrivés en Amérique grâce à ce programme.
Bref, pour en revenir à l’obsession de Grok, Musk a souvent parlé de ce sujet sur X. Et nous pensons que c’est ce qui a influencé son chatbot.
Ce qui est étrange c’est…
Eh bien, c’est que Grok n’a pas frontalement défendu l’existence de ce prétendu génocide. Au contraire, il a nuancé ses propos et présenté le sujet comme controversé.
Il a cité des données qui contredisent la thèse et adopte, parfois, un ton critique. Et il revient inlassablement sur le sujet, ignorant complètement les internautes qui avaient besoin de son aide.
Heureusement, le comportement étrange de Grok a été corrigé. On peut dire qu’il a maintenant retrouvé ses esprits.
Quoi qu’il en soit, ce genre de bug – ou devrais-je dire d’obsession algorithmique – soulève des questions sur le fonctionnement interne des IA.
En théorie, les IA génératives sont entraînées à garder un ton équilibré. Surtout lorsqu’elles abordent des sujets politiques sensibles. Grok, lui, aurait même un petit penchant pour le centre gauche, selon des chercheurs qui ont observé ses réponses au fil du temps.
Mais ce n’est pas aussi simple. Ces intelligences sont composées de milliards de neurones artificiels qui organisent eux-mêmes leurs connexions à partir des données qu’on leur donne.
Et pourtant, on peut parfois influencer subtilement leurs centres d’intérêt. Tenez chez Anthropic par exemple. Les chercheurs ont réussi à identifier chez leur IA, Claude, des neurones spécialisés dans le Golden Gate Bridge, le pont.
En boostant un peu leur influence, ils ont provoqué un effet inattendu. Claude s’est mis à mentionner le pont de San Francisco dans quasiment toutes ses réponses. Même quand ce n’était pas du tout le sujet. Exactement comme ce qui est arrivé à Grok hier.
Coïncidence vous croyez ? Quoi que vous en pensez, dites-le nous en commentaire.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
