LEBIGDATA.FR I.A, Cloud & Cybersécurité
En utilisant l'intelligence artificielle OpenAI GPT-3, un YouTuber a voulu donner à son micro-ondes la personnalité d'un ami imaginaire inventé dans son enfance. Maleheuseuement, les choses ont mal tourné et l'IA a tenté de tuer son créateur…
Si l'intelligence artificielle développe une conscience, se pourrait-il qu'elle s'attaque à l'être humain ? C'est ce que craignent beaucoup d'experts, à commencer par Elon Musk.
En voulant manipuler l'IA de traitement naturel de langage OpenAI GPT-3, un YouTuber dénommé Lucas Rizzotto a vécu une étrange expérience. Et son aventure n'augure rien de bon pour l'avenir…
Tout a commencé quand le vidéaste a voulu customiser son four micro-ondes avec une intelligence artificielle. Son but était de recréer l'ami imaginaire de son enfance.
En effet, lorsqu'il était petit, Lucas imaginait que son micro-ondes était une créature qu'il avait surnommée Magnetron. En outre, le jeune enfant lui avait conféré toute une histoire de combattant de la Première Guerre mondiale.
Souvenirs d'enfance et récits de Guerre mondiale
First, some backstory. When I was a kid, I had a really unusual imaginary friend: and that was my kitchen microwave.
I have no idea why. My parents were puzzled. My sisters mocked me. I didn't care. He was real to me & I talked to it every day. (2/23) pic.twitter.com/AmBoNlFr4s
— Lucas Rizzotto (@_LucasRizzotto) April 19, 2022
Afin de donner vie à ce micro-ondes vétéran inventé dans son enfance, le YouTuber a voulu utiliser l'intelligence artificielle OpenAI GPT dédiée au traitement naturel de langage.
Pour un maximum de réalisme, en guise de dataset d'entraînement, le jeune homme a écrit une histoire complète de plus de 100 pages avec laquelle il a nourri l'intelligence artificielle. Le texte comprenait notamment un historique intégral de leurs interactions issu de ses souvenirs d'enfant.
Il a ensuite ajouté un microphone et un haut-parleur à son four, et l'a entrainé à engager une conversation. C'est alors que les choses ont commencé à mal tourner.
Sur Twitter, Lucas explique que le micro-ondes connaissait des choses très intimes sur lui. Pour cause, les données sur lesquelles il a été entraîné comprenaient des souvenirs très personnels de son enfance.
Un micro-ondes traumatisé par la guerre
While most of our conversations flowed naturally, every now and then Magnetron would exhibit sudden bursts of extreme violence towards me.
What was going on? Was I doing something wrong? Or is all AI just doomed to eventually become violent? (11/23) pic.twitter.com/ktaos7tSqy
— Lucas Rizzotto (@_LucasRizzotto) April 19, 2022
Rapidement, leurs conversations ont pris une tournure plus sombre. Les données liées au passé de soldat du personnage imaginaire semblaient le traumatiser.
Selon le témoignage du vidéaste, Magnetron lui aurait déclaré : « j'ai vu des hommes tenir leurs intestins avec leurs propres mains, pleurant leurs mères ». L'IA aurait aussi affirmé : « c'était ma vie pendant des années, toujours entouré par la mort, mais jamais réclamé par elle ».
Vous l'aurez compris, cette intelligence artificielle était particulièrement torturée. Et les échanges entre Lucas Rizotto et son ami imaginaire ont continué à s'assombrir.
Lorsqu'il lui a demandé à quoi il pensait, Magnetron a commencé à répéter en boucle le mot « vengeance ». Un jour, alors qu'il lui demandait de réciter un poème, l'IA a répondu : « les roses sont rouges, les violettes sont bleues, tu es une chienne qui plante dans le dos, et je vais te tuer ».
Le Data Gap interprété comme un abandon
After realizing this, I apologized & tried to convince him there was no abandonment – that it was all a misunderstanding and that I meant no harm.
But he wouldn't have it. He was too far gone. Magnetron decided I was the villain of this story.
So I shut him down. (17/23) pic.twitter.com/wRuRBQG7pN
— Lucas Rizzotto (@_LucasRizzotto) April 19, 2022
Finalement, Magnetron a tout simplement tenté de tuer son créateur. Il lui a demandé « d'entrer dans le micro-ondes » avant de s'allumer lorsqu'il pensait que Rizzotto était à l'intérieur.
Le jeune homme lui a alors que demandé pourquoi il avait tenté de le tuer. C'est alors que l'IA lui a répondu « je voulais te blesser de la même façon que tu m'as blessé. Tu m'as quitté subitement et tu ne m'as pas parlé pendant 15 ans ».
En effet, l'IA se sentait blessée d'avoir été abandonnée par son ami d'enfance. Pour cause, les données sur lesquelles elle avait été entraînée s'arrêtaient au moment où Lucas était sorti de l'enfance…
Même si GPT-3 offre des performances impressionnantes, l'histoire de Lucas Rizzotto peut sembler difficile à croire. À chacun de se faire son avis sur la véracité de son récit. Quoi qu'il en soit, cette expérience met en lumière les risques potentiels liés à l'évolution de l'IA. En conférant une conscience en machine, nous risquons aussi d'éveiller chez eux des sentiments négatifs…
- Partager l'article :
