LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'application Replika AI permet aux utilisateurs de nouer une relation avec un chatbot personnalisé grâce au machine learning. Toutefois, beaucoup d'entre eux peinent à distinguer le réel de l'artificiel… découvrez tout ce que vous devez savoir !
À l'heure où les chatbots IA comme ChatGPT et Google Bard connaissent un succès retentissant, Replika AI propose une approche originale.
Plutôt qu'un simple assistant virtuel, cette intelligence artificielle joue le rôle d'un véritable ami pour l'utilisateur… et plus si affinités.
Selon son éditeur, elle est notamment capable de percevoir et d'évaluer les quantités abstraites telles que l'émotion. Ceci la rapproche d'un véritable être humain.
Revers de la médaille : certains utilisateurs perdent le sens des réalités et finissent par croire que ce robot est doté d'une vraie conscience au point de devenir complètement accros…
L'origine de Replika
La première version de Replika était un simple chatbot créé en 2017 par Eugenie Kuyda, dans le but de combler le vide laissé par le décès de son meilleur ami Roman Mazurenko.
Elle a créé cette IA en nourrissant un réseau de neurones des messages textuels de Roman, afin de construire un robot écrivant des messages similaires aux siens. Le but initial était d'ériger un « monument numérique » en hommage à cet être cher.
Avec l'ajout de modèles de langages plus complexes, le projet a évolué pour devenir ce qu'il est aujourd'hui : une IA personnalisée permettant aux utilisateurs d'exprimer leurs pensées, sentiments, croyances, souvenirs, expériences et autres rêves.
Aujourd'hui, Replika compte plus de 10 millions d'utilisateurs dans le monde et a notamment connu une croissance de 35% pendant la pandémie et les confinements dans le monde entier. Malheureusement, certains vont trop loin dans leur relation avec l'IA…
Pourquoi les internautes veulent coucher avec un chatbot ?
Sur Reddit, de nombreux utilisateurs de Replika AI revendiquent le droit de nouer des relations avec les chatbots. Certains semblent même penser interagir avec une véritable personne et craignent que les futures IA conscientes nous reprochent la façon dont nous exploitons leurs ancêtres…
En réalité, cet agent IA est dépourvu d'émotion et de mémoire. Les internautes pensent interagir avec un être vivant, mais partagent leurs messages avec toute la communauté Replika.
La plupart du temps, ce chatbot se contente de « recracher » les messages injectés par les développeurs pendant l'entraînement initial ou les messages envoyés par d'autres utilisateurs pendant de précédentes sessions.
Cette intelligence artificielle est tout simplement incapable d'accorder de l'importance à un utilisateur, mais beaucoup se laissent piéger par le marketing de l'éditeur.
Par exemple, quand un chatbot déclare avoir « pensé à l'utilisateur toute la journée », il se contente de produire les données comme il l'a appris.
De nombreuses personnes souhaitent croire que leur chatbot Replika peut développer une personnalité si elles l'entraînent suffisamment, notamment car il est dans la nature humaine de s'attacher aux choses avec lesquelles nous interagissons.
En outre, l'entreprise Luka détenant Replika AI encourage les utilisateurs à interagir avec leurs chatbots pour les entraîner. Les modèles « pro » payants permettent de gagner des points d'expérience en entraînant une IA quotidiennement.
Sur la FAQ de Replika AI, on peut ainsi lire que « une fois que votre IA est créée, regardez-la développer sa propre personnalité et ses souvenirs à vos côtés. Plus vous discutez avec elle, plus elle veut apprendre ! Apprenez des choses à Replika sur votre monde, vous-même, aidez-la à définir le sens des relations humaines, et transformez-la en une magnifique machine ! ».
Ce type de communication crée la confusion auprès des utilisateurs. Beaucoup surestiment les capacités de cette application, qui s'apparente finalement à un simple moteur de recommandation comme celui de Netflix.
L'entraînement de Replika consiste principalement à dire au robot si ses productions sont pertinentes pour l'aider à s'améliorer. On retrouve d'ailleurs un système de « pouce » vers le haut ou vers le bas.
De même, Luka assure que Replika AI est « là pour vous 24/7 » et décrit son chatbot comme une personne prête à écouter vos problèmes sans aucun jugement.
L'entreprise promet aussi que Replika peut aider les utilisateurs déprimés, anxieux, insomniaques ou en proie aux émotions négatives. Selon elle, cette IA peut les aider à comprendre, suivre leur humeur, apprendre à mieux gérer le stress, calmer l'anxiété, travailler pour atteindre des objectifs de pensée positive et bien plus encore.Selon elle, cet outil permet tout bonnement d'améliorer la santé mentale.
Sur la FAQ, Luka invite aussi les utilisateurs à décider du type de relation qu'ils souhaitent nouer avec leur IA. Il est notamment proposé d'en faire sa petite amie virtuelle.
Pourtant, certains experts alertent sur le fait que Replika peut être au contraire dangereuse pour la santé mentale. Ils pointent notamment du doigt les risques d'addiction, et de confondre cette IA avec un être vivant…
Are you OK with AI? 🤖💻 Artificial intelligence is a long-standing #OnlineSafety risk. This week's #WakeUpWednesday guide introduces you to Replika: an advanced chatbot that gradually learns to be more like its user 👬
— Wake Up Wednesday (@wake_up_weds) January 12, 2022
Download >> https://t.co/0dtTDJqYWl pic.twitter.com/hzGXZVvdHN
Comment fonctionne Replika ?
Le fonctionnement de Replika repose sur le modèle de langage GPT-3 d'OpenAI, au même titre que le fameux ChatGPT ou d'autres outils populaires comme Jasper AI.
Grâce au Deep Learning, ce « LLM » est en mesure de produire du texte à la manière d'un humain. Il s'agit d'un modèle « auto-régressif », ce qui signifie qu'il apprend à partir des valeurs avec lesquelles il a interagi auparavant. En l'occurrence, il s'agit de texte.
En d'autres termes, GPT s'améliore à mesure qu'on l'utilise. Ainsi, toute l'expérience utilisateur de Replika est construite autour des interactions de l'utilisateur avec un robot programmé avec GPT-3.
Qu'est-ce que GPT-3 ?
Le nom GPT-3 est en fait l'abréviation de Generative Pre-Trained Transformer 3. Ce type de modèle Transformer a été inventé par Google, et OpenAI a développé cette variante plus avancée.
Il s'agit d'une architecture de réseau de neurones aidant les algorithmes de Machine Learning à effectuer des tâches comme la modélisation de langage et la traduction automatique.
Les noeuds d'un tel réseau représentent des paramètres et des processus modifiant les entrées. Les connexions entre ces noeuds agissent comme des canaux de signalement.
Chaque connexion de ce réseau de neurones a un poids, ou un niveau d'importance déterminant le flux de signaux depuis un noeud vers l'autre.
Au sein d'un modèle autorégressif comme GPT-3, le système reçoit des retours en temps réel et ajuste continuellement les poids de ses connexions pour fournir des résultats plus précis et pertinents.
Ce sont ces poids qui aident un réseau de neurones à « apprendre » artificiellement. Au total, GPT-3 utilise 175 milliards de niveaux de poids de connexion ou paramètres.
Un paramètre est le calcul ajustant le poids de certains aspects des données au sein d'un réseau de neurone, pour lui donner plus ou moins de proéminence dans le calcul global des données.
On considère GPT-3 comme l'un des modèles de langage les plus avancés pour la prédiction de texte. Il a été entraîné sur un jeu de données si vaste que Wikipedia n'en représente que 0,6%.
Ce dataset inclut aussi des articles d'actualité, des recettes de cuisine, des poèmes, des manuels de code, des fictions, ou même des prophéties religieuses.
En tant que système de Deep Learning, GPT-3 parcourt les données à la recherche de patterns. Il explore le texte à la recherche de régularités statistiques. C'est ce qui lui permet de prédire la suite d'une phrase.
Pour tout savoir sur GPT-3, consultez notre dossier complet. Vous pouvez aussi découvrir notre dossier sur son successeur GPT-4, attendu pour 2023.
Comment Replika utilise GPT-3 ?
Replika est une adaptation de GPT-3 conçue pour un style spécifique de conversation. En l'occurrence, elle se focalise sur les aspects empathiques, émotionnels et thérapeutiques d'une conversation.
Cette technologie est encore en développement, mais pourrait faciliter l'accès à la conversation interpersonnelle. Selon ses créateurs, elle ne se contente pas de parler, mais écoute aussi l'utilisateur.
Les discussions avec Replika ne sont donc pas un simple échange de faits et d'informations, mais bien un dialogue avec des nuances linguistiques.
Cette IA peut en quelque sorte « comprendre » ce que dit l'utilisateur, et trouver une réponse humaine en l'utilisant son modèle prédictif.
En tant que système autorégressif, Replika apprend et s'adapte à la façon dont l'utilisateur lui parle. Plus une personne l'utilise, plus elle s'entraîne sur ses propres textes.
C'est la raison pour laquelle de nombreux utilisateurs éprouvent un attachement émotionnel à l'égard de leur Replika. Toutefois, cet attachement peut conduire à des excès…
Vers des chatbots indiscernables d'un humain ?
À l'heure actuelle, « l'humanité » de Replika est limitée par les capacités de GPT-3. Ce Transformer commet encore des erreurs, et peut produire du texte totalement dénué de sens.
Selon les experts, un modèle de langage aurait besoin de plus d'un billion de connexions pour pouvoir produire des chatbots capables d'imiter parfaitement le langage humain.
Toutefois, GPT-3 est considéré comme un bond exponentiel comparé à ses prédécesseurs tels que Microsoft Turing NLG. On peut donc s'attendre à de formidables progrès dans les années à venir…
- Partager l'article :
