LEBIGDATA.FR I.A, Cloud & Cybersécurité
Les chercheurs de Stanford et Google ont créé un village virtuel peuplé de personnages dotés d'intelligence artificielle, afin d'observer leur comportement. Découvrez les résultats de l'expérience !
Partout dans le monde, de nombreuses personnes dialoguent avec ChatGPT pour obtenir des réponses à leurs questions ou automatiser leur travail.
Mais que se passerait-il si l'on peuplait tout un village virtuel avec des personnages dotés de cette IA ? C'est précisément ce qu'ont voulu vérifier les chercheurs de Google et de l'université de Stanford à travers une étude publiée à cette adresse.
Leur objectif était de vérifier s'ils pouvaient appliquer les dernières avancées dans le domaine des modèles de Machine Learning pour créer des « agents génératifs » capables de tenir compte des circonstances et de produire une action réaliste en réponse.
Ces chercheurs voulaient parvenir à produire un « simulacre crédible de comportement humain ». Et leur tentative s'est soldée par un succès.
Un village peuplé par 25 agents ChatGPT
Les petits personnages peuplant ce village virtuel en pixel art sont une représentation visuelle des multiples instances de ChatGPT conversant entre elles.
Derrière ces graphismes, une couche textuelle dissimulée complexe synthétise et organise l'information relative à chaque agent.
Au total, 25 instances ChatGPT cohabitent au sein de cet environnement. Chacune a reçu un prompt lui permettant de jouer le rôle d'une personne différente.
Par exemple, l'un des personnages dénommé John Lin est décrit de cette manière :
« John Lin est un commerçant de pharmacie au Willow Market and Pharmacy qui aime aider les gens. Il cherche toujours des moyens de faciliter le processus d'obtention des médicaments pour ses clients. John Lin vit avec sa femme, Mei Lin, qui est professeur d'université, et son fils, Eddy Lin, qui étudie la théorie musicale. John Lin aime beaucoup sa famille ; John Lin connaît le vieux couple d'à côté, Sam Moore et Jennifer Moore, depuis quelques années ; John Lin pense que Sam Moore est un homme gentil ».
Les personnages choisissent leurs actions selon le contexte
À partir de ces informations, il est ensuite demandé aux agents de prédire leur prochaine action en fonction de l'heure et du contexte.
Par exemple, les chercheurs peuvent indiquer à l'agent John qu'il est 8 heures du matin et qu'il vient de se réveiller.
En réaction, le personnage décide de se brosser les dents, embrasser sa femme, s'habiller et se rendre à la cuisine.
Au même moment, une autre instance de ChatGPT représentant le fils de John, Eddy, reçoit aussi ses informations sur les circonstances. Il décide de se lever, brosser ses dents et se rendre à la cuisine.
Les deux agents John et Eddy se retrouvent donc dans la cuisine en même temps, mais ne sont pas réellement dans un même espace virtuel. C'est le framework expérimental qui se charge d'informer John que son fils Eddy est aussi dans la pièce à la même heure.
Les personnages reçoivent aussi une description de la pièce, avec des éléments tels qu'un four allumé ou une table à laquelle personne n'est assis.
Ils vont alors décider d'interagir, en dialoguant de cette façon :
« John : Bonjour Eddy. As-tu bien dormi ?
Eddy : Bonjour papa. Oui, j'ai super bien dormi.
John : C'est bien. Sur quoi travailles-tu aujourd'hui ?
Eddy : Je travaille sur une nouvelle composition de musique pour ma classe. Je dois la rendre cette semaine, donc j'essaye de la finir. Mais je m'amuse beaucoup avec ça !
John : Ça paraît super ! ».
Il n'y a donc pas de réel contact entre ces agents ChatGPT indépendants. Ils réagissent à des prompts leur demandant ce qu'elles feraient dans une situation hypothétique.
Chaque personnage continue ainsi sa journée minute par minute, avec des activités comme faire les courses, se promener au parc ou aller travailler.
Interactions et réactions aux événements perturbateurs
Les utilisateurs peuvent aussi inventer et décrire des événements perturbateurs, comme un robinet qui fuit ou un désir d'organiser une fête. Là encore, ces informations contextuelles provoquent les réactions des personnages.
Par exemple, voici le prompt informatif fourni à John quand il rencontre à nouveau Eddy plus tard dans la journée :
« Nous sommes le 13 février 2023, à 16h56.
Statut de John Lin : John rentre tôt du travail
Observation : John a vu Eddy se promener autour de son lieu de travail
Résumé du contexte pertinent à partir de la mémoire de John : Eddy Lin est le fils de John Lin. Il a travaillé sur une composition musicale pour sa classe. Eddy Lin aime marcher autour du jardin quand il pense à sa musique ou l'écoute ».
Le but est d'éviter que les instances oublient des éléments importants, car le processus est long. Les informations pertinentes sont donc synthétisées à chaque fois.
Les chercheurs peuvent ensuite demander à John comment il réagit : « John interroge Eddy sur son projet de composition musicale. Que dirait-il à Eddy ? ».
En guise de réaction, l'instance ChatGPT répond : « Hey Eddy, comment se passe ton projet de composition musicale pour l'école ? ».
Comment observer ce monde virtuel ?
Même s'il n'est pas encore possible d'influer sur ce village virtuel, vous pouvez visionner une rediffusion de l'expérience sur un site web interactif à cette adresse.
Au cours de cette session, les chercheurs ont donné au personnage d'Isabelle l'idée d'organiser une fête pour la St Valentin.
À partir du lundi matin, les différents agents ont commencé à s'inviter entre eux à l'événement, ou même à planifier à quelle heure ils arriveront ensemble.
Il est possible de cliquer sur les agents pour consulter leur statut, les souvenirs qu'ils ont stockés dans leurs mémoires, avec qui ils parlent ou ceux qu'ils sont en train de faire.
À la fin, cinq personnes sur les douze invitées se présentent. Trois ne sont pas venus à cause de leur emploi du temps, et quatre ont tout bonnement changé d'avis.
Les personnages communiquent entre eux
Au cours de l'expérience, les chercheurs ont aussi donné au personnage de Sam l'objectif de devenir maire du village de Smallville. Il a donc annoncé sa candidature à ses voisins.
En deux jours, le nombre d'agents au courant de la candidature de Sam est passé d'un (4%) à huit (32%). De même, le nombre de personnages prévenus de la fête d'Isabelle est passé d'un (4%) à douze (48%).
Et ce, sans la moindre intervention des chercheurs. Les agents IA semblent donc réellement communiquer entre eux…
Le futur des jeux vidéo ?
Même si ce processus ne permet pas de créer de véritables agents génératifs, il pourrait s'agir de la meilleure façon de s'en rapprocher jusqu'à présent.
Par exemple, le jeu vidéo Dwarf Fortress repose sur le même fonctionnement, mais toutes les possibilités de réactions des personnages sont codées manuellement. Il n'est donc pas possible d'étendre le système à grande échelle.
Bien que ChatGPT ne soit pas conçu pour imiter des personnages fictifs à long terme ou pour spéculer sur les nombreux détails de leurs quotidiens, les agents s'en sortent très bien.
Cette expérience pourrait donc avoir d'importantes répercussions sur toutes les simulations d'interactions humaines. Ceci inclut bien sûr les jeux vidéo et autres environnements virtuels, même s'il sera nécessaire de perfectionner l'approche avant de l'appliquer à ce domaine.
Rappelons d'ailleurs que le géant Ubisoft travaille sur une intelligence artificielle pour générer automatiquement les répliques des PNJ (personnages non joueurs) dans ses jeux !
Un risque de dérive à la Westworld
Malheureusement, la possibilité de manipuler et d'observer des agents IA évoluer dans un monde virtuel introduit aussi des risques de dérive pour le futur.
Comme dans la série Westworld produite par HBO, on imagine sans mal des individus mal intentionnés s'amusant à torturer ou persécuter les pauvres personnages.
Pour l'heure, ChatGPT est bien trop limité pour ressentir de la souffrance, de la tristesse ou toute autre émotion. Mais alors que le modèle GPT-5 prévu pour la fin 2023 pourrait être la première IA générale, la question éthique du respect de l'intégrité des agents pourrait vite prendre de l'importance…
Sommes-nous dans un simulateur ?
Cette simulation rudimentaire soulève aussi une autre question : et si nous étions nous-mêmes des agents IA dans un monde virtuel bien plus avancé ?
Nul doute que d'autres expériences similaires verront le jour au fil des années à venir, avec un accroissement exponentiel du réalisme et de la complexité.
Tôt ou tard, il sera certainement possible de simuler toute notre planète et ses 7 milliards d'habitants vivant leur quotidien et interagissant les uns avec les autres.
Il est donc légitime de se demander si nous ne sommes pas d'ores et déjà dans une telle simulation, créée par une civilisation beaucoup plus évoluée que la nôtre…
Cette théorie du simulateur ne date pas d'hier, et elle est soutenue par de nombreux experts du monde entier comme Elon Musk. Plus l'IA et les mondes virtuels évolueront, plus cette hypothèse sera crédible…
- Partager l'article :
