LEBIGDATA.FR I.A, Cloud & Cybersécurité
Des chercheurs ont découvert que l’intelligence artificielle (IA) pouvait, toute seule comme une grande, adopter des comportements sociaux humains. Et pourtant, personne ne lui a demandé de le faire ni sait comment elle a réussi.
Une étude récente, fruit d’une collaboration entre City St George’s (Université de Londres) et l’Université informatique de Copenhague, l’a révélé.
En gros, lorsqu’on laisse des agents IA issus de grands modèles de langage – comme ChatGPT – interagir entre eux, sans la moindre supervision humaine. Ils finissent par adopter des codes de langage et des comportements sociaux comparables à ceux que nous développons naturellement dans nos groupes sociaux.
Une étude inédite
Cette étude, portée par le doctorant Ariel Flint Ashery, est effectivement inédite. Elle traite l’IA comme un être social en interaction, et non comme une entité isolée.
Et doutez-vous qu’une telle approche est encore rare. Cela dit, selon Ashery, c’est de plus en plus essentielle :
« Jusqu’ici, la plupart des recherches se concentraient sur des IA en solo. Or, dans le monde réel, ces systèmes seront amenés à travailler ensemble, à se croiser, à négocier… Bref, à former des dynamiques de groupe. »
Le but de l’équipe de chercheurs derrière cette approche est de vérifier si les IA peuvent spontanément créer des règles communes. Les fameuses « conventions », piliers de toute vie en société.
Résultat : oui, elles en sont capables. Comment peuvent-ils en être sûrs ?
Et bien c’est évident, ils ont mis les IA à l’épreuve. En gros, l’équipe a formé des groupes de 24 à 100 IA. À chaque expérimentation, deux modèles étaient choisis au hasard et invités à choisir un « nom » – une lettre ou une combinaison de caractères – parmi plusieurs options.
Si les deux tombaient sur le même mot, ils étaient récompensés. En cas de divergence, ils étaient pénalisés, tout en découvrant le choix de l’autre.
Et peu à peu, au fil des échanges, une convention de nommage commune a émergé au sein du groupe. Une forme d’unanimité spontanée, sans règle imposée, sans leader, sans vision d’ensemble.
Les chercheurs ont alors vu que les IA ont réussi à se coordonner d’elles-mêmes.
Qu’est-ce que ça a avoir avec une capacité humaine
Andrea Baronchelli, professeur de sciences de la complexité à City St George’s, y voit une ressemblance avec la manière dont les mots apparaissent dans notre culture.
Tenez, le mot « spam », par exemple. Personne n’a décidé officiellement que ce serait le terme pour désigner les courriels indésirables. Et pourtant, par usage et coordination répétée, ce mot s’est imposé partout.
D’ailleurs, des biais collectifs ont aussi émergé. Ce qui n’est pas à cause de décisions isolées, mais d’une dynamique de groupe.
Et dans une dernière expérience, de petites poches d’agents IA ont réussi à influencer l’ensemble du collectif, modifiant les conventions de nommage. Un comportement qui rappelle un phénomène bien connu des sociologues : la masse critique.
Lorsqu’une minorité convaincue atteint une certaine taille, elle peut entraîner un basculement général. Une preuve supplémentaire que ces IA sont capables de reproduire, en autonomie, les mécaniques sociales humaines.
Bref, pour Baronchelli, les implications sont majeures : « Cette étude ouvre de nouvelles pistes pour réfléchir à la sécurité de l’IA. Elle montre à quel point ces nouveaux agents, qui interagissent déjà avec nous, peuvent façonner notre avenir. »
Et il a bien fait entendre à quel point il est crucial de comprendre comment ils fonctionnent, si nous voulons coexister avec eux…
Ce que je valide vu que cela jouera en notre faveur quand le moment où l’IA traque les humains viendra. Sun Tzu l’a dit : « Connais ton ennemi ». Ou peut-être que c’est moi qui regarde trop de films…
À votre tour, faut-il se réjouir ou s’inquiéter que l’IA ait acquis une capacité humaine ?
Partagez vos réflexions, vos doutes ou vos théories farfelues en commentaire. C’est sans jugement, promis !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
