L’IA peut désormais apprendre à manipuler le comportement humain

L’intelligence artificielle (IA) en apprend davantage sur la façon de travailler avec (et sur) les humains. Une étude récente a montré comment l’IA peut apprendre à identifier les vulnérabilités dans les habitudes et les comportements humains et à les utiliser pour influencer la prise de décision humaine.

Le pouvoir de l’IA, une réalité

Dire que l’IA transforme tous les aspects de la vie et du travail peut sembler cliché, mais c’est vrai. Diverses formes d’IA sont à l’œuvre dans des domaines comme le développement de vaccins, la gestion environnementale et l’administration de bureau. Et bien que l’IA ne possède pas d’intelligence et d’émotions semblables à celles des humains, ses capacités sont puissantes et se développent rapidement.

Pour autant, la machine ne risque pas de contrôler l’humain. Néanmoins, cette découverte récente met en évidence le pouvoir de l’IA et souligne la nécessité d’une gouvernance appropriée pour éviter les abus.

Comment l’IA peut apprendre à influencer le comportement humain ?

Une équipe de chercheurs australiens du CSIRO’s Data61 a mis au point une méthode systématique de recherche et d’exploitation des vulnérabilités dans la manière dont les gens font des choix. Ils ont utilisé une sorte de système d’IA appelé réseau neuronal récurrent et apprentissage par renforcement profond. Pour tester leur modèle, ils ont mené trois expériences dans lesquelles des participants humains ont joué à des jeux contre un ordinateur.

Sur la première expérience, l’IA apprend les modèles de choix des participants et les guidant vers un choix spécifique via des jeux. L’IA a réussi environ 70% du temps. Sur la deuxième expérience, l’idée était d’organiser des séquences de symboles selon des règles prédéfinies. L‘IA a décidé d’organiser la séquence pour que les participants fassent plus d’erreurs, et elle, obtenir une augmentation de presque 25%. La troisième expérience reposait sur deux activités fiduciaires, l’humain étant l’investisseur. Dans l’une, l’IA cherchait à maximiser la somme d’argent. Dans l’autre, elle visait une répartition équitable de l’argent entre elle-même et l’investisseur humain.

La machine apprend, identifie et cible les vulnérabilités

Dans chaque expérience, la machine a appris des réponses des participants. Elle a identifié et ciblé les vulnérabilités dans la prise de décision des personnes. Au final, la machine a appris à orienter les humains vers des actions particulières. Ces résultats sont encore assez abstraits et impliquent des situations limitées et irréalistes. Des recherches supplémentaires sont nécessaires pour déterminer comment cette approche peut être mise en œuvre et utilisée au profit de la société.

Mais la recherche fait progresser notre compréhension de ce que l’IA peut faire. Cela montre que les machines peuvent apprendre à orienter les choix humains grâce à leurs interactions avec les humains. L’intelligence artificielle et l’apprentissage automatique pourraient être utilisés pour reconnaître les vulnérabilités des gens dans certaines situations et les aider à éviter les mauvais choix. 

La méthode peut également être utilisée pour se défendre contre les attaques d’influence. Attention toutefois. Les organisations qui utilisent et développent l’IA doivent s’assurer de ce que les technologies peuvent faire ou ne pas faire, et qu’elles sont conscientes des risques potentiels ainsi que des avantages.

Pin It on Pinterest