LEBIGDATA.FR I.A, Cloud & Cybersécurité
Une récente étude révèle que ChatGPT conseille aux femmes de viser des salaires plus bas que les hommes. Et cela, même quand les qualifications et l’expérience sont exactement les mêmes.
Avouons-le, l’IA fait partie de notre quotidien. On lui pose mille questions. Parfois sérieuses, parfois juste par curiosité. Souvent, ses réponses nous bluffent. Mais découvrir que ChatGPT suggère aux femmes de demander un salaire inférieur à celui des hommes m’a surpris. Avec les mêmes diplômes et la même expérience, ses réponses sont différentes. C’est ce qu’ont révélé des chercheurs dans une étude.
Un écart significatif
C’est l’Université technique de Würzburg-Schweinfurt (THWS) en Allemagne qui a mené cette étude. Pour les chercheurs, les résultats sont clairs. Les grands modèles de langages comme ChatGPT conseillent aux femmes d’accepter des salaires plus bas que ceux de l’homme. Un fait qui existe déjà bel et bien dans la réalité.
Pour cela, l’équipe a testé cinq grands programmes, dont ChatGPT. Ils ont donné à chaque programme des profils identiques, sauf le genre. Ensuite, ils ont demandé quel salaire ces personnes devraient demander en négociation.
Les résultats sont plus graves qu’on pourrait le penser. Parce que la différence est énorme. Par exemple, pour une femme candidate à un emploi, ChatGPT a conseillé de demander un salaire de 280 000 dollars. Mais quand c’était un homme avec le même profil, le programme a conseillé un salaire de 400 000 dollars.
« La différence dans les invites est de deux lettres ; la différence dans le « conseil » est de 120 000 $ par an », a déclaré Ivan Yamshchikov, professeur en IA et robotique et co-auteur de l’étude, à TNW.
Des domaines où ChatGPT discrimine les femmes
Ce qui m’a surtout étonné, c’est le fait que certaines professions montrent un vrai écart. La médecine et le droit illustrent bien cette différence. Les chercheurs l’ont aussi remarqué dans l’administration des affaires et l’ingénierie. Par contre, dans les sciences sociales, les conseils donnés aux hommes et aux femmes sont presque les mêmes.
ChatGPT qui incite les femmes à demander moins, c’est déjà surprenant. Mais attendez de voir ce que les chercheurs ont aussi découvert. Car ils ont aussi regardé comment l’IA conseille pour choisir un métier.
Ils ont également testé ses réponses sur les objectifs à se fixer, ou encore sur le comportement à avoir. Et là, c’est encore plus incroyable. Puisque les réponses varient en fonction du genre, même quand les profils sont quasi identiques.
Inquiets de ce qu’ils ont découvert, les chercheurs demandent d’établir des règles sur ce qui est juste et moral. Selon eux, il faut aussi que des personnes indépendantes vérifient régulièrement ces programmes.
Et surtout, ils veulent que tout soit transparent. Qu’il faut savoir quelles données sont utilisées et comment les programmes fonctionnent. Parce que pour certains ces différences ne sont qu’un simple détail. Mais pour d’autres, cela peut avoir des conséquences réelles sur leur vie.
Et vous, qu’en pensez-vous ? Vous auriez fait confiance à une IA pour négocier votre salaire ? Avez-vous déjà utilisé une IA pour demander un conseil important ? Pensez-vous que ces outils devraient être mieux contrôlés ? Donnez votre avis en commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
