LEBIGDATA.FR I.A, Cloud & Cybersécurité
Développer un système d'intelligence artificielle respectant les droits humains représente un réel défi pour les entreprises. Pour faire face à ces nouveaux enjeux, elles ont besoin de l'expertise d'un éthicien en IA.
Éthicien ou responsable éthique en intelligence artificielle fait sans doute partie des métiers les plus méconnus dans le domaine de l'informatique. L'éthicien tire son nom du mot « éthique ». Cela signifie qu'il veille à la dimension éthique de l'exploitation de l'intelligence artificielle. Il intervient donc dès la conception et le développement des règles algorithmiques. Pour mener à bien sa mission, l'éthicien doit avoir une solide connaissance des normes réglementaires.
Contexte de l'apparition du métier
L'intelligence artificielle investit progressivement le monde professionnel. Aujourd'hui, une entreprise peut s'appuyer sur ses capacités pour recruter des talents, réaliser un meilleur ciblage des internautes, conduire des prototypes de voitures électriques, etc. Bien que la communauté scientifique approuve ce progrès, des personnalités comme Stephen Hawking réclamaient un usage plus éthique de l'IA.
Des spécialistes ont mené diverses expériences pour tester les limites de l'intelligence artificielle. Leurs analyses ont démontré qu'une IA propose généralement une réflexion trop simpliste. Dans d'autres cas, sa capacité d'apprentissage est trop rapide. Ce phénomène engendre pourtant des problèmes.
Tay, l'IA de Microsoft en est l'exemple le plus connu. En quelques heures, l'outil a adopté une idéologie nazie. De son côté, Amazon se servait d'une IA dans son processus de recrutement. En s'appuyant sur les données de l'entreprise, l'algorithme d'embauche excluait les femmes. Ces exemples démontrent l'importance d'un responsable de l'éthique IA en entreprise.
Pourquoi un éthicien en IA devient indispensable en entreprise ?
Une IA agissant à l'encontre de l'éthique peut être préjudiciable pour une entreprise. Cette dernière s'expose à des amendes réglementaires, des poursuites judiciaires, une dévalorisation de ses actions, etc.
Prenons l'exemple d'un établissement financier ayant décidé d'utiliser l'IA pour traiter les demandes de prêt. L'algorithme risque de privilégier certaines demandes en fonction de leur origine ou de leur âge, ce qui est moralement inacceptable.
Au-delà des conséquences néfastes, plusieurs organisations ne maîtrisent pas encore tous les aspects de l'IA comme son utilisation de manière éthique. Sachant que cette technologie est devenue un atout stratégique, elles se heurtent régulièrement à des problèmes de ce type dans le futur.
Pourtant, peu d'entreprises disposent de ce poste en leur sein. L'éthique de l'IA incombe plutôt à des responsables ayant déjà d'autres fonctions. C'est le cas du programmeur d'IA, il se concentre essentiellement sur les merveilles que cette technologie peut accomplir. Les questions éthiques sont secondaires à ses yeux.
Il en est de même chez les dirigeants. Ces derniers sont davantage tournés vers les atouts commerciaux, ils relèguent les inconvénients éthiques au second plan.
Aujourd'hui, peu de profils correspondent à ce poste, ce qui complique le recrutement par les entreprises. De plus, cette fonction requiert des multiples compétences dans la technologie, la conformité réglementaire, le droit, la psychologie, etc.
Description du poste d'éthicien en IA
La principale mission de l'éthicien en IA consiste à analyser l'usage des technologies basées sous l'IA en tenant compte des valeurs humaines. L'homme ne devrait pas passer au second plan malgré la délégation de certaines tâches automatiques à un système d'IA.
Le responsable éthique veille à ce que le développement de cette technologie n'entrave pas les principes fondamentaux de la société. Il ne doit pas non plus constituer un obstacle aux libertés humaines.
De ce fait, l'éthicien collabore étroitement avec les développeurs IA dans l'élaboration des règles algorithmiques. Le système d'apprentissage de l'IA (machine learning et deep learning) tient compte de l'environnement et de l'homme.
Pour mener à bien son travail à ce poste, l'éthicien soulève régulièrement les questions d'ordre éthique au sein de son organisation : l'équité, le respect de la vie privée, la transparence, la diversité, etc. Malgré l'autonomie d'un système d'IA, il est dans son devoir de ne pas accorder entièrement sa confiance en cette technologie.
Les compétences clés pour devenir éthicien en IA
Un éthicien en IA garde un œil sur les approches techniques de l'IA. Il apporte des améliorations si nécessaires d'un point de vue social et éthique. Son intervention commence alors dès la conception, puis au développement et se poursuit après le développement du système d'IA.
Il assure également un rôle de conseiller auprès de ses collaborateurs sur les pratiques éthiques IA à adopter.
Pour s'acquitter de ces fonctions, l'éthicien en IA doit avoir des compétences dans plusieurs domaines :
- Les connaissances réglementaires : les lois n'arrivent souvent pas à suivre le rythme effréné des innovations dans le domaine de l'IA. Cependant, une bonne connaissance des lois reste indispensable à un éthicien. Ce dernier doit notamment maîtriser les réglementations autour de la protection et la confidentialité des données. L'éthicien est un veilleur réglementaire également. Il anticipe les prochaines lois en se basant sur les préoccupations actuelles du public et des législateurs.
Les connaissances techniques : l'IA étant la base du métier, l'éthicien doit développer une solide connaissance dans le domaine. Ceci lui permet d'avoir toutes les capacités pour soulever les questions morales et éthiques d'un projet. Certes, écrire des codes ne fait pas partie de son travail. Cependant, la maîtrise des concepts techniques de la conception au déploiement de l'IA est indispensable.
La connaissance de son secteur d'activité : l'éthicien doit avoir une solide connaissance de son secteur et du marché sur lequel se positionne son entreprise. Il peut ainsi poser des limites éthiques que l'employeur acceptera facilement. En effet, des exigences lourdes risquent d'être ignorées par les dirigeants.
La connaissance en communication : les questions éthiques peuvent être perçues comme contraignantes aux yeux des collaborateurs. L'éthicien en IA doit aider les collaborateurs à comprendre. L'empathie, l'écoute active, voilà autant de compétences indispensables pour communiquer.
Les formations et salaires d'un éthicien en IA
Sachant qu'il s'agit d'un métier récent, aucune formation dédiée n'existe pour le moment. Cependant, un candidat peut postuler pour ce poste avec un parcours équivalent. Un diplômé en droit ou en philosophie par exemple peut travailler dans le domaine. Cependant, il doit compléter son parcours par une formation en IA.
Les employeurs privilégient les profils ayant un niveau bac + 5 ou un doctorat avec une spécialisation dans l'IA. En France, plusieurs universités proposent ce cursus informatique :
ingénierie en intelligence artificielle à Paris 8 ;
intelligence artificielle et apprentissage automatique à l'Université Aix-Marseille ;
intelligence artificielle : applications et fondements à l'Université de Toulouse.
Un éthicien peut évoluer vers d'autres postes s'il le souhaite. Sachant qu'il dispose d'une base solide en informatique, il peut envisager une carrière de développeur ou d'expert en cybersécurité. Se lancer à son propre compte en tant que consultant représente une autre possibilité s'il a travaillé dans un cabinet de consultance.
Peu de données révèlent le salaire réel d'un responsable éthique IA au vu de sa récence. Néanmoins, un jeune diplômé peut toucher au minimum 35 000 euros par an et atteindre 60 000 euros après quelques années d'expérience. Le salaire d'un profil expérimenté travaillant dans une grande entreprise se situe entre 45 000 et 100 000 euros par an.
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
