L’IA Act prévoit d’encadrer l’intelligence artificielle mais la mise en application de ce règlement européen n’est pas attendue avant 2025. Dans un contexte quasiment dépourvu de cadre règlementaire et moral, le rôle de l’éthicien ou éthicienne en IA est fondamental.

Les technologies d’intelligence artificielle qui vont à l’encontre de l’éthique peuvent en effet porter préjudice aux entreprises, exposées à des amendes, des poursuites judiciaires, à une dévalorisation de leurs actions et une dégradation de leur image. Microsoft en sait quelque chose, qui a conçu Tay, une IA devenue raciste et misogyne après une journée de conversations sur Twitter en 2016. De même qu’Amazon dont l’algorithme de recrutement discriminait les femmes en 2014.


Sa mission principale : veiller à l’utilisation éthique de l’IA

L’éthicien ou l’éthicienne en IA s’assure que la collecte de données, les règles des algorithmes et les résultats obtenus sont conformes aux principes fondamentaux de nos sociétés humaines. Il ou elle veille au respect de la vie privée, de la diversité, des libertés, de veiller à l’équité, la neutralité, la sécurité…

Il ou elle travaille sur le design des systèmes algorithmiques de sorte qu’ils respectent la liberté et l’autonomie des personnes. C’est un·e spécialiste qui apporte de la méthode dans les pratiques, à différentes phases d’un projet d’intelligence artificielle (conception, développement, déploiement, commercialisation). Sa mission lui demande de collaborer étroitement avec les développeurs et développeuses IA pour l’élaboration des règles algorithmiques.

L’éthicien ou éthicienne en IA alerte sur les risques de biais dans la programmation et dans la sélection des données. Il ou elle pointe les paradoxes qui surgissent entre les défis technologiques à relever et la déontologie à observer. Sa mission l’amène enfin à s’impliquer dans l’audit des algorithmes et à mener des recherches pour développer une IA éthique.


Les compétences de l’éthicien ou éthicienne en IA

Exercer ce métier demande d’avoir une bonne compréhension de l’IA, de concepts tels que l’apprentissage automatique, le traitement du langage naturel, les principes éthiques fondamentaux et leur application à l’IA.

La connaissance de son secteur d’activité et de son marché est aussi nécessaire, pour poser des limites éthiques acceptables pour l’employeur.

La connaissance des réglementations en matière de protection des données et de vie privée est requise. Ces notions sont en effet généralement liées aux questions éthiques de l’IA.

Des connaissances techniques sont également nécessaires. Si coder ne fait pas partie de son travail, maîtriser les concepts techniques de la conception au déploiement de l’IA est indispensable.

La capacité à gérer des projets, notamment pour mettre en œuvre des politiques éthiques, est un atout.

L’éthicien ou éthicienne en IA doit également détenir des compétences en communication, en pédagogie et un grand sens de l’écoute. Ces soft skills sont nécessaires pour expliquer les enjeux éthiques et sensibiliser les différentes parties prenantes.


Formations et diplômes

Le métier est accessible à un niveau bac + 5. Du fait de son apparition récente, il n’existe pas encore de formation dédiée. Toutefois, plusieurs portes d’entrée permettent d’y accéder, par exemple, une formation en droit ou en philosophie complétée par une expertise en IA, ou inversement.

Voici des exemples de diplômes et cursus :

  • Master informatique avec spécialisation en IA ;
  • Diplôme (type mastère, MBA, MSc) d’école spécialisée (Ensta, Epita, Télécom Paris, Insa Rouen Normandie, Grenoble INP Ensimag) ;
  • IASD, Intelligence artificielle, systèmes, données (Paris Dauphine PSL) ;
  • IAAA, Intelligence artificielle et apprentissage automatique (Université Aix-Marseille) ;
  • 2IA, Ingénierie en intelligence artificielle (Université Paris 8) ;
  • IAFA, Intelligence artificielle : fondements et applications (Université Toulouse 3 Paul Sabatier) ;
  • Androïde (UMPC) ;
  • Pour les professionnel·les de santé, le DU Intelligence artificielle IA appliquée en santé.


Rémunération

La rémunération de l’éthicien ou éthicienne en IA varie en fonction de l’expérience, du type de société, du domaine d’activité et de la région. En 2024, son salaire s’élève à :

  • Junior : 35 à 45 K€ brut/an 
  • Confirmé·e : 40 à 60 K€ brut/an 
  • Senior : > 50 à > 60 k€ brut/an


Liens utiles

Ce métier vous intéresse mais vous voulez valider ce choix avec un professionnel ? Utilisez le service de coaching Objectif Emploi Orientation et un conseiller répondra à toutes vos interrogations.