Éthicien dans le domaine de l’IA : Un métier du futur ?

Lorsque nous envisageons une association de l’éthique et de l’intelligence artificielle, cela ne fait pas directement sens. Pourquoi appliquer l’éthique à une technologie ? Parce que cette dernière prend tout simplement de plus en plus de place dans notre société et peut être amenée à prendre des décisions vis à vis de notre personne. L’éthique est donc indispensable pour que l’intelligence artificielle ne soit pas abonnée aux décisions discriminantes et injustifiées. C’est en cela qu’un futur métier pourrait s’avérer essentiel pour chaque élaboration de l’intelligence artificielle, le métier d’éthicien.

L’éthique, une condition essentielle

L’éthique est la science de la morale et des mœurs. C’est une discipline philosophique qui réfléchit sur les finalités, sur les valeurs de l’existence, sur les conditions d’une vie heureuse et  la notion de « bien » ou de « mal ». L’éthique nous sert à agir comme un humain, sans discrimination, sans heurter nos droits et libertés.  Elle nous aide à prendre des décisions justes en respectant l’Homme et l’écosystème qui l’entoure. Elle nous pousse à réfléchir sur nos actes, leurs conséquences, et les valeurs qu’il est important de respecter. Malheureusement, tous les Hommes n’en sont pas dotés. Or, il est important que des technologies intègrent dans leurs algorithmes cette science. Pour quelle raison? Afin de respecter nos droits et libertés fondamentaux lors de la prise des diverses décisions.

L’IA, une innovation remplie de biais

L’intelligence artificielle est un « ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine » selon le dictionnaire Larousse. Ainsi, c’est par ces algorithmes, qui sont un ensemble de règles opératoires propres à un calcul, une suite de règles formelles, que notre vie est influencée. De quelle manière ? Pour décider de l’avenir post-bac des lycéens, pour aider la police à sélectionner les lieux les plus propices aux infractions pour patrouiller, pour rendre des jugements, pour recommander des contenus sur des plateformes, pour conduire des voitures autonomes, lire des radios ou poser un diagnostic par exemple.

Or, l’IA pour prendre ces décisions doit être « nourrie » de données. Malheureusement, ces dernières peuvent être biaisées par la conception des Hommes sur certains sujets. Par exemple, il a été démontré que l’IA utilisée aux USA pour la police prédictive était raciste et pleine de préjugés : les algorithmes indiquent de patrouiller majoritairement dans les quartiers habités par les personnes noires. Il en est de même pour l’évaluation des chances de récidive : les personnes d’origines étrangères sont présentées comme ayant plus de risque de récidiver selon les algorithmes. Ainsi, aucune éthique est actuellement présente dans la prise de décision de l’IA. Elle est pourtant essentielle pour maintenir un principe d’égalité, de respect de nos droits et libertés.

L’éthicien, le gardien de nos droits et libertés

L’idéal serait donc de créer un nouveau métier : celui d’éthicien. Il serait chargé d’insuffler la morale et les mœurs dès la conception de l’IA jusqu’à la prise de décision. Il devra veiller à ce que les algorithmes prennent des décisions éthiques, mais aussi à ce que les données ne soient pas biaisées. Quel profil pourrait-il avoir ? Quelqu’un qui détient de multiples compétences, que ce soit dans le domaine des technologies (spécialement sur le fonctionnement de l’IA), mais aussi dans le domaine juridique. Malheureusement, ce métier n’existe pas encore, il apparaitra peut être à force de constater des décisions discriminantes prises par l’IA, mais il sera peut être trop tard…

A propos de Clothilde MACÉ

Étudiante en master 2 "Droit de l'économie numérique", je suis une grande passionnée du droit des données et de l'intelligence artificielle.

Vous aimerez aussi...

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.