Amazon : une intelligence artificielle de recrutement sexiste ?

 

 

 

 

En 2014, Amazon a voulu automatiser ses recrutements grâce à la mise en place d’une intelligence artificielle (IA) secrète. Malheureusement, le géant a dû l’abandonner car elle discriminait les femmes. 

L’automatisation est le principe central de la stratégie d’Amazon, ce qui lui permet sa domination dans le e-commerce. Il était donc logique pour le groupe de se tourner vers l’automatisation de leurs recrutements. 

Le programme servait le processus de recrutement d’Amazon en attribuant à chaque candidat une note d’une à cinq étoiles. Or, il se trouve que le système donnait des notes moins bonnes aux candidates pour des postes de développeurs web ou autres fonctions techniques.

Cela s’explique tout simplement par l’algorithme qui utilise le « machine learning ». L’IA va donc se baser sur des données pré-existantes pour prendre des décisions par reproduction. Or, les données utilisées étaient celles des recrutements effectués sur les dix dernières années, par des êtres humains, pour des postes largement représentés par les hommes. 

De ce fait, tout CV mentionnant une université non-mixte ou contenant des mots comme femme ou féminin (exemple capitaine de football féminin) recevait automatiquement une moins bonne note.

Selon Reuters, le programme n’était qu’un test et a subi des modifications lors de la découverte du biais sexiste. Cependant, Amazon a préféré s’en séparer à la fin de l’année 2017, n’étant pas certain de l’absence de discrimination par le système. 

Cet incident réveille les inquiétudes sur l’intelligence artificielle. L’apprentissage automatique (machine learning) a ses limites et la présence de l’Homme reste toujours indispensable aujourd’hui. Pourtant, les entreprises continuent à développer leur propre intelligence artificielle. Son intégration dans le recrutement est inévitable, mais quand sera-t-elle réellement prête ? 

A propos de Cecilia DI PIETRO

Vous aimerez aussi...

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.