Paris Match Belgique

Quand Amazon se débarrasse d’une intelligence artificielle sexiste

Amazon

L'intelligence artificielle a reproduit les discriminations (conscientes ou inconscientes) des recruteurs d'Amazon sur les dix dernières années. | © Unsplash

Technologie

Amazon avait développé un engin destiné à automatiser le recrutement. Mais le projet a dû être abandonné : la machine reproduisait les discriminations à l’embauche sexistes. 

 

D’après le magazine Slate, Amazon, qui attire de nombreux demandeurs d’emploi, avait un rêve : « un engin auquel on pouvait fournir 100 CVs [pour] qu’il recrache les cinq meilleurs et qu’on embauche ceux-là ». Le gain de temps pour le recrutement du géant du web aurait pû être gigantesque, et l’initiative aurait été parfaitement alignée au fonctionnement de la multinationale de plus en plus automatisé. De plus, quoi de mieux qu’un robot pour (enfin) se débarasser des discriminations à l’embauche ? Mauvaise pioche ! En effet, il s’est avéré que la machine imitait les discriminations à l’embauche observées dans les actions des recruteurs humains.

Lire aussi  > Une intelligence artificielle analyse votre personnalité en scannant vos yeux

La faute au « machine learning »

La faute revient à l’algorithme utilisé dans la plupart des intelligences artificielles. Appelé « machine learning » (apprentissage de la machine), il décrit le principe selon lequel la machine apprend des actions ayant précédé son existence, et se base sur celles-ci pour prendre des décisions. Dans le cas qui nous concerne, la machine s’est donc basée sur des actions effectuées par les recruteurs sur les dix dernières années. Or, d’après Reuters, 60% des employés d’Amazon sont des hommes. Aux postes techniques, le pourcentage de femmes est encore plus faible. En conséquence, l’intelligence artificielle a simplement reproduit les discriminations (conscientes ou inconscientes) des recruteurs d’Amazon.

Amazon
Unsplash

Lire aussi  > Vous oubliez tout ? L’intuition artificielle arrive

Étaient alors automatiquement éliminés les CVs indiquant des universités non-mixes, ou ceux sur lesquels s’inscrivait le mot « femme » (par exemple : club de foot pour femmes). Le géant a donc dû abandonner le projet, qui n’en était heureusement qu’à une phase test. Mais l’entreprise n’abandonne pas l’idée d’un jour, parvenir à automatiser le recrutement. Espérons que le géant du web a également pris des mesures afin que ses effectifs humains cessent les discriminations imitées par leur machine.

 

 

CIM Internet