Entreprise
En 2014, un groupe chez Amazon développe une intelligence artificielle afin d'aider les ressources humaines de l'entreprise à trier les curriculum vitae et sélectionner les bons profils. Le modèle informatique sur lequel ce robot s'est appuyé pour accomplir sa tâche était « nourri » par dix ans de CV et de candidatures pour des postes de développeurs logiciel et des emplois techniques. Des profils majoritairement masculins, ce qui a poussé l'intelligence artificielle à noter défavorablement les CV envoyés par des femmes.
Même si les CV sont anonymes, le robot pouvait deviner le sexe de la personne en scrutant certaines informations, par exemple si le hobby du candidat est « présidente du club d'échecs ». Une des cinq sources qui a révélé l'affaire auprès de Reuters a expliqué qu'Amazon voulait que ce système puisse ingurgiter une centaine de CV et en déterminer les cinq meilleurs à embaucher. Les profils féminins n'y avaient manifestement pas leur place.
Dès 2015, Amazon s'est rendu compte que quelque chose clochait avec cette intelligence artificielle. Le problème a été réglé rapidement, mais l'entreprise n'a jamais utilisé ce système pour des recrutements, seuls des essais ont été effectués. Amazon craignait que d'autres biais ne se soient glissés dans l'IA. Le projet a été abandonné l'an dernier, pas uniquement d'ailleurs en raison de la discrimination fondée sur le genre.
Même si les CV sont anonymes, le robot pouvait deviner le sexe de la personne en scrutant certaines informations, par exemple si le hobby du candidat est « présidente du club d'échecs ». Une des cinq sources qui a révélé l'affaire auprès de Reuters a expliqué qu'Amazon voulait que ce système puisse ingurgiter une centaine de CV et en déterminer les cinq meilleurs à embaucher. Les profils féminins n'y avaient manifestement pas leur place.
Dès 2015, Amazon s'est rendu compte que quelque chose clochait avec cette intelligence artificielle. Le problème a été réglé rapidement, mais l'entreprise n'a jamais utilisé ce système pour des recrutements, seuls des essais ont été effectués. Amazon craignait que d'autres biais ne se soient glissés dans l'IA. Le projet a été abandonné l'an dernier, pas uniquement d'ailleurs en raison de la discrimination fondée sur le genre.
