Anche gli algoritmi peccano di sessismo. La disparità di genere non riguarda solo gli esseri umani, ma anche le intelligenze artificiali programmate dagli esseri umani stessi. L’ultimo esempio riguarda Amazon e il suo tentativo di dare vita a un motore di reclutamento. Lo ha dimostrato uno degli ultimi esperimenti diAmazon, che ha provato a usufruire dell’intelligenza artificiale per passare in rassegna i curricula degli aspiranti dipendenti, per poi scoprire che il suo software discriminava le donne. Il progetto che è nato tra il 2014 e il 2017 puntava a elaborare un sistema in grado di automatizzare la ricerca dei talenti e, soprattutto, di liberarne la selezione dalla variante della soggettività e dai possibili errori dei reclutatori. L’obiettivo del colosso dell’e-commerce era quello di creare un meccanismo capace di scremare più di cento profili e di selezionare quelli dei cinque fortunati provvisti di tutti i requisiti necessari per l’assunzione.
Il sistema, basato sull’apprendimento automatico, aveva però il problema di discriminare le donne, soprattutto per i ruoli tecnologici. Questo perché era stato “allenato” attraverso i curricula ricevuti dalla società nell’arco di 10 anni e provenienti in gran parte da uomini, che sono più presenti nei settori tecnologici. Il motore di reclutamento, a cui ha lavorato un gruppo di 12 persone con base a Edimburgo, non è mai stato usato come unico sistema per assumere dipendenti, hanno precisato le fonti. Così il team è stato sciolto all’inizio del 2017, ed è stato accantonato dai dirigenti, che hanno perso fiducia nelle potenzialità dell’idea.
Leggi anche: Amazon: Jeff Bezos guadagna $275 milioni al giorno ma i dipendenti sono alla fame
L’esperimento era nato in un momento cruciale per il gigante del commercio elettronico: l’apprendimento automatico stava guadagnando terreno e il dipartimento Risorse umane di Amazon si apprestava a triplicare il proprio personale. Il compito del team incaricato del progetto – una dozzina di persone impiegate nel centro ingegneristico di Amazon a Edimburgo – era quello di sviluppare un’intelligenza artificiale in grado di setacciare rapidamente i curriculum delle persone che si erano proposte per un’offerta di lavoro e individuare i migliori candidati. A ogni candidato veniva assegnato un punteggio che, come nel caso dei prodotti venduti sul sito di ecommerce di Amazon, variava da una a cinque stelle.
Ma quando l’azienda si è resa conto che i programmi presentavano problemi di disparità di genere, ha cercato di correggere il tiro. Ma rimaneva il rischio che emergessero altre questioni discriminatorie. Così non c’è stata altra opzione che quella di chiudere il progetto. Sembra inoltre che a Edimburgo verrà formato un nuovo team con lo scopo di dare una seconda occasione alla selezione automatizzata dei lavoratori.
Leggi anche: Amazon: 4 motivi che avrebbero spinto la compagnia ad aumentare lo stipendio ai dipendenti