Mesterséges intelligenciát fejlesztett az Amazon, hogy így tegye egyszerűbbé az állásjelentkezések feldolgozását, ám számításaikba igen komoly hiba csúszott - írja a Reuters. Észrevették ugyanis: a gép hátrányosan megkülönbözteti a nőket.
A válogató program fejlesztése még 2014-ben kezdődött, nyilatkozták a hírügynökség névtelenséget kérő forrásai. A cél az lett volna, hogy az egy-egy állásra jelentkezők közül automatikusan kiválassza a legjobb jelentkezőket, így könnyítve meg az emberi erőforrásokkal, azaz HR-rel foglalkozók munkáját. Mint egyikük összefoglalta:
Egy olyan mesterséges intelligencia dolga lett volna mindez, ami egy gépi tanulás nevű megoldással önmagát készíti fel a feladat elvégzésére. Ehhez a cégtől a már meglévő alkalmazottak adatait kapta meg a program: esetükben megfigyelte a visszatérő tulajdonságokat, a mintázatot, és pontosan a látottakhoz tartotta magát.
Lepontozta például azokat a jelentkezőket, akiknek olyan kifejezések szerepeltek életrajzában, mint hogy "női", és kiszűrte azokat is, akik női oktatási intézményekben tanultak. És mindez nem programhiba volt; a gép éppen hogy túl jól végezte a dolgát. Az Amazonnál ugyanis túlnyomó többségben férfiak dolgoznak, így hát a mesterséges intelligencia arra tanította magát, hogy férfiakat keressen.
A konkrét eseteket javította a cég, ám mint semmi sem garantálta, hogy nem fog egyéb módon diszkriminálni a program a jövőben is, végül 2017-ben leállították.
Az Amazon nem kívánta kommentálni az esetet.
