Последње четири године Ерин Кистлер пријављивала се на хиљаде огласа за посао у компанијама попут „Пејпала“, „Мајкрософта“ и „Нетфликса“. Ипак, њене пријаве као да су нестајале у црној рупи – без позива на разговор и без објашњења.
Кистлер је менаџерка за развој производа са готово 20 година искуства и уверена је да је испуњавала услове за свако од радних места на која се пријавила. Ипак, ниједном није добила прилику за интервју, пише Гардијан.
Сада је одлучила да тужи компанију „Eightfold AI“, произвођача софтвера за запошљавање из Силицијумске долине, чије системе користе стотине компанија, укључујући и неке у којима је конкурисала.
ПОВЕЗАНЕ ВЕСТИ
Тужба је поднета у јануару пред судом у Калифорнији и једна је од првих у којима се тврди да аутоматизована селекција кандидата функционише као необјављени извештај о потенцијалном запосленом – својеврсни досије који алгоритам користи да процени колике су шансе да ће кандидат бити успешан на одређеном послу.
Проблем је у томе што кандидати не знају шта систем о њима закључује, нити имају прилику да виде или оспоре резултате.
Вештачка интелигенција све више одлучује о запошљавању
Употреба вештачке интелигенције и аутоматизованих система у процесу запошљавања последњих година нагло расте. Према подацима Светског економског форума, прошле године чак 90 одсто послодаваца користило је неки облик аутоматизације приликом запошљавања.
ФОТО: Shutterstock/FOTOGRINТо може бити нешто једноставно, попут филтрирања кандидата који немају факултетску диплому или одређени сертификат, али и много сложенији системи који процењују знања и способности кандидата, анализирају њихове одговоре или чак обављају први интервју.
„Eightfold AI“ себе описује као један од највећих светских извора података о радној снази. Компанија непрекидно ажурира базу података информацијама из биографија, профила на „ЛинкедИну“ и других извора, а њена технологија користи те податке за процену кандидата.
Алгоритам кандидатима може доделити оцену од нула до пет, покушавајући да предвиди колико би успешно обављали одређени посао. Та оцена потом може да утиче на то ко ће бити позван на разговор, а ко ће бити одбачен већ у првом кругу.
Адвокати Ерин Кистлер сматрају да кандидати морају имати право да знају шта такви системи говоре о њима.
Слично као што грађани у САД имају право да виде податке у својим кредитним извештајима и да оспоре нетачне информације, кандидати би, према овом аргументу, требало да знају шта се налази у њиховом „алгоритамском досијеу“.
Без такве транспарентности, готово је немогуће утврдити да ли алгоритам некога неправедно дискриминише.
„Концепт црне кутије је веома застрашујући“, рекла је адвокатица Рејчел Демпси, која заступа Кистлер.
ФОТО: Shutterstock/VesnaArtКомпанија „Eightfold AI“ одбацила је оптужбе и поручила да сматра да је тужба неоснована.
Да ли алгоритам може да направи црну листу кандидата?
Компаније које производе софтвер за запошљавање тврде да вештачка интелигенција помаже менаџерима да уштеде време и смање утицај људских предрасуда.
Међутим, стручњаци упозоравају да се дешава управо супротно.
„Како смо више истраживали системе вештачке интелигенције за запошљавање, видели смо да они често понављају исте предрасуде које имају и људски менаџери“, каже Ифеома Аџунва, професорка права на Универзитету Емори.
Алгоритми су обучени да препознају обрасце у огромним количинама података. Али управо због тога могу да науче и старе стереотипе.
Познат је пример „Амазона“, који је својевремено користио систем вештачке интелигенције који је лошије рангирао биографије жена. Разлог је био у томе што су у подацима о најуспешнијим запосленима доминирали мушкарци. Када је проблем откривен, компанија је престала да користи тај систем.
У другом истраживању Аџунва је открила да су системи вештачке интелигенције лошије оцењивали кандидате са јужњачким акцентом током телефонских интервјуа, јер су имали проблема да разумеју њихов говор.
Истраживања такође показују да алгоритми могу да створе потпуно нове облике предрасуда.
У једној студији истраживачи су од вештачке интелигенције тражили да бира кандидате за измишљена занимања и припаднике измишљених демографских група. После неколико кругова селекције, алгоритми су почели да повезују одређене групе са одређеним занимањима, иако за то није постојао никакав стварни разлог.
Ако је, на пример, један припадник одређене групе био успешан лекар, алгоритам је временом почео да фаворизује припаднике исте групе за послове лекара. Друге групе су, напротив, све чешће добијале слабије плаћене или мање престижне послове.
Истраживачи су утврдили да су неки новији и напреднији модели показивали чак и више предрасуда приликом доношења одлука о запошљавању.
ФОТО: Shutterstock/takasuПосебно је опасно то што се једна одлука алгоритма може преносити са једног послодавца на другог.
Ако вас одбије људски менаџер, увек можете покушати у другој компанији. Али ако вас одбије алгоритам који користи велики број компанија, исти образац може да се понавља изнова.
„У стварности сте алгоритамски стављени на црну листу“, упозорава Аџунва.
Стручњаци страхују да би велики број компанија које користе исте или сличне системе могао да створи својеврсну „алгоритамску монокултуру“ – ситуацију у којој једна негативна процена значајно смањује шансе кандидата да уопште добије посао.
Може ли вештачка интелигенција да буде праведна?
Стручњаци не сматрају да вештачку интелигенцију треба потпуно избацити из процеса запошљавања. Она може да помогне у анализи великог броја пријава, провери знања или обављању првих разговора.
Али коначну одлуку, према њиховом мишљењу, не би требало препустити алгоритму.
Имaн Абузеид, директорка компаније која развија АИ алате за запошљавање у здравству, наводи да њихов систем може да обави телефонски интервју, али не одбацује, не рангира и не оцењује кандидате аутоматски.
Циљ је, како каже, да се прикупе информације како би човек који доноси одлуку имао што више података.
У САД се истовремено појављују и први прописи који покушавају да ограниче могуће злоупотребе. Њујорк је 2023. године увео правила према којима компаније које користе одређене аутоматизоване системе морају да спроводе годишње провере могуће дискриминације и да унапред обавесте кандидате да се таква технологија користи.
ФОТО: Shutterstock/Summit Art CreationsСличне мере усвајају и друге савезне државе.
Ипак, правници сматрају да само обавештење није довољно. Кандидати би морали да знају и шта алгоритам о њима закључује.
Јер ако неко буде одбијен за посао због одлуке коју је донео алгоритам, а не зна шта је довело до те одлуке, практично нема начин да је оспори.
Случај Ерин Кистлер зато би могао да постане важан преседан. Ако суд прихвати њене аргументе, компаније би у будућности могле бити принуђене да кандидатима откривају много више информација о томе како вештачка интелигенција утиче на њихове шансе за запослење.
У супротном, упозоравају стручњаци, све већи број људи могао би да буде одбијен за посао, а да никада не сазна ко их је заправо одбио – човек или алгоритам.
