Maaaring Hindi Pagbutihin ng AI-Powered Job Recruitment Tools ang Diversity sa Pag-hire, Nagtatalo ang mga Eksperto

Topline

Ang mga tool sa pangangalap ng trabaho na nagsasabing gumagamit sila ng artipisyal na katalinuhan upang maiwasan ang mga bias ng kasarian at lahi ay maaaring hindi mapabuti ang pagkakaiba-iba sa pagkuha, at maaaring aktwal na mapanatili ang mga pagkiling, ang mga mananaliksik sa Unibersidad ng Cambridge ay nakipagtalo noong Linggo, na nagsumite ng mga programa-na umani ng kritisismo sa nakaraan- bilang isang paraan ng paggamit ng teknolohiya upang mag-alok ng mabilis na pag-aayos para sa mas malalim na problema.

key Katotohanan

Sa isang papel na inilathala ng Pilosopiya at Teknolohiya, tiningnan ng mga mananaliksik ang mga claim mula sa ilang kumpanya na nag-aalok ng mga tool sa recruitment na pinapagana ng AI, na marami sa mga ito ay nagsasabing nag-aalis ng mga bias at nagpo-promote ng pagkakaiba-iba sa pamamagitan ng pagtatago ng mga pangalan, kasarian at iba pang mga identifier ng mga kandidato, at ilan sa mga ito ranggo mga kandidato batay sa mga pag-scan ng resume, online na pagtatasa at pagsusuri ng pagsasalita at ekspresyon ng mukha ng mga aplikante.

Ang mga mananaliksik—dalawang propesor sa University of Cambridge's Center for Gender Studies—ay nagtalo na ang mga tool na ito ay maaaring aktwal na magsulong ng pagkakapareho sa pag-hire dahil ang mga ito ay nagpaparami ng mga kultural na bias ng "ideal na kandidato," na dating puti o European na mga lalaki.

Maaaring hindi rin mapahusay ng mga tool ang pagkakaiba-iba dahil nakabatay ang mga ito sa dating data ng kumpanya at sa gayon ay maaaring mag-promote ng mga kandidatong pinakakapareho sa mga kasalukuyang empleyado.

Mayroong "maliit na pananagutan para sa kung paano binuo o nasubok ang mga produktong ito," sinabi ni Eleanor Drage, isang co-author at researcher ng pag-aaral sa University of Cambridge Center for Gender Studies, sa isang pahayag, na idinagdag na ang teknolohiya ay maaaring magsilbi bilang isang "mapanganib" pinagmumulan ng "maling impormasyon tungkol sa kung paano maaaring 'de-biased' at gawing mas patas ang recruitment."

Croteal Quote

"Sa pamamagitan ng pag-aangkin na ang kapootang panlahi, sexism at iba pang anyo ng diskriminasyon ay maaaring alisin sa proseso ng pag-hire gamit ang artificial intelligence, ang mga kumpanyang ito ay binabawasan ang lahi at kasarian hanggang sa hindi gaanong mahalagang mga punto ng data, sa halip na mga sistema ng kapangyarihan na humuhubog sa kung paano tayo gumagalaw sa mundo, ” sabi ni Drage sa isang pahayag.

Tangent

Inanunsyo ng Amazon noong 2018 na gagawin nito itigil gamit ang isang tool sa AI-recruiting upang suriin ang mga resume ng mga aplikante sa trabaho pagkatapos nitong matuklasan na ang system ay may matinding diskriminasyon laban sa mga babae. Ito ay dahil ang mga modelo ng computer na sinaligan nito ay binuo batay sa mga resume na isinumite sa kumpanya sa nakalipas na 10 taon, na karamihan ay nagmula sa mga lalaking aplikante.

Pangunahing background

Ang mga organisasyon ay lalong bumaling sa AI upang tumulong na pamahalaan ang mga proseso ng pangangalap ng trabaho. Sa isa Poll ng 2020 sa mahigit 300 pinuno ng human resources na binanggit ng mga may-akda ng papel noong Linggo, natagpuan ng consulting firm na Gartner na 86% ng mga employer ang gumagamit ng virtual na teknolohiya sa kanilang mga kasanayan sa pag-hire, isang trend na bumilis mula noong pandemic ng Covid-19 na pinilit ang marami na lumipat ng trabaho online. Habang ang ilang mga kumpanya ay nagtalo na ang AI ay maaaring mag-alok ng isang mas cost- at time-effective na proseso sa pag-hire, ang ilan eksperto mayroon natagpuan ang mga sistema ay may tendensiya na isulong—sa halip na alisin—ang pag-hire na may kinikilingan sa lahi at kasarian sa pamamagitan ng pagkopya ng mga umiiral na pagkiling mula sa totoong mundo. May ilang mambabatas sa US naglalayong upang harapin ang mga bias sa mga sistema ng artificial intelligence, habang ang teknolohiya ay patuloy na mabilis na umuunlad at kakaunti ang mga batas na umiiral upang ayusin ito. Inilabas ang White House ngayong linggo isang "Blueprint para sa isang Bill of Rights ng AI," na nangangatwiran na ang mga algorithm na ginamit sa pag-hire ay natagpuan na "magpakita at mag-reproduce ng mga umiiral na hindi kanais-nais na hindi pagkakapantay-pantay" o mag-embed ng bagong "bias at diskriminasyon." Ang blueprint—na hindi legal na nagbubuklod o isang opisyal na patakaran ng gobyerno—ay nananawagan sa mga kumpanya na tiyaking hindi nadidiskrimina o nilalabag ng AI ang privacy ng data, at ipaalam sa mga user kung kailan ginagamit ang teknolohiya.

Ano Upang Panoorin Para

Sa isang listahan ng mga rekomendasyon, ang mga may-akda ng Sunday's Pilosopiya at Teknolohiya iminungkahing papel ng mga kumpanya na bumuo ng mga teknolohiya ng AI ay nakatuon sa mas malawak, sistematikong hindi pagkakapantay-pantay sa halip na "mga indibidwal na pagkakataon ng bias." Halimbawa, iminumungkahi nila na suriin ng mga developer ng software ang mga kategoryang ginagamit upang pagbukud-bukurin, iproseso at ikategorya ang mga kandidato at kung paano maaaring magsulong ang mga kategoryang ito ng diskriminasyon sa pamamagitan ng pag-asa sa ilang mga pagpapalagay tungkol sa kasarian at lahi. Ipinagtanggol din ng mga mananaliksik na dapat subukan ng mga propesyonal sa HR na maunawaan kung paano gumagana ang mga tool sa recruitment ng AI at kung ano ang ilan sa kanilang mga potensyal na limitasyon.

Kamangha-mangha

Inuri ng European Union ang software sa pag-hire na pinapagana ng AI at mga tool sa pagsusuri ng pagganap bilang "mataas na panganib" sa bago nito burador legal na framework sa AI, ibig sabihin, ang mga tool ay sasailalim sa higit pang pagsusuri at kakailanganing matugunan ang ilang partikular na kinakailangan sa pagsunod.

Karagdagang Reading

Gusto ng DC na pangunahan ang paglaban sa bias ng AI (Axios)