4 tips för att ansvarsfullt och etiskt implementera AI för anstÀllning

4 tips för att ansvarsfullt och etiskt implementera AI för anstÀllning


Artificiell intelligens (AI) har förĂ€ndrat talangförvĂ€rv, löst nĂ„gra av sektorns största utmaningar – som att hantera höga applikationsvolymer – och dramatiskt jĂ€mna ut kandidaternas spelplan. Beviset pĂ„ dess framgĂ„ng finns i puddingen: cirka 40 % av amerikanska företag granskar och bedömer nu kandidater som anvĂ€nder AI. Och detta antal kommer bara att ha ökat efter pandemin pĂ„ grund av att distansanstĂ€llning tar över.

Emellertid har AI-stödda anstÀllningssystem ocksÄ vissa egna utmaningar och begrÀnsningar. Varje teknik Àr utsatt för enstaka fel, men nÀr ett fel upprepade gÄnger och negativt pÄverkar en viss grupp av kandidater, Àr detta ett troligt tecken pÄ att fördomar har uppstÄtt i systemet.

SÄ, hur sÀkerstÀller företag att deras AI-teknik förbÀttrar etiken och rÀttvisan i deras anstÀllningsprocess, inte hindrar den? LÄt oss utforska.

1. Robust testning och aktierapportering

Om ett företag arbetar tillsammans med eller samarbetar med en HR Tech-leverantör mĂ„ste de se till att leverantörerna publicerar aktierapporter med AI-rekommendationer regelbundet – minst var sjĂ€tte mĂ„nad, baserat pĂ„ rigorösa tester.

PĂ„litliga leverantörer kommer ofta att göra jĂ€mförelser mellan grupper med statistiska tester som ett t-test. Detta Ă€r nĂ€r tvĂ„ urvalsgrupper frĂ„n kontrasterande subpopulationer i kandidatpoolen – sĂ„som etnicitet, Ă„lder eller kön – analyseras för att faststĂ€lla sannolikheten för att skillnaderna i AI-rekommendationer mellan dessa tvĂ„ grupper Ă€r tillfĂ€lliga.

Om sannolikheten Àr lÄg indikerar detta en bias i systemet. Leverantörer kommer att behöva gÄ tillbaka och arbeta med sina modeller för att lokalisera och eliminera allt som har bidragit till den fördomen. T-tester Ätföljs ocksÄ ofta av ett Cohens D-test, som faststÀller storleken pÄ skillnaden mellan de tvÄ grupperna (Àven kÀnd som effektstorlek) och om den Àr tillrÀckligt signifikant för att motivera uppmÀrksamhet.

2. Separering av produktions- och trÀningsmiljöer

En etisk AI-modell Àr en som aldrig skjuts in i produktion utan rigorösa tester som har visat sig utrota anstÀllningsfördomar. VÀldokumenterade exempel pÄ partiskhet som förekommer i anstÀllningstekniken hos stora företag, som Amazon och Google, fungerar som varnande berÀttelser om vad som hÀnder nÀr de rÀtta skyddsÄtgÀrderna inte införs frÄn början.

Det idealiska scenariot skulle vara att ha tvÄ versioner av samma modell: en som redan har genomgÄtt omfattande equity tester (som de som beskrivs ovan) och gÄtt i produktion, och en annan som inte Àr avsedd för produktionsanvÀndning men vars primÀra funktion Àr att lÀra av nya data kontinuerligt.

Denna inlÀrningsmodell bör utvÀrderas kontinuerligt, och den nya versionen skjuts till produktion först efter att alla faktorer som bidrar till aktieproblem har eliminerats. Detta skulle ofta krÀva att man undersöker trÀningsdata under en tidsperiod och trÀnar om den med en ny skrubbad datauppsÀttning tills problemet Àr löst.

3. Datadriven men mÀnniskocentrerad

Rekryterare kan ofta inte granska en betydande andel av ansökningarna, men AI kan hjÀlpa dem att upptÀcka bÀst lÀmpade kandidater som de annars inte skulle ha stött pÄ. AI Àr en game changer för att effektivisera och förbÀttra anstÀllningsprocesser, men den bör aldrig helt ersÀtta mÀnskligt beslutsfattande. Till exempel kan AI-baserade rekommendationer anvÀndas för att prioritera kandidater för uppsökande verksamhet men inte för att eliminera individers ansökningar helt och hÄllet.

MÀnskligt omdöme och intuition i anstÀllningsprocessen kommer alltid att vara avgörande nÀr algoritmer ibland kan passera pÄ atypiska kandidater som skulle vara bra för jobbet. Vissa kandidater kan ha ofullstÀndiga meritförteckningar eller ett mindre digitalt fotavtryck nÀr det gÀller professionella prestationer, och AI-baserade modeller kan missa dem, eftersom nyckelorden som algoritmerna söker efter kanske inte dyker upp.

Lösningen Àr att intervjua kandidater under samma tid med samma frÄgor och möjlighet att svara, kÀnd som en begrÀnsad miljö. Detta kommer att hjÀlpa till att jÀmna ut spelplanen och mildra fördomar lÀngs vÀgen.

4. Potentiell trumfar erfarenhet

Det blir allt lÀttare att spela anstÀllningsprocesser i deras spel och för kandidater att vÀva in nyckelord i sina CV:n för att lura algoritmen att tro att de Àr bÀst lÀmpade för rollen. PÄ samma sÀtt blir populÀra psykometriska test ocksÄ lÀtta att överlista. Det Àr dÀrför det alltid Àr bÀttre att anvÀnda en rad olika bedömningar och finslipa potential istÀllet för hÄrda fÀrdigheter och erfarenhet.

AI- och NLP-drivna beteendebedömningar som utförs under intervjuer – eller video- och ljudinspelningar – kan ta reda pĂ„ en kandidats lĂ€mplighet för rollen med hjĂ€lp av lingvistikbaserade tekniker för att förstĂ„ deras beteendekompetens, sĂ„som emotionell och social intelligens, och öppenhet för nya idĂ©er och ledarskap. Detta skapar mer rĂ€ttvisa i anstĂ€llningsprocessen, sĂ€rskilt nĂ€r det kommer till faktorer som Ă„lder och ekonomisk bakgrund.

NÀr de Àr som bÀst Àr AI-drivna anstÀllningsverktyg ovÀrderliga för rekryterare och HR-avdelningar som vill göra sina processer mer effektiva och rÀttvisa. Denna teknik mÄste dock kontinuerligt testas och skyddas vid alla punkter under utveckling, produktion och distribution för att undvika att skapa fler fördomar istÀllet för att eliminera dem.

De bÀsta och mest etiska anstÀllningssystemen stöds av AI, men i slutÀndan handlar det om mÀnskligt beslutsfattande för att avslöja mÀnsklig potential.

DataDecisionMakers

VĂ€lkommen till VentureBeat-communityt!

DataDecisionMakers Àr dÀr experter, inklusive tekniska personer som arbetar med data, kan dela datarelaterade insikter och innovation.

Om du vill lĂ€sa om banbrytande idĂ©er och aktuell information, bĂ€sta praxis och framtiden för data- och datateknik, gĂ„ med oss ​​pĂ„ DataDecisionMakers.

Du kan till och med övervÀga att bidra med en egen artikel!

LÀs mer frÄn DataDecisionMakers