Váš AI nástroj na nábor môže byť vysokorizikový podľa AI Act. Tu je, čo to znamená.

AI v HR nie je automaticky vysokoriziková

ATS, ktorý ukladá životopisy alebo plánuje pohovory, vysokorizikový systém nie je. Rovnako ním nie je nástroj, ktorý napíše neutrálny text inzerátu. Rozhoduje určený účel a skutočný spôsob použitia. Príloha III pritom siaha ďalej, než si väčšina personálnych oddelení pripúšťa. Patrí sem cielená reklama pracovných miest, analýza alebo filtrovanie žiadostí, hodnotenie uchádzačov a rozhodnutia o podmienkach práce, povýšení, skončení pracovného pomeru, prideľovaní úloh či monitorovaní pracovníkov.

Pravidlá pre tieto systémy sa uplatnia od 2. decembra 2027, čo je dosť času na audit a zároveň málo na to, aby ste ho odkladali do posledného kvartálu. AI Omnibus nadobudol účinnosť 27. júla 2026. Dátum 2. augusta 2028 patrí inam. Týka sa regulovaných výrobkov a bezpečnostných komponentov z prílohy I, nie bežného náborového softvéru.

Časová os AI Act, Európska komisia. Konkrétne prípady náboru a administratívnej podpory rozlišuje aj metodika AI Act Service Desk pre zamestnávanie.

Dôležitý je článok 6 ods. 3. Ak systém z prílohy III nespôsobuje významné riziko a materiálne neovplyvňuje rozhodnutie, môže zostať mimo vysokorizikovej kategórie, no ten záver musíte vedieť odôvodniť, nie iba vyhlásiť. Výnimka pokrýva úzku procesnú úlohu, zlepšenie už ukončenej ľudskej činnosti, rozpoznanie vzorcov bez nahradenia alebo ovplyvnenia preskúmaného ľudského posúdenia, alebo prípravnú úlohu. Profilovanie fyzických osôb výnimku ruší.

Zapíšte si určený účel, vstupy, výstup, meno človeka, ktorý smie výsledok zvrátiť, a dôvod, pre ktorý si myslíte, že výnimka platí. Neoznačujte ranking iba za administratívnu podporu.

Otázky pre dodávateľa ATS a vlastný tím

Od dodávateľa si vyžiadajte dokumentáciu ku konkrétnemu použitiu. Začnite tým, čo má model podľa dokumentácie robiť. Filtruje žiadosti ešte pred tým, než ich uvidí náborár? Alebo len zostaví poradie a odporučí mená ďalej? Pýtajte sa aj na dáta a zástupné znaky, ktoré do modelu vstupujú, na to, či vôbec ide o profilovanie, a na to, kto rozhodol, že tieto znaky sú v poriadku.

Vidí náborár dôvody za výsledkom? Môže opraviť dáta a výsledok zvrátiť skôr, než padne významné rozhodnutie? Na záver si vypýtajte testy skreslenia a zmenové riadenie. Postup pri incidente chcete vidieť na papieri ešte pred podpisom zmluvy, lebo po prvom chybne odmietnutom uchádzačovi už nebude čas hľadať, kto za to v tíme zodpovedá.

Dodávateľ býva provider, zamestnávateľ spravidla deployer. Povinnosti každého z nich sú iné a zmluva ich musí rozdeliť menovite.

Provider pri vysokorizikovom systéme zodpovedá za systémové kontroly a dokumentáciu, za riadenie rizík a za logy, ktoré má pod svojou kontrolou. Článok 19 vyžaduje uchovávanie logov primerane účelu, najmenej šesť mesiacov, ak iné právo neurčí inak. Deployer musí postupovať podľa návodu, sledovať prevádzku, určiť účinný ľudský dohľad a tam, kde to zákon vyžaduje, informovať dotknutých ľudí o tom, že o nich rozhoduje aj stroj. Ľudský dohľad nie je formálny podpis.

GDPR článok 22 má vlastný test pre výlučne automatizované rozhodnutia s právnym alebo podobne významným účinkom. Nezakazuje každé AI-podporené HR rozhodnutie.

Článok 27 nevyžaduje FRIA od každého súkromného zamestnávateľa. Týka sa verejných orgánov a súkromných poskytovateľov verejných služieb. Do zoznamu patria aj určené použitia v úveroch a v životnom či zdravotnom poistení, a preto treba rozsah povinnosti posúdiť podľa konkrétneho použitia. DPIA môže byť potrebná podľa GDPR.

Pri odmene sledujte aj aktuálne vnútroštátne pravidlá a náš článok o transparentnosti odmeňovania. Začnite technickým auditom. Zmapujte nástroje a ich účely. Vyžiadajte si od dodávateľa dôkazy, otestujte reprezentatívne workflow na životopisoch z minulého náborového kola a potom si zdokumentujte, kde presne v celom tom procese rozhoduje človek. Napíšte nám a pozrieme sa na Váš ATS alebo HR systém.