Vysokorizikové AI systémy: AI v nábore a HR

Čo je vysokorizikový AI systém?

Vysokorizikový AI systém je systém uvedený v prílohe III AI Act (samostatné systémy v citlivých oblastiach) alebo bezpečnostný komponent regulovaného produktu podľa prílohy I. Riziko sa posudzuje podľa účelu použitia, nie podľa technológie.

Zdroj: čl. 6, prílohy I a III nariadenia (EÚ) 2024/1689; termíny: nariadenie (EÚ) 2026/1744 (Digital Omnibus)

Ktoré oblasti patria do prílohy III?

Príloha III zahŕňa osem oblastí:

• biometria,
• kritická infraštruktúra,
• vzdelávanie (prijímanie, hodnotenie),
• zamestnanosť (nábor a výber, rozhodovanie o povýšení či prepustení, prideľovanie úloh, monitorovanie a hodnotenie výkonu),
• prístup k základným službám (napr. hodnotenie bonity, životné a zdravotné poistenie),
• presadzovanie práva, migrácia, justícia.

Je triedenie životopisov cez AI vysokorizikové?

Áno, AI použitá na nábor a výber uchádzačov – vrátane triedenia a hodnotenia životopisov – patrí do oblasti zamestnanosti v prílohe III. Platí to aj vtedy, keď firma na triedenie používa všeobecný nástroj ako ChatGPT.

Aké povinnosti má firma, ktorá takýto systém používa?

Nasadzujúci subjekt má podľa čl. 26 okrem iného tieto povinnosti:

• používať systém podľa návodu poskytovateľa,
• zabezpečiť ľudský dohľad kompetentnými osobami,
• monitorovať prevádzku,
• uchovávať automaticky generované logy aspoň 6 mesiacov,
• pred nasadením na pracovisku informovať zamestnancov a ich zástupcov.

Zdroj: čl. 26 nariadenia (EÚ) 2024/1689

Prečo začať už teraz, keď povinnosti platia od 2. 12. 2027?

Pretože výber dodávateľa, nastavenie ľudského dohľadu a zaškolenie ľudí trvá mesiace. Nástroje, ktoré si vyberiete dnes, budete pravdepodobne používať aj v roku 2027 – a AI gramotnosť (čl. 4) platí už teraz.

Čo robiť dnes

Začnite štyrmi krokmi:

1. Zmapujte HR nástroje s AI (nábor, hodnotenie, plánovanie práce).
2. Overte u dodávateľa, ako sa pripravuje na požiadavky pre vysoké riziko.
3. Určte, kto bude výsledky AI kontrolovať a môže ich zmeniť (ľudský dohľad).
4. Pripravte informovanie zamestnancov a ich zástupcov.