Firmy musejí naučit zaměstnance používat AI. Mají na to jen měsíce

Nová pravidla pro fungování umělé inteligence definitivně potvrdily členské státy Evropské unie teprve před pár týdny, už teď by však firmy měly zpozornět. Takzvaný Akt o umělé inteligenci, který zatím nemá ve světě obdobu, totiž již za několik měsíců zavede firmám novou povinnost – proškolit své zaměstnance v používání AI.

Povinnost vyplývající z článku 4 tohoto aktu společnostem ukládá zajistit dostatečnou úroveň gramotnosti svých zaměstnanců a dalších osob zapojených do provozu a používání systémů umělé inteligence. Zaměstnanci by tak měli mít povědomí zejména o rizicích spojených s používáním AI, jakož i o možných škodách, které tyto systémy mohou způsobit.

Podle Dalibora Kováře, partnera advokátní kanceláře Havel & Partners, však Akt o umělé inteligenci explicitně neuvádí konkrétní podmínky pro získání těchto dovedností ani jejich parametry.

„Mělo by se nicméně jednat především o pravidelná školení zaměřená na compliance s Aktem, technické aspekty umělé inteligence, bezpečné používání AI technologií a pochopení jejich rizik a přínosů. U větších korporací pak bude agenda umělé inteligence zpravidla koordinována pověřeným AI officerem, který bude mít k dispozici adekvátní technický a právní aparát,“ vysvětluje právník.

Odborníci na novou právní úpravu upozorňují, že zmiňovaná gramotnost nepředstavuje jednorázovou povinnost, kterou by bylo možné splnit jediným proškolením.

„Naopak, jedná se o kontinuální povinnost zaměstnavatelů. A s ohledem na rychlý a exponenciální vývoj umělé inteligence lze očekávat, že školení zaměstnanců bude třeba provádět pravidelně a aktualizovat obsah těchto školení, aby zaměstnanci vždy měli aktuální znalosti a dovednosti potřebné pro bezpečné a efektivní využívání umělé inteligence,“ zdůrazňuje Jan Ježek, seniorní advokát z pražské pobočky kanceláře CMS.

Firmy by tak podle právníků měly zavést kontinuální vzdělávací programy a školení zaměřená na různé úrovně zaměstnanců podle jejich rolí a odpovědností. Tato školení by navíc měla zahrnovat nejen technické aspekty, ale také etické aspekty a společenské dopady AI technologií.

„Rozsah vhodných opatření k zajištění dostatečné úrovně gramotnosti v oblasti AI bude v praxi třeba posuzovat individuálně u každého zaměstnavatele, zejména s ohledem na jeho činnost a způsob a rozsah využívání umělé inteligence,“ popisuje praxi Ježek.

„Obecně mezi vhodná opatření patří příprava a pravidelná aktualizace vnitřních předpisů, které budou obsahovat popis základních oblastí znalosti fungování umělé inteligence,“ doporučuje Ježek.

Mezi ně podle něj patří například možnosti a rizika spojená s AI, dopady a vliv používání AI, schopnosti potřebné pro interakci s AI, potřebnost kritického myšlení a vyhodnocení etických a právních dopadů nebo práva a povinnosti jednotlivců při používání AI.

„S těmito vnitřními předpisy bude nutné zaměstnance prokazatelně seznámit, což znamená pravidelně je školit a kontrolovat dodržování těchto předpisů v praxi,“ vysvětluje.

Zatímco většina ustanovení přijatého AI aktu začne platit až dva roky po začátku jeho platnosti, povinnost proškolit své zaměstnance budou mít firmy už do šesti měsíců. A vzhledem k tomu, že regulace vstoupí s největší pravděpodobností v platnost už v srpnu tohoto roku, zaměstnavatelé budu mít na proškolení svých zaměstnanců čas pravděpodobně do února 2025.

Firmám, které v této lhůtě své povinnosti nedostojí, však podle právníků zatím přímá sankce nehrozí. „AI Act nezakotvuje sankce za nedodržení článku 4 ani neurčuje, jak bude posuzována dostatečná gramotnost,“ vysvětluje Dalibor Kovář.

„Dle našeho názoru jde spíše o měkkou povinnost, která ve své podstatě formalizuje, co by společnosti pohybující se v oblasti AI měly obecně dělat. Jedná se tedy o ustanovení nejlepší praxe tak, aby společnosti v kontextu vývoje a zavedení AI systému zajistily soulad s AI Actem, jakož i související organizační a technické zabezpečení,“ vysvětluje advokát.

Nedodržení článku 4 tak podle něj nepovede k sankci v podobě pokuty, ale může mít jiné právní důsledky, například v případě, že bude společnost provozující AI žalována na náhradu újmy. „Nedodržení článku 4 AI Actu bude velice pravděpodobně namítáno,“ upozorňuje.

I přesto by však požadavek neměl pro firmy představovat zátěž, ale příležitost. Proškolení zaměstnanců by mělo vést k podpoře inovací ve firmách i dalších organizacích a zároveň využití AI technologií na maximum díky jejímu komplexnímu pochopení zaměstnanci.