Odpovědnost zaměstnavatele a zaměstnance v souvislosti s využitím umělé inteligence
Umělá inteligence (dále jen „AI“) je neustále se rozvíjejícím trendem, který se stává neodmyslitelnou součástí moderní společnosti, včetně pracovního prostředí. Může sloužit k automatizaci některých pracovních procesů, hodnocení zaměstnanců nebo jejich náboru. S jejím zavedením se však pojí zásadní otázka: kdo nese odpovědnost za výstupy a rozhodnutí AI, které vznikají při jejím využití v pracovním prostředí? Právní pohled na tuto problematiku přináší následující článek.
Článek se věnuje analýze odpovědnostních vztahů vznikajících při využívání systémů umělé inteligence v pracovním prostředí, a to v kontextu stávající české a evropské právní úpravy, zejména nařízení AI Act a zákoníku práce. Vzhledem k absenci komplexní speciální úpravy odpovědnosti za AI je třeba vycházet z obecných principů občanského zákoníku a zákoníku práce, přičemž AI je právně kvalifikována jako věc, nikoliv jako subjekt p... více
Přístupy k odpovědnosti v pracovním prostředí
V českém právním řádu dosud neexistuje jednotná právní úprava komplexně regulující odpovědnostní vztahy v souvislosti s využíváním systémů AI, a je proto nezbytné vycházet z již existujících odpovědnostních principů. AI přitom není považována za subjekt práva, ale za věc v právním smyslu – technický nástroj, produkt vytvořený člověkem.
Při využívání systémů AI na pracovišti může odpovědnost vznikat především na straně zaměstnavatele, ale za určitých okolností také na straně zaměstnance či třetích osob – nejčastěji poskytovatele nebo výrobce systému AI, případně jiného subjektu v obdobném postavení.
Odpovědnost zaměstnavatele může vznikat nejen vůči vlastním zaměstnancům, ale samozřejmě také vůči třetím osobám, mezi něž mohou patřit například zákazníci, klienti, obchodní partneři, dodavatelé, ale i jakékoli jiné osoby, jejichž práva nebo oprávněné zájmy mohou být využíváním AI dotčeny.
Odpovědnost za jednání zaměstnance při využívání AI vůči třetím osobám nese zpravidla zaměstnavatel, a to i v případech porušení zaměstnavatelem stanovených postupů zaměstnancem, s výjimkou případů, kdy zaměstnanec jedná mimo rámec svých svěřených úkolů a pracovních povinností (šlo by o exces zaměstnance) nebo pokud AI využívá pro osobní, neprofesionální účely. Je tomu tak proto, že v souladu se základními zásadami pracovněprávního vztahu zaměstnavatele a zaměstnance vykonává zaměstnanec svou práci zásadně na odpovědnost zaměstnavatele.[1] Z tohoto principu vyplývá, že vůči třetím osobám je za využívání AI v souvislosti s plněním pracovních úkolů svých zaměstnanců primárně odpovědný právě zaměstnavatel, který daný systém zavedl. V případě porušení pracovních povinností zaměstnancem poté odpovídá za toto porušení vůči zaměstnavateli sám zaměstnanec.
Třetí osoba – typicky výše zmíněný poskytovatel AI systému či jiný subjekt v obdobném postavení – poté může nést odpovědnost rovněž vůči zaměstnavateli. Pokud zaměstnavateli vznikne odpovědnost vůči jiné třetí osobě v důsledku pochybení na straně poskytovatele, může mu rovněž vůči poskytovateli vzniknout regresní nárok.
V následujícím textu budou nejprve přiblíženy povinnosti, které zaměstnavatelům v souvislosti s využíváním AI na pracovišti přináší relativně nová právní úprava. Následně se článek zaměří na problematiku odpovědnosti u všech výše uvedených kategorií.
AI Act a související právní úprava
Na úrovni evropského práva je používání umělé inteligence upraveno především nařízením známým jako tzv. AI Act[2]. Přestože některé části AI Act dosud nenabyly účinnosti, je důležité, aby se zaměstnavatelé a další povinné subjekty na nové požadavky a povinnosti včas připravili. V rámci tohoto článku se zaměříme zejména na povinnosti, které AI Act ukládá zaměstnavateli jako tzv. zavádějícímu subjektu[3], a na jeho odpovědnost vyplývající z porušení těchto povinností.
Jednou z klíčových povinností, které AI Act zaměstnavateli ukládá, je zajistit, aby byli zaměstnanci v oblasti AI řádně proškoleni a aby byla přijata taková opatření, která zajistí, že budou zaměstnanci disponovat dostatečnými znalostmi o povaze a rizikovosti daného systému. Úroveň této „gramotnosti“ by přitom měla odpovídat odbornosti a zkušenostem zaměstnanců, pracovnímu prostředí, v němž jsou systémy AI využívány, a zároveň charakteristikám osob, na kterých mají být tyto systémy používány.[4]
AI Act dále výslovně vymezuje zakázané systémy AI, mezi něž patří např. systémy, které využívají manipulativní techniky k ovlivnění rozhodování osob, zneužívají zranitelnosti jedinců, vytvářejí databáze rozpoznávání obličejů z veřejných zdrojů, v neodůvodněných případech odvozují emoce osob z jejich biometrických údajů, určují citlivé osobní údaje, jako jsou politické a náboženské postoje či rasový původ a další.[5]
AI Act zároveň zavádí kategorii tzv. vysoce rizikových systémů AI (dále jen „VRS AI“), tedy takových, které mohou zásadním způsobem ohrozit zdraví, bezpečnost a základní práva fyzických osob.[6] Mezi tyto systémy ve vztahu k zaměstnávání spadají např. systémy využívané při náboru zaměstnanců, analýze a třídění žádostí o zaměstnání, hodnocení uchazečů, rozhodování o podmínkách či o ukončení pracovněprávních vztahů, přidělování pracovních úkolů nebo za účelem monitorování a hodnocení chování či výkonnosti zaměstnanců.[7]
Při zavádění těchto systémů mají zaměstnavatelé povinnost přijmout taková opatření, která zajistí jejich používání v souladu se stanovenými pravidly. Dále je zaměstnavatelům uložena povinnost pověřit lidským dohledem nad využíváním těchto systémů fyzické osoby s odpovídající způsobilostí a kvalifikací.[8] Lidský dohled má předcházet rizikům pro zdraví, bezpečnost nebo základní práva, která mohou při používání VRS AI vzniknout, případně tato rizika alespoň minimalizovat.[9]
Mezi další povinnosti zaměstnavatele patří také kontrola vstupních dat v rozsahu, v jakém nad nimi vykonává kontrolu. Vstupní data musí být relevantní a dostatečně reprezentativní s ohledem na zamýšlený účel VRS AI.[10] Zaměstnavatel by měl dohlížet na to, aby vstupní data odpovídala skutečnosti, nezvýhodňovala určité skupiny před ostatními, nebyla neúplná, zbytečná či nevhodná a skutečně se vztahovala k cíli, který má systém vyhodnocovat.
AI Act dále výslovně stanovuje, že zaměstnavatel musí před uvedením VRS AI do provozu na pracovišti informovat zástupce zaměstnanců a dotčené pracovníky o tom, že budou používání takového systému vystaveni. Tyto informace mají být poskytovány v souladu s unijním a vnitrostátním právem a podle zavedených postupů a zvyklostí pro informování zaměstnanců a jejich zástupců.[11] V kontextu českého právního řádu bude tedy třeba postupovat podle § 278 a násl. zákoníku práce, zahrnujícího mimo jiné povinnost informovat zaměstnance o základních otázkách pracovních podmínek, včetně informování a projednání se zástupci zaměstnanců nebo s odborovými organizacemi.
Pokud pomineme veřejnoprávní rovinu porušení výše uvedených povinností, může takové porušení vést i ke vzniku odpovědnosti zaměstnavatele vůči svým zaměstnancům nebo třetím osobám.
Odpovědnost zaměstnavatele vůči třetím osobám
Teze, že zaměstnavatel odpovídá za jednání svých zaměstnanců, vyplývá nejen ze základních zásad pracovního práva, ale také z ustanovení § 2914 občanského zákoníku.[12] Podle něj platí, že zaměstnavatel je povinen nahradit škodu způsobenou zaměstnancem nebo jinou osobou při výkonu jeho činnosti, a to stejně, jako by škodu způsobil sám.
Z praktického hlediska tato odpovědnost odráží také skutečnost, že zaměstnavatel rozhoduje o zavedení systémů AI do pracovního procesu a zároveň odpovídá za to, že jsou zaměstnanci o jejich používání řádně poučeni, tak, aby AI systémy mohly používat v souladu s jejich pravidly. Zaměstnavatel tak nese odpovědnost za dodržování právních předpisů i pravidel využívání AI – a to nejen ve vztahu ke třetím osobám, ale rovněž vůči svým zaměstnancům, kteří mohou být rozhodnutími učiněnými AI dotčeni, jak bude rozvedeno níže.
Při vzniku škody třetím osobám zaměstnavatel odpovídá za škodu podle § 2910 občanského zákoníku. Předmětné ustanovení stanoví, že škůdce, který vlastním zaviněním poruší povinnost stanovenou zákonem a zasáhne do absolutního práva jiné osoby, je povinen nahradit, co tím způsobil.
Porušení zákonem stanovené povinnosti si lze v tomto kontextu představit zejména v případech porušení povinností, které stanoví AI Act. Může jít o situace, kdy zaměstnavatel dostatečně neinformuje či neproškolí své zaměstnance o pravidlech využívání AI, používá zakázané systémy AI nebo nedodržuje stanovené podmínky a opatření požadovaná při používání VRS AI. Zaměstnavatel může své povinnosti porušit i nestanovením lidského dohledu, jehož absence jako taková může vyústit v porušení dalších právních povinností a může také spočívat v nedostatečné kontrole vstupních dat.
Odpovědnost zaměstnavatele může vzniknout i při porušení tzv. prevenční povinnosti podle § 2900 až 2903 občanského zákoníku. Tato ustanovení ukládají povinnost každému počínat si tak, aby při svém jednání nezpůsobil újmu jiné osobě. V kontextu využívání systémů AI může jít například o situaci, kdy zaměstnavatel zavede systém AI bez náležitého otestování, posouzení rizik nebo bez zajištění lidského dohledu nad jejím používáním.
Odpovědnost zaměstnavatele může vzniknout také v případě porušení povinnosti stanovené článkem 22 nařízení GDPR[13], které dává subjektům údajů právo nebýt předmětem žádného rozhodnutí založeného výhradně na automatizovaném zpracování. Pokud by například systém AI učinil rozhodnutí na základě chybných nebo nerelevantních vstupních dat, a zaměstnavatel nebo jednotlivý zaměstnanec by takové rozhodnutí převzal bez bližšího ověření, zaměstnavatel může být odpovědný vůči třetí osobě, které tímto jednáním vznikla škoda. Příkladem může být situace, kdy by systém AI při výběru uchazečů o zaměstnání nepřímo diskriminoval určité uchazeče a vyřadil je z výběrového řízení.
Vedle výše zmíněného automatizovaného rozhodnutí je zaměstnavatel jako správce osobních údajů povinen dodržovat i další stanovené povinnosti související se zpracováváním osobních údajů. Pokud by například do systému AI byly neoprávněně vloženy osobní údaje, a tyto by se následně dostaly k neoprávněným třetím osobám, vzniklá škoda by mohla být přičitatelná zaměstnavateli.
Zaměstnavatel může být vůči třetím osobám odpovědný rovněž podle § 2936 občanského zákoníku v režimu odpovědnosti za škodu způsobenou věcí. Pokud by tedy zaměstnavatel při plnění třetí osobě použil vadnou věc (vadný systém AI), mohl by být odpovědný za škodu způsobenou vadou této věci.
Tato odpovědnost však může být v některých případech sdílena nebo přenesena na výrobce či původce systému AI, jelikož dle § 2939 občanského zákoníku vzniká povinnost nahradit škodu způsobenou vadou výrobku tomu, kdo vadný výrobek vyrobil. Zaměstnavatel by tedy mohl uplatnit vůči výrobci případné regresní nároky, pokud by byla škoda způsobena například technickou vadou systému a nikoli zaviněním zaměstnavatele.
Odpovědnost zaměstnavatele vůči zaměstnanci
Při porušení svých povinností, a to nejen těch stanovených zákonem, ale rovněž pracovněprávní dokumentací nebo interními předpisy zaměstnavatele, nese zaměstnavatel odpovědnost i za škodu způsobenou zaměstnanci.
Zaměstnavatel je podle § 265 zákoníku práce povinen nahradit zaměstnanci škodu, která mu vznikla při plnění pracovních úkolů nebo v přímé souvislosti s ním, a to v důsledku porušení právních povinností nebo úmyslného jednání proti dobrým mravům. Zaměstnavatel je zároveň povinen nahradit zaměstnanci škodu, kterou mu způsobil porušením právních povinností v rámci plnění pracovních úkolů zaměstnavatele jiný zaměstnanec jednající jménem zaměstnavatele.
Odpovědnost podle tohoto ustanovení je objektivní, tedy nezávislá na existenci zavinění na straně zaměstnavatele. Zaměstnavatel tedy za vzniklou škodu odpovídá bez ohledu na to, zda jednal úmyslně nebo z nedbalosti.
Porušení povinností může v souvislosti s využíváním AI spočívat například v diskriminačním či nerovném zacházení se zaměstnanci v důsledku výše zmíněného automatizovaného rozhodování systémů AI. Pokud by například systém AI nesprávně vyhodnotil vložená data a zaměstnanec by na základě toho byl chybně ohodnocen nebo nespravedlivě odměněn, mohlo by jít také o vznik škody, za kterou by zaměstnavatel odpovídal.
S tím souvisí také možný vznik odpovědnosti za újmu podle § 10 antidiskriminačního zákona[14], pokud by došlo k porušení práv a povinností vyplývajících z práva na rovné zacházení k přímé či nepřímé diskriminaci.
Újma na straně zaměstnance by mohla vzniknout i v případě, kdy by zaměstnavatel neoprávněně vložil jeho osobní údaje do systému AI, a tyto údaje by se následně neoprávněně dostaly ke třetím osobám.
Odpovědnost zaměstnance vůči zaměstnavateli
Na straně zaměstnance může odpovědnost vznikat výhradně vůči zaměstnavateli, a to za splnění podmínek stanovených § 249 až 251 zákoníku práce. Pokud jde o škodu vzniklou při plnění pracovních úkolů či v souvislosti s ním, zaměstnanec v souvislosti s využíváním AI za škodu způsobenou třetím osobám neodpovídá.
Podle § 250 zákoníku práce může být zaměstnanec povinen k náhradě škody zaměstnavateli, kterou mu způsobí zaviněným porušením povinností při plnění pracovních úkolů nebo v přímé souvislosti s ním. To platí například tehdy, pokud škoda vznikne v důsledku porušení pokynů zaměstnavatele nebo porušení povinností stanovených právními předpisy. Zaměstnavatel je však povinen zavinění zaměstnance prokázat.
Nejčastěji tato odpovědnost bude vznikat v případě použití AI v rozporu s právními předpisy, interními předpisy zaměstnavatele nebo povinnostmi zaměstnance vyplývajícími z jeho pracovněprávní dokumentace. Porušení povinností může nastat například při zanedbání stanoveného dohledu nad systémem AI, za který zaměstnanec odpovídá.
V případě, že by byla škoda způsobena také porušením povinností ze strany zaměstnavatele, se povinnost zaměstnance nahradit škodu poměrně omezí. Eliminace odpovědnosti za škodu tedy může nastat v případě porušení povinnosti zaměstnavatele poučit zaměstnance o správném způsobu používání systému AI, přičemž každá rozumná třetí osoba by tuto skutečnost mohla odhadnout i bez takového poučení.
Zaměstnanec však může nést odpovědnost i za porušení svých tzv. prevenčních povinností. Zaměstnanec je v souladu s § 249 zákoníku práce povinen počínat si tak, aby nedocházelo ke vzniku újmy, a pokud újma hrozí, je povinen na ni upozornit. Pokud je poté k odvrácení škody hrozící zaměstnavateli třeba neodkladného zákroku, je zaměstnanec povinen zakročit (nebrání-li mu v tom důležitá okolnost nebo nevystaví-li tím ohrožení sebe nebo jinou fyzickou osobu).
Zaměstnanec je současně povinen oznámit nadřízenému vedoucímu zaměstnanci, že nemá vytvořeny potřebné pracovní podmínky. To může například platit v situacích, kdy zaměstnanci není známo, jak má systém AI používat nebo že o něm nebyl dostatečně proškolen.
Podle § 251 zákoníku práce poté může zaměstnavatel požadovat, aby se zaměstnanec, který vědomě neupozornil nadřízeného vedoucího zaměstnance na škodu hrozící zaměstnavateli nebo nezakročil proti hrozící škodě, ačkoliv by tím bylo zabráněno bezprostřednímu vzniku škody, podílel na náhradě škody v přiměřeném rozsahu. Zaměstnanec však není povinen nahradit škodu, kterou způsobil při odvrácení škody hrozící zaměstnavateli nebo nebezpečí přímo hrozícího životu nebo zdraví, jestliže tento stav sám úmyslně nevyvolal a počínal si přitom způsobem přiměřeným okolnostem.
Závěr
Přestože odpovědnost za využívání a rozhodování systémů umělé inteligence dosud nemá vlastní komplexní právní úpravu, s ohledem na rychlý vývoj v této oblasti a postupné nabývání účinnosti nařízení AI Act lze očekávat, že se tato problematika bude do budoucna postupně zvlášť a podrobněji regulovat. Do té doby je nezbytné na odpovědnost za využití AI aplikovat obecné odpovědnostní principy, zejména ty vyplývající z občanského zákoníku a zákoníku práce.
Zaměstnavatel odpovídá za škodu, kterou způsobí zaměstnanec při využívání systémů AI při plnění svých pracovních úkolů třetí osobě. Stejně tak nese odpovědnost i za škodu, která může vzniknout zaměstnanci v souvislosti s využitím AI na pracovišti. Naopak samotný zaměstnanec může při využívání AI v rámci plnění svých pracovních úkolů odpovídat pouze vůči zaměstnavateli – a to při splnění všech zákonných podmínek.
Mgr. Bc. Anna Králíková

Weinhold Legal, s.r.o. advokátní kancelář
Florentinum
Na Florenci 2116/15
110 00 Praha 1
Tel.: +420 225 385 333
Fax: +420 225 385 444
e-mail: wl@weinholdlegal.com
[1] § 2 zákona č. 262/2006 Sb., zákoník práce, ve znění pozdějších předpisů (dále jen „zákoník práce“).
[2] Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci) (dále jen „AI Act“).
[3] Zavádějícím subjektem je podle článku 3 odstavce 4) AI Act jakákoli fyzická nebo právnická osoba, veřejný orgán, agentura nebo jiný subjekt, který v rámci své pravomoci využívá systém AI, s výjimkou případů, kdy je systém AI využíván při osobní neprofesionální činnosti.
[4] Článek 4 AI Act.
[5] Článek 5 AI Act.
[6] Článek 6 AI Act.
[7] Bod 4. přílohy č. III k AI Act.
[8] Článek 26 AI Act.
[9] Článek 14 AI Act.
[10] Článek 26 AI Act.
[11] Článek 26 odst. 7 AI Act.
[12] Zákon č. 89/2012 Sb., občanský zákoník, ve znění pozdějších předpisů (dále jen „občanský zákoník“).
[13] Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů).










