Evropský parlament otevírá cestu unijní regulaci umělé inteligence

Pokud nahlédneme do literatury a historie, nemůže nás překvapit, že lidstvo již od počátku věků snilo o stvoření myslících strojů, které měly často podobu androidů s lidskými rysy. Výjimkou není ani česká literatura a historie, ať už se jedná o světoznámé vědeckofantastické drama Karla Čapka R.U.R., ve kterém autor varoval před negativními vlivy techniky na lidstvo, nebo židovskou pověst o hliněném oživlém obru Golemovi. Odkazy na uvedenou českou literární stopu lze ostatně vyčíst z preambule usnesení Evropského parlamentu („Parlament“) ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku („Usnesení“).

Přestože Usnesení obsahuje široké spektrum témat a výzev, kterými by se mohla Evropská komise („Komise“) při tvorbě unijních předpisů v oblasti robotiky zajímat, za zásadní lze považovat definici autonomie robota, zvláštní právní status autonomního robota, úvahy k občanskoprávní odpovědnosti za škodu způsobenou robotem a kodex etického chování inženýrů robotiky.

Definice autonomie robota

Parlament v Usnesení upozorňuje, že s ohledem na technický pokrok v posledním desetiletí někteří roboti dokážou nejen vykonávat určité činnosti, které bývaly doménou člověka, ale získávají určité autonomní a kognitivní schopnosti, tj. například schopnost učit se na základě zkušenosti a činit kvazi samostatná rozhodnutí. V tomto ohledu Usnesení představuje definici autonomie robota, kterou konstruuje jako „schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole či vlivu zvnějšku; … autonomie je čistě technické povahy a její stupeň závisí na tom, jak byl robot konstruován“.  

Přestože při čtení první části definice „schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole“ bije na poplach předběžná opatrnost a obava, aby se nepřipustila možnost, že je robot nadán smysly, je třeba definici číst v celku. Druhá část zdůrazňuje „technickou povahu“ autonomie robota a konstrukci robota člověkem, a nikoli již „vědomí“ nebo „smysly“ robota. Definice se tak zřejmě snaží zamezit tomu, aby člověk ztratil nad robotem kontrolu (před čímž varovalo již citované Čapkovo drama). Téma dále rozvádí bod 3. Usnesení, který upozorňuje, že ve vývoji robotiky a umělé inteligence je zcela zásadní zaručit, aby měli lidé nad inteligentními stroji neustálou kontrolu. Lze tedy shrnout, že v  určitém ohledu se Usnesení snaží zdůraznit technickou povahu autonomního robota a nestaví jej na roveň člověku.

Zvláštní právní status autonomního robota

Usnesení dále vyzývá Komisi, aby se věnovala vytvoření zvláštního právního statusu robota a  aby alespoň nejsložitější autonomní roboti mohli mít status „elektronické osoby“ se zvláštními právy a povinnostmi.

Tento apel nicméně otevírá řadu dílčích otázek. Mají mít autonomní roboti právní osobnost? Pokud ano, jak má být právní osobnost konstruována? Má se v případě autonomního robota jednat o subjekt s vlastní vůlí nebo subjekt, který není nadán vlastní vůlí, tudíž není svéprávný a právní jednání za něj bude činit určitá fyzická osoba? Z hlediska etického a pravděpodobně i technologického je nejspíše příliš brzy na to, aby měl autonomní robot vlastní vůli a aby právně jednal bez toho, aby za ním stála fyzická osoba. Konstrukt právní osobnosti robota jako subjektu s vlastní vůlí by navíc odporoval jak výše uvedené definici autonomie robota, tak i deklarované záruce, aby měli lidé nad inteligentními stroji neustálou kontrolu. Tato záruka se v jiné podobě objevila již ve třech zákonech robotiky formulovaných Isaacem Asimovem v povídce „Hra na honěnou“, ze kterých lze dovodit, že robot musí uposlechnout příkazů člověka a zároveň nesmí člověku ublížit.

Rovněž samotné přiznání práv a povinností robotům by bylo v praxi těžko proveditelné. Představme si například situaci, kdy by inteligentní robot využívaný v prostředí válečných operací odmítal úkol splnit pro nesouhlas s válkou obecně a dovolával by se svobody myšlení. Co by následovalo, když by v důsledku nekonání takového robota v dané situaci byla způsobena škoda na majetku a životech? Tato otázka též úzce souvisí s konstrukcí odpovědnosti za škodu způsobenou robotem, kterou se Usnesení rovněž částečně zabývá a jejíž vývoj nyní pozorně sledují zástupci technologického průmyslu.

Občanskoprávní odpovědnost za škodu způsobenou robotem

Nelze vyloučit, že současná pravidla o občanskoprávní odpovědnosti za škodu budou v budoucnu na základě podnětů obsažených v Usnesení doplněna pravidly speciálními, uplatňujícími se v robotice. To může mít dopad na všechna odvětví, ve kterých se práce robotů využívá.

Dle Usnesení může být jednou z variant absolutní odpovědnost výrobce. V takovém případě by byl za škodu způsobenou robotem odpovědný výrobce, protože má dle názoru autorů Usnesení nejlepší předpoklady k tomu, aby zamezil škodě. Výrobce pak může uplatnit svá práva vůči svým dodavatelům. Vůči konceptu absolutní odpovědnosti je však třeba se stavět zdrženlivě. Výrobce sice má nést odpovědnost za to, že jeho výrobek splňuje všechny požadavky na bezpečné používání nebo za vadu výrobku (robota), měl by ale nést též odpovědnost za jeho nesprávné užívání? Zde se jako vhodnější jeví konstrukce obsažená v občanském zákoníku, kdy způsobí-li škodu věc, za kterou je nyní robot považován, sama od sebe, nahradí škodu ten, kdo měl mít nad věcí dohled. Pokud nelze takovou osobu určit, platí, že je jí vlastník věci. Občanský zákoník rovněž obsahuje pravidla pro případ, kdy by škodu způsobil určitou osobou použitý vadný robot, typicky například při poskytování zdravotnických služeb. V takovém případě nahradí škodu způsobenou vadou robota ten, kdo je povinen plnit a použije vadného robota.

S ohledem na výše uvedené se nabízí otázka, kterou rovněž pokládají někteří právní akademici, zda je v současné době vůbec nutné přicházet s novou koncepcí odpovědnosti za škodu způsobenou robotem, když by se v jednotlivých případech škod způsobených robotem mohla uplatnit jak obecná, tak rovněž některá zvláštní ustanovení stávajících občanskoprávních pravidel o povinnosti nahradit škodu. Současná podoba českého občanského zákoníku pokrývá jak například výše uvedené případy škody způsobené věcí, tak obsahuje pravidla pro škodu z provozu dopravních prostředků, která by mohla být aplikována například na škodu způsobenou autonomním vozem nebo obsahuje ustanovení upravující odpovědnost za škodu způsobenou provozem zvlášť nebezpečným. Pravidla ohledně odpovědnosti za škodu způsobenou provozem zvlášť nebezpečným by se přitom mohla eventuálně uplatnit i v oblasti robotiky, zvláště když odborná literatura charakterizuje provoz zvlášť nebezpečný jako lidmi organizovanou a řízenou činnost, při níž jsou využívány technické prostředky, které nejsou za daných podmínek vědy a techniky, a to ani při zachování veškeré opatrnosti, plně ovladatelné a kontrolovatelné, takže z procesu jejich využití hrozí pro okolí zvýšené a zpravidla přímé nebezpečí vzniku závažné újmy. Jednou z možností budoucího legislativního postupu v oblasti robotiky by rovněž mohlo být rozšíření stávajících zvláštních zákonných ustanovení o škodě z provozu z dopravních prostředků či škodě způsobené provozem zvlášť nebezpečným na roboty, respektive výslovná zmínka o  robotech v rámci daných zákonných ustanoveních.

Za zajímavý návrh lze označit myšlenku, kdy by pro jednotlivé kategorie robotů vznikl povinný systém pojištění, v němž budou mít výrobci nebo vlastníci robotů povinnost uzavřít povinné pojištění odpovědnosti za škodu způsobenou jejich roboty, podobně jako je tomu například u  pojištění motorových vozidel. Tento systém pojištění by mohl být doplněn fondem, který by zajistil, aby bylo možné kompenzovat škodu i v případech, kdy určitý provozovatel robota nemá sjednané pojistné krytí. V takovém případě by však mělo smysl vytvořit entitu, která by takový garanční fond spravovala a která by měla možnost regresu vůči konkrétnímu provozovateli robota, který povinné pojištění robota nesjednal. Je třeba rovněž upozornit na skutečnost, že konstrukce pojištění dle bodu 57 Usnesení neodpovídá českému právu, dle kterého se pojišťuje odpovědnost provozovatele a nikoli vadné jednání a chyby lidského činitele, tak jak uvádí tento bod.

Další dílčí otázkou v tomto ohledu zůstává, zda vytvořit všeobecný fond pro všechny roboty, nebo zvláštní fondy pro jednotlivé kategorie robotů, a zda by byl příspěvek do fondu placen jednorázově při uvedení robota na trh, nebo průběžně po celý životní cyklus robota. Veškeré uvedené myšlenky představují podněty nejen pro Komisi jako instituci Unie s legislativní iniciativou, ale rovněž pro zástupce průmyslu a odvětví pojišťovnictví.

Kodex etického chování inženýrů robotiky

Parlament v Usnesení dále navrhuje znění etického kodexu („Kodex“), ve kterém vybízí výzkumné a projektové pracovníky v oblasti robotiky, aby při své práci dbali na zachování lidské důstojnosti, soukromí a bezpečnosti a spolupracovali napříč odvětvími. Výzkum v oblasti robotiky by měl být především prováděn v souladu se zásadou předběžné opatrnosti s ohledem na hrozící bezpečnostní dopady. Mezi další právní principy, které Kodex obsahuje, patří zejména zásada neminem laedere (nikomu neškodit), zásada prospěšnosti (roboti by  měli jednat v nejlepším zájmu lidí), respekt k lidským právům, odpovědnost inženýrů robotiky za sociální a environmentální dopady a dopady na lidské zdraví, princip ochrany soukromí nebo maximalizace přínosů a minimalizace škod.

Kodex je příkladem tzv. soft law. Obsahuje pro inženýry robotiky soubor obecných zásad a  principů formulovaných všeobecnou autoritou, ale nezávazný, resp. výslovně označen jako dobrovolný. Jako takový může mít vliv například v rámci budoucí tvorby unijních či národních legislativních pravidel v oblasti robotiky, která se může těmito principy inspirovat – například v rozhodovací praxi soudů, kdy v konkrétním soudním sporu může soudce v odůvodnění rozhodnutí na Kodex odkázat. Co se týká věcné a osobní působnosti Kodexu, vztahuje se na všechny aktivity výzkumu a vývoje v oblasti robotiky a na výzkumné pracovníky a projektanty. Věcná působnost je tak stanovena velmi široce, zatímco osobní působnost zahrnuje výlučně inženýry robotiky (výzkumní pracovníci a projektanti). Kodex se tudíž nevztahuje na další třetí osoby, například na uživatele, který si robota pořídil na základě kupní smlouvy.

Legislativní výhled

Za účelem zahájení konstruktivní debaty s širokou škálou zúčastněných stran a získání názorů na to, jak řešit složité právně-ekonomické a etické otázky související s vývojem v oblasti robotiky a umělé inteligence pro civilní použití, zahájil Evropský parlament v čase přijetí Usnesení veřejnou konzultaci, která trvala do konce května 2017. Výsledky konzultace mohou nyní Evropskému parlamentu pomoci zmapovat jak zkušenosti jednotlivců a průmyslových odvětví v oblasti robotiky a umělé inteligence, tak jejich očekávání spojená se zamýšleným regulačním rámcem EU v dané oblasti.

Ačkoli Usnesení přirozeně vyvolalo od svého přijetí Parlamentem diskuze, připomínáme, že se jedná o dokument doporučující a právně nezávazný. Ani zmíněná veřejná konzultace zorganizovaná Parlamentem nemusí legislativní proces iniciovat. Míč nyní leží na straně Komise, která jako instituce s legislativní iniciativou disponuje uvážením, zda se podněty Parlamentu zabývat, či nikoli. Pokud se Komise rozhodne občanskoprávní pravidla pro robotiku navrhnout, bude bezesporu následovat veřejná konzultace v rámci Komise a následný zdlouhavý legislativní proces. Konečnou podobu takových pravidel tudíž nyní nelze jakkoli předjímat. Zástupci dotčených průmyslových odvětví by nicméně měli být na pozoru a měli by být připraveni se diskuze o případné podobě budoucích pravidel v oblasti robotiky aktivně zúčastnit.




Robert Nešpůrek,
partner



Petr Bratský,
advokát


Havel, Holásek & Partners s.r.o., advokátní kancelář

Florentinum
Na Florenci 2116/15
110 00 Praha 1

Tel.:    +420 255 000 111
Fax:    +420 255 000 110
e-mail:    office@havelholasek.cz



© EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz