16. 4. 2019
ID: 109181upozornění pro uživatele
Právo pro dobu robotů a umělé inteligence
Vize umělé inteligence slibuje budoucnost naplněnou samořídícími vozy, obsluhujícími roboty, autonomními drony doručujícími balíčky z e-shopu do vlastních rukou během minut, ale také mnoho dalšího. Pojem umělá inteligence nebo AI se čím dál častěji skloňují v médiích i právních publikacích, byť zatím známe pouze režim strojového učení. Za poslední roky jsme si zvykli, že moderní technologie postupují velmi rychlým tempem a právo reaguje se značným zpožděním. A oblast autonomních systémů není výjimkou.
Již v roce 2010 byl v New York Times publikován článek oznamující testování autonomních vozidel na silnicích ve Spojených státech, ve kterém společnost Google poukázala na skutečnost, že samořídící dopravní prostředky již zdaleka nejsou fikcí. A přirovnala možný dopad širšího užívání takových dopravních prostředků po celém světě k počátkům komerčního využívání internetu.[1] Všudypřítomnost a rychle rostoucí obchodní potenciál umělé inteligence podnítily velké investice soukromého sektoru do AI projektů v různých koutech světa. Společnosti, jako jsou Google, Facebook a Amazon, zahájily „závod o AI“, přetahování výzkumníků, zřizování laboratoří a kupování start-upů.[2] Názor, že tato oblast není jen atraktivním titulkem, ale skutečně potenciálním odvětvím výzkumu, zastává i Evropská komise, která ke konci loňského roku udělila celkem 66 mil. EUR na projekty v oblasti robotiky, které pomohou digitalizovat společnosti po celé Evropské unii.[3] Na úrovni České republiky pak můžeme uvést například studii Výzkum potenciálu rozvoje umělé inteligence v České republice z 10. prosince 2018, kterou vydala Vláda ČR s cílem pomoci České republice reagovat na globální a evropské aktivity v oblasti AI a najít své místo na globálním trhu.[4] Pokud odhlédneme od marketingového AI trendu (AI v podobě samostatně myslícího stroje zatím neexistuje), strojové učení je dnes již na takové úrovni, že přináší hmatatelné využití a výsledky pro podnikání[5] a odborná veřejnost zdá se má důvěru v to, že AI se bude posunovat dál ke kýženému výsledku.
Právo a nové technologie
Pokud se chceme ale pouštět do úvah, jak by měl právní řád na tyto nové trendy reagovat, měli bychom nejprve identifikovat základní charakteristické znaky nových technologií. Měli bychom též věnovat pozornost otázce, jaké rysy společenského života tyto technologie ovlivní, jaké problémy, na které doposud nebyl brán zřetel, přináší nová technologie do popředí, jaké aspekty lidské činnosti se tímto problematizují a také, jaké z toho plynou důsledky pro lidská práva a svobodu. Tak například Evropský parlament ve svém usnesení obsahujícím doporučení Komisi o občanskoprávních pravidlech pro robotiku apeluje, aby se rozvoj robotických technologií zaměřil na to, aby doplňoval, a nikoli nahrazoval schopnosti člověka.[6]
Autonomní a inteligentní systémy
Co tedy vlastně znamená autonomní? Jaký je rozdíl mezi automatizovanými a autonomními systémy? Automatizovaný robot, pracující v kontrolovaném prostředí, může provádět rutinní činnosti a dokola opakovat předepsaný postup. Autonomní robot také plní úkoly, které má do jisté míry „nacvičené“, ale může tak činit bez lidské interakce s určitou mírou samostatnosti a nepředvídatelnosti. Autonomie těchto zařízení spočívá zejména ve schopnosti analyzovat prostředí, samostatně jednat, a případně se i učit na základě zpětné vazby z konkrétních situací. Autonomní systémy jsou primárně vyvíjeny za účelem usnadnění našeho života, zvýšení efektivity práce a zajištění většího bezpečí. Prodělávají však tak rychlý vývoj, že právní úprava otázek, které s implementací takových systémů souvisí, často tento pokrok nestíhá.
Co se týče umělé inteligence, neexistuje v současné době jednoznačná definice. V případě, kdy je autonomní systém schopen samostatného učení, hlubší analýzy a vymanění se z kontroly výrobce či provozovatele, můžeme o takovém systému hovořit jakožto o nadaném umělou inteligencí. V dnešní době však lze prakticky hovořit spíše o tzv. „strojovém učení“, tj. získávání zkušeností pomoci definovaných algoritmů. Pouze pomocí strojového učení však zatím nelze dosáhnout skutečné autonomie, resp. inteligence.
Evropský parlament ve zmíněném usnesení definuje autonomii robota jako „schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole či vlivu zvnějšku; … autonomie je čistě technické povahy a její stupeň závisí na tom, jak byl robot konstruován“[7]. Kromě toho ale nabízí též definiční znaky tzv. inteligentního robota spočívající v propojenosti, schopnosti předávat a analyzovat data, schopnosti samostatného učení na základě zkušeností a interakce, alespoň menší fyzické struktuře, schopnosti přizpůsobit své jednání a svou činnost okolnímu prostředí a skutečnosti, že robot není v biologickém smyslu živý.[8]
Jednou z důležitých otázek, se kterými se právo bude muset vypořádat, je zda lze chytrým strojům přiznat postavení plnohodnotné osoby v právním řádu (právní osobnost). To bude platit zejména, pokud AI bude schopna uvažovat a projevovat vůli, což jsou znaky typické pro člověka. Zmíněné usnesení Evropského parlamentu tuto problematiku také reflektuje a vyzývá Komisi, aby se věnovala vytvoření zvláštního právního statutu robota. Můžeme se tedy dostat do situace, kdy by nejsložitější autonomní roboti mohli dokonce požívat statusu „elektronické osoby“ se zvláštními právy a povinnostmi, ale na to je zatím zřejmě brzy.
Jakmile tedy stav techniky pokročí způsobem, který dnes zatím jenom předvídáme, bude potřeba vhodným doplněním právních předpisů, případně obecně uznávaných standardů, vyřešit, vedle zmíněné otázky statutu elektronické osoby, několik dalších zásadních oblastí za účelem zajištění právní jistoty a předvídatelnosti v právních vztazích.
Odpovědnost, etika a další otázky spojené s AI
Jedním ze zásadních témat v případě autonomních systémů, robotů a AI je odpovědnost za jejich jednání. Ostatně proto jsou autonomní systémy vyvíjeny a testovány s takovou obezřetností. V Evropské unii tato otázka zatím není řešena komplexně.
V případě vzniku škody bude možné aplikovat národní občanskoprávní předpisy akcentující odpovědnost provozovatele/vlastníka věci. Může se pak jednat o odpovědnost za škodu způsobenou věcí (např. pokud při plnění smlouvy použije jedna strana robota či jiný způsob aplikace AI), škodu z provozu dopravního prostředku v případě autonomních vozidel a dronů či odpovědností za vadu výrobku, pokud nehoda nastane poruchou daného systému. Nelze však vyloučit, že současná pravidla o občanskoprávní odpovědnosti za škodu budou v budoucnu nedostatečná a vznikne potřeba doplnit je pravidly speciálními, uplatňujícími se právě v robotice, a to např. v okamžiku, kdy (a pokud vůbec!) se společnost rozhodne udělit AI jiný status.
Odborná literatura popisuje též velké množství etických otázek, a to ve dvou rovinách, v rovině tzv. roboetiky (angl. roboethics) a v rovině etiky strojů (angl. machine ethics). V prvním případě se jedná o otázky, s nimiž se potýkají osoby navrhující, vyvíjející a provozující inteligentní roboty. V druhém případě se jedná o oblast zabývající se situacemi, kdy tito inteligentní roboti rozhodují a při tomto rozhodnutí je třeba brát v úvahu určitou etickou otázku a aplikovat vtělená pravidla a etické standardy. Etické kodexy pro vývoj a využívání AI budou tak v budoucnu hrát významnou roli. Rovněž Evropský parlament se ve svém usnesení problematice etického vývoje a využívání umělé inteligence věnuje a dokonce navrhuje znění etického kodexu, ve kterém vybízí výzkumné a projektové pracovníky v oblasti robotiky, aby při své práci dbali na zachování lidské důstojnosti, soukromí a bezpečnosti a spolupracovali napříč odvětvími.[9]
Vedle výše uvedeného představuje AI a zejména zmíněné strojové učení velkou výzvu pro oblast ochrany osobních údajů, soukromí a také autorských práv včetně práv souvisejících (zejména práv k databázím), neboť data jsou základní potravou současného fungování AI. Proto bude důležité si při vývoji poradit s pravidly pro ochranu osobních i jiných (neosobních) údajů, a to i (nebo dokonce zejména) přes významné tlaky na technologický pokrok.
Vedle zmíněných oblastí ovlivní AI logicky také oblast kybernetické bezpečnosti. Autonomní systémy mohou vedle příslibu vyšší ochrany a bezpečnosti představovat také nová zranitelná místa v případě kybernetického útoku. Vyvstávají rovněž otázky v oblasti duševního vlastnictví (zejména autorského práva), například kdo je autorem v případě děl vytvořených inteligentními roboty. Otázkou bude i kreativní role fyzické osoby – možnosti autora jsou zde značně omezeny. Obecně pak bude vhodné uvažovat, zda a v jakém rozsahu bude konečná kontrola (včetně zpětného ověřování jednotlivých úkonů) svěřena člověku.
Autonomní systémy mají sice potenciál významně zlepšit kvalitu života, ale zároveň přinášejí řadu poměrně komplexních a složitých otázek. Jsme proto rádi, že do určité míry můžeme přispívat k hledání cest i odpovědí na četné výzvy spojené s tímto důležitým vývojem. V současné chvíli, kdy jsou výše uvedené otázky řešené převážně na teoretické úrovni, lze pro vhodné nastavení principů a úpravu právního řádu doporučit zejména průběžné vyhodnocování rozvoje nových technologií a využívání AI, podporu veřejné diskuse nad problematickými otázkami a zapojení se do mezinárodních či unijních aktivit v oblasti formování pravidel pro nové technologické období.
Pokud se chceme ale pouštět do úvah, jak by měl právní řád na tyto nové trendy reagovat, měli bychom nejprve identifikovat základní charakteristické znaky nových technologií. Měli bychom též věnovat pozornost otázce, jaké rysy společenského života tyto technologie ovlivní, jaké problémy, na které doposud nebyl brán zřetel, přináší nová technologie do popředí, jaké aspekty lidské činnosti se tímto problematizují a také, jaké z toho plynou důsledky pro lidská práva a svobodu. Tak například Evropský parlament ve svém usnesení obsahujícím doporučení Komisi o občanskoprávních pravidlech pro robotiku apeluje, aby se rozvoj robotických technologií zaměřil na to, aby doplňoval, a nikoli nahrazoval schopnosti člověka.[6]
Co tedy vlastně znamená autonomní? Jaký je rozdíl mezi automatizovanými a autonomními systémy? Automatizovaný robot, pracující v kontrolovaném prostředí, může provádět rutinní činnosti a dokola opakovat předepsaný postup. Autonomní robot také plní úkoly, které má do jisté míry „nacvičené“, ale může tak činit bez lidské interakce s určitou mírou samostatnosti a nepředvídatelnosti. Autonomie těchto zařízení spočívá zejména ve schopnosti analyzovat prostředí, samostatně jednat, a případně se i učit na základě zpětné vazby z konkrétních situací. Autonomní systémy jsou primárně vyvíjeny za účelem usnadnění našeho života, zvýšení efektivity práce a zajištění většího bezpečí. Prodělávají však tak rychlý vývoj, že právní úprava otázek, které s implementací takových systémů souvisí, často tento pokrok nestíhá.
Co se týče umělé inteligence, neexistuje v současné době jednoznačná definice. V případě, kdy je autonomní systém schopen samostatného učení, hlubší analýzy a vymanění se z kontroly výrobce či provozovatele, můžeme o takovém systému hovořit jakožto o nadaném umělou inteligencí. V dnešní době však lze prakticky hovořit spíše o tzv. „strojovém učení“, tj. získávání zkušeností pomoci definovaných algoritmů. Pouze pomocí strojového učení však zatím nelze dosáhnout skutečné autonomie, resp. inteligence.
Evropský parlament ve zmíněném usnesení definuje autonomii robota jako „schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole či vlivu zvnějšku; … autonomie je čistě technické povahy a její stupeň závisí na tom, jak byl robot konstruován“[7]. Kromě toho ale nabízí též definiční znaky tzv. inteligentního robota spočívající v propojenosti, schopnosti předávat a analyzovat data, schopnosti samostatného učení na základě zkušeností a interakce, alespoň menší fyzické struktuře, schopnosti přizpůsobit své jednání a svou činnost okolnímu prostředí a skutečnosti, že robot není v biologickém smyslu živý.[8]
Jednou z důležitých otázek, se kterými se právo bude muset vypořádat, je zda lze chytrým strojům přiznat postavení plnohodnotné osoby v právním řádu (právní osobnost). To bude platit zejména, pokud AI bude schopna uvažovat a projevovat vůli, což jsou znaky typické pro člověka. Zmíněné usnesení Evropského parlamentu tuto problematiku také reflektuje a vyzývá Komisi, aby se věnovala vytvoření zvláštního právního statutu robota. Můžeme se tedy dostat do situace, kdy by nejsložitější autonomní roboti mohli dokonce požívat statusu „elektronické osoby“ se zvláštními právy a povinnostmi, ale na to je zatím zřejmě brzy.
Jakmile tedy stav techniky pokročí způsobem, který dnes zatím jenom předvídáme, bude potřeba vhodným doplněním právních předpisů, případně obecně uznávaných standardů, vyřešit, vedle zmíněné otázky statutu elektronické osoby, několik dalších zásadních oblastí za účelem zajištění právní jistoty a předvídatelnosti v právních vztazích.
Reklama
Jedním ze zásadních témat v případě autonomních systémů, robotů a AI je odpovědnost za jejich jednání. Ostatně proto jsou autonomní systémy vyvíjeny a testovány s takovou obezřetností. V Evropské unii tato otázka zatím není řešena komplexně.
V případě vzniku škody bude možné aplikovat národní občanskoprávní předpisy akcentující odpovědnost provozovatele/vlastníka věci. Může se pak jednat o odpovědnost za škodu způsobenou věcí (např. pokud při plnění smlouvy použije jedna strana robota či jiný způsob aplikace AI), škodu z provozu dopravního prostředku v případě autonomních vozidel a dronů či odpovědností za vadu výrobku, pokud nehoda nastane poruchou daného systému. Nelze však vyloučit, že současná pravidla o občanskoprávní odpovědnosti za škodu budou v budoucnu nedostatečná a vznikne potřeba doplnit je pravidly speciálními, uplatňujícími se právě v robotice, a to např. v okamžiku, kdy (a pokud vůbec!) se společnost rozhodne udělit AI jiný status.
Odborná literatura popisuje též velké množství etických otázek, a to ve dvou rovinách, v rovině tzv. roboetiky (angl. roboethics) a v rovině etiky strojů (angl. machine ethics). V prvním případě se jedná o otázky, s nimiž se potýkají osoby navrhující, vyvíjející a provozující inteligentní roboty. V druhém případě se jedná o oblast zabývající se situacemi, kdy tito inteligentní roboti rozhodují a při tomto rozhodnutí je třeba brát v úvahu určitou etickou otázku a aplikovat vtělená pravidla a etické standardy. Etické kodexy pro vývoj a využívání AI budou tak v budoucnu hrát významnou roli. Rovněž Evropský parlament se ve svém usnesení problematice etického vývoje a využívání umělé inteligence věnuje a dokonce navrhuje znění etického kodexu, ve kterém vybízí výzkumné a projektové pracovníky v oblasti robotiky, aby při své práci dbali na zachování lidské důstojnosti, soukromí a bezpečnosti a spolupracovali napříč odvětvími.[9]
Vedle výše uvedeného představuje AI a zejména zmíněné strojové učení velkou výzvu pro oblast ochrany osobních údajů, soukromí a také autorských práv včetně práv souvisejících (zejména práv k databázím), neboť data jsou základní potravou současného fungování AI. Proto bude důležité si při vývoji poradit s pravidly pro ochranu osobních i jiných (neosobních) údajů, a to i (nebo dokonce zejména) přes významné tlaky na technologický pokrok.
Vedle zmíněných oblastí ovlivní AI logicky také oblast kybernetické bezpečnosti. Autonomní systémy mohou vedle příslibu vyšší ochrany a bezpečnosti představovat také nová zranitelná místa v případě kybernetického útoku. Vyvstávají rovněž otázky v oblasti duševního vlastnictví (zejména autorského práva), například kdo je autorem v případě děl vytvořených inteligentními roboty. Otázkou bude i kreativní role fyzické osoby – možnosti autora jsou zde značně omezeny. Obecně pak bude vhodné uvažovat, zda a v jakém rozsahu bude konečná kontrola (včetně zpětného ověřování jednotlivých úkonů) svěřena člověku.
Autonomní systémy mají sice potenciál významně zlepšit kvalitu života, ale zároveň přinášejí řadu poměrně komplexních a složitých otázek. Jsme proto rádi, že do určité míry můžeme přispívat k hledání cest i odpovědí na četné výzvy spojené s tímto důležitým vývojem. V současné chvíli, kdy jsou výše uvedené otázky řešené převážně na teoretické úrovni, lze pro vhodné nastavení principů a úpravu právního řádu doporučit zejména průběžné vyhodnocování rozvoje nových technologií a využívání AI, podporu veřejné diskuse nad problematickými otázkami a zapojení se do mezinárodních či unijních aktivit v oblasti formování pravidel pro nové technologické období.
Jan Diblík,
partner, expert na právo v oblasti IP, IT & TMT
Roman Cholasta,
senior advokát
Laura Tadevosjanová,
právní asistentka
HAVEL & PARTNERS s.r.o., advokátní kancelář
Florentinum, recepce A
Na Florenci 2116/15
110 00 Praha 1
Tel.: +420 255 000 111
Fax: +420 255 000 110
e-mail: office@havelpartners.cz
senior advokát
Laura Tadevosjanová,
právní asistentka
HAVEL & PARTNERS s.r.o., advokátní kancelář
Florentinum, recepce A
Na Florenci 2116/15
110 00 Praha 1
Tel.: +420 255 000 111
Fax: +420 255 000 110
e-mail: office@havelpartners.cz
_______________________________________________________
[1] Markoff, J., "Google Cars Drive Themselves, in Traffic", The New York Times, říjen 2010. K dispozici >>> zde.
[2] Artificial Intelligence: Rise of the Machines, ECONOMIST (May 9, 2015). K dispozici >>> zde.
[3] Commission awards €66.000.000 to new robotics and artificial intelligence projects | Digital Single Market. European Commission | Choose your language | Choisir une langue | Wählen Sie eine Sprache [online]. K dispozici >>> zde.
[4] Jaký je potenciál umělé inteligence v České republice? | Vláda ČR. Úvodní stránka | Vláda ČR [online]. K dispozici >>> zde.
[5] Nové technologie mění podniková nákupní oddělení, 27. 9. 2018. K dispozici >>> zde.
[6] Usnesení Evropského parlamentu ze dne 16. 2. 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku (2015/2103(INL)).
[7] Tamtéž.
[8] Tamtéž.
[9] Tamtéž.
© EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz
[1] Markoff, J., "Google Cars Drive Themselves, in Traffic", The New York Times, říjen 2010. K dispozici >>> zde.
[2] Artificial Intelligence: Rise of the Machines, ECONOMIST (May 9, 2015). K dispozici >>> zde.
[3] Commission awards €66.000.000 to new robotics and artificial intelligence projects | Digital Single Market. European Commission | Choose your language | Choisir une langue | Wählen Sie eine Sprache [online]. K dispozici >>> zde.
[4] Jaký je potenciál umělé inteligence v České republice? | Vláda ČR. Úvodní stránka | Vláda ČR [online]. K dispozici >>> zde.
[5] Nové technologie mění podniková nákupní oddělení, 27. 9. 2018. K dispozici >>> zde.
[6] Usnesení Evropského parlamentu ze dne 16. 2. 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku (2015/2103(INL)).
[7] Tamtéž.
[8] Tamtéž.
[9] Tamtéž.
© EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz
