12. 7. 2017
ID: 106111
LAW FIT 2017 – Právo a umělá inteligence
Dne 22. května 2017 proběhl již pátý ročník konference LAW FIT, která spojuje otázky práva a informačních technologií a kterou pořádá Fakulta informačních technologií ČVUT. Letos byla konference věnována velice aktuálnímu tématu - právu a umělé inteligenci.
Rok 2017 je někdy nazývám rokem umělé inteligence, jak v úvodním proslovu zmínil Zdeněk Kučera, chair konference, advokát Kinstellar a garant právních předmětů na FIT ČVUT. Po celém světě dochází k testování autonomních vozidel, rozšiřuje se užívání virtuálních asistentů a robotů v domácnostech. Umělá inteligence je i schopná řešit jednoduché právní problémy a rozhodovat spory a stále více proniká do výrobních procesů a hovoří se o tom, že až třetina pracovních míst bude do deseti let nahrazena roboty. Kučera však současně upozornil na nutnost věnovat dostatečnou pozornost zabezpečení technologií, které jsou nositeli umělé inteligence.
Přes Skype se ke konferenci připojil Pavel Svoboda, poslanec Evropského parlamentu a předseda výboru pro právní záležitosti. Svoboda představil zprávu výboru z ledna 2017, která obsahuje doporučení Evropské komisi pro občanskoprávní pravidla pro robotiku. Hlavním cílem zprávy je, aby Komise představila jednotnou evropskou právní regulaci umělé inteligence, a to zejména pružnou a obecně přijatelnou definici robota a umělé inteligence, aniž by došlo k omezení inovace. Výbor také navrhl zvážit vytvoření statusu elektronické osoby; ten by bylo možno uplatnit např. případech, kdy robot autonomně rozhoduje a komunikuje se třetími stranami.
Svoboda zdůraznil potřebu právní jistoty jak pro výrobce, tak uživatele robotů, nejen v otázkách odpovědnosti za škody, duševního vlastnictví a ochrany osobních údajů. Zpráva výboru se zabývá i etickými problémy, zmiňuje např. Asimovovy zákony robotiky, které by měly být přijaty všemi výrobci robotů. Podle Svobody je nutné si v oblasti robotiky pokládat ty správné otázky, i když na ně ještě nenalézáme odpovědi. Podle Svobody není ale jisté, kdy budou k dispozici konkrétní legislativní návrhy.
Právníci nesmí zaspat
Blok o poskytování právních služeb prostřednictvím on-line platforem se zabýval automatizací v právu a tím, zda umělá inteligence nahradí právníky. Podle Jaroslava Kramera z Právního rádce, bude činnost právníků spočívajících především v rešerších a administrativě nahrazena automatizací. Kramer je toho názoru, že právníci sice nebudou nahrazeni úplně, musí se ale přizpůsobit změnám trhu, které rozvoj technologií přinese.
Robert Němec, místopředseda ČAK, rovněž zdůraznil nutnost advokátů a České advokátní komory reagovat na vývoj technologií. Podle Němce v rámci zvyšování dostupnosti právních služeb, by advokátům mělo být poskytování právních služeb prostřednictvím on-line platforem povoleno. Při tom musí být však zohledněny základní principy advokacie - svoboda volby advokáta, důvěrnost vztahu mezi klientem a advokátem a také povinnost identifikace klienta, zejména jako opatření proti konfliktu zájmů. Klíčové je pro Českou advokátní komoru zamezení vinklářství, tedy poskytování právních služeb bez náležitého oprávnění a bez možné kontroly kvality, které se v současnosti na internetu šíří.
Podle zkušeností a výzkumů Ondřeje Materny, který je zakladatelem aplikace pro automatizaci právních dokumentů Legito, je hlavním důvodem proč lidé používají jejich platformu, úspora času. Podle Materny doba hektického životního stylu vyžaduje i rychlá právní řešení. K výhodám automatizace patří i zvýšení efektivity, snížení chybovosti a předávání know-how mezi právníky.
Poněkud znepokojující pro budoucnost advokacie a snahy zamezení vinklářství, se může zdát výzkum společnosti Legito, který proběhl na tisícovkách návštěvníků v několika evropských zemích. Polovině návštěvníků jejich stránek nabízeli vzor právního dokumentu, který byl prezentován jako vytvořený advokátní kanceláří (zobrazen se jménem a fotografií právníka a odkazem na webové stránky této kanceláře). Druhé polovině návštěvníků stránky byl prezentován stejný vzor dokumentu, ale bez informace o advokátní kanceláři. Výsledek byl překvapivý, informace o advokátní kanceláři totiž nijak neovlivnila chování návštěvníků stránky, naopak tato varianta byla dokonce méně populární. Výzkum naznačuje, že lidi příliš nezajímá, zda byl dokument vytvořen odborníkem v oboru práva, či nikoliv.
Právo není na umělou inteligenci úplně nepřipraveno
Blok o odpovědnosti za právní jednání robotů začal Ondřej Malý, koordinátor digitální agendy ČR, který poskytl konferenci záštitu. Podle Malého je stát tím posledním, kdo dokáže dostatečně rychle reagovat na rozvoj technologií, proto je pro umělou inteligenci vhodná koregulace. Zmínil i aktuální debaty o zavedení garantovaného základní příjmu jako reflexi změn pracovního trhu v souvislosti s rozšířením umělé inteligence.
Alžběta Krausová z Ústavu státu a práva Akademie věd představila srovnání modelů odpovědnosti umělé inteligence v právních systémech Japonska, USA a Evropy. Podle Krausové je v EU nutno vytvořit jasná pravidla, právně oddělit robota, jako výrobek od softwaru, který určuje chování robota a vytvořit status elektronické osoby. Vhodné by bylo pojištění prostřednictvím fondu, do kterého by přispívali výrobci a provozovatelé robotů. Fond by zohlednil potenciální odpovědnost v celém životním cyklu robota a sloužil k úhradám vzniklých škod.
Filip Melzer z advokátní kanceláře Havel, Holásek & Partners zasadil odpovědnost umělé inteligence do kontextu českého práva. Podle Melzera byly principy odpovědnosti, na kterých je občanský zákoník postaven, vytvořeny v 19.století, kdy bylo právo reagovalo na náhlý rozvoj techniky a jsou natolik nadčasové, že mohou být z velké části použity i na oblast robotiky. Jako příklad uvádí samořídící automobily - ve středoevropských právních systémech má odpovědnost za škodu způsobenou provozem dopravního prostředku provozovatel automobilu, nikoliv řidič. To, že auto nemá řidiče tedy z hlediska odpovědnosti nepředstavuje problém. Podle Melzera anglosaské právní systémy, které staví odpovědnost na osobě řidiče, tento koncept neznají, což je značně problematické.
Podle Melzera však bude nutno upravit odpovědnost za zvýšení rizika. Vzhledem k tomu, že škoda může být způsobena na základě několika faktorů, je vhodnější aby za škodu odpovídal jediný subjekt, než aby odpovídalo několik subjektů zároveň. Na základě povinného pojištění by pak došlo k vyrovnání mezi těmito subjekty.
Nutnost ochrany osobních údajů při užívání virtuálních asistentů
Na právní otázky spojené s užíváním virtuálních asistentů a chatbotů se zaměřil Jiří Kalíšek z PRK Partners. Podle něj je při užívání chatbotů nutno vzít v úvahu, zda bude svým chováním vstupovat do právních vztahů, zda mohou informace poskytnuté chatbotem (např. že robot potvrdí dostupnost pokoje hotelu) zakládat předsmluvní odpovědnost, nebo i způsob, jakým je chatbot prezentován protistraně, tedy zda působí navenek tak, že působí jako by bylo jednáno s člověkem.
Užívání chatbotů přináší i riziko nesouladu s požadavky na ochranu osobních údajů, zejména právo subjektu být informován, že dochází k rozhodování založeném výhradně na automatizovanému zpracovávání jeho údajů a právo nebýt předmětem takového rozhodování (rozhodování provedeného výlučně virtuálním asistentem, kde by chyběl lidský prvek). Pokud k automatizovanému rozhodování dochází, má subjekt právo vědět, jakým postupem chatbot k výsledku dospěl (hovoří se o tzv. požadavku transparence algoritmu).
Velmoc autonomních vozidel?
Poslední blok konference se věnoval odpovědnosti za jednání samořídících automobilů. V něm vystoupil Václav Kobera z Ministerstva dopravy, podle kterého nasazení autonomních vozidel zvýší bezpečnost silničního provozu, povede k rozsáhlejšímu sdílení vozidel, čím se dopravní služby zpřístupní a dojde ke snížení emisí. Vedle právních otázek je nutno dořešit otázky etiky a bezpečnosti vozidel, ale i investiční strategie a obchodní modely. Podle Martina Hausenblase z Liftago má Česká republika potenciál stát se evropskou velmocí autonomních vozidel a měly by být včas přijaty potřebné legislativní kroky. Hausenblas prosazuje, aby se Ústí nad Labem stalo prvním městem v ČR, kde by byly nasazeny samořídící auta do běžného provozu.
Pátý ročník konference se těšil velkému zájmu - zúčastnilo se ho přes 230 účastníků, a to z řad IT specialistů, právníků a studentů. Konference LAW FIT je projektem Fakulty informačních technologií ČVUT v Praze a epravo.cz je jedním z jejích mediálních partnerů.
Barbora Dědková,
studentka Právnické fakulty Univerzity Karlovy v Praze a University of Oslo
© EPRAVO.CZ – Sbírka zákonů , judikatura, právo | www.epravo.cz
Přes Skype se ke konferenci připojil Pavel Svoboda, poslanec Evropského parlamentu a předseda výboru pro právní záležitosti. Svoboda představil zprávu výboru z ledna 2017, která obsahuje doporučení Evropské komisi pro občanskoprávní pravidla pro robotiku. Hlavním cílem zprávy je, aby Komise představila jednotnou evropskou právní regulaci umělé inteligence, a to zejména pružnou a obecně přijatelnou definici robota a umělé inteligence, aniž by došlo k omezení inovace. Výbor také navrhl zvážit vytvoření statusu elektronické osoby; ten by bylo možno uplatnit např. případech, kdy robot autonomně rozhoduje a komunikuje se třetími stranami.
Svoboda zdůraznil potřebu právní jistoty jak pro výrobce, tak uživatele robotů, nejen v otázkách odpovědnosti za škody, duševního vlastnictví a ochrany osobních údajů. Zpráva výboru se zabývá i etickými problémy, zmiňuje např. Asimovovy zákony robotiky, které by měly být přijaty všemi výrobci robotů. Podle Svobody je nutné si v oblasti robotiky pokládat ty správné otázky, i když na ně ještě nenalézáme odpovědi. Podle Svobody není ale jisté, kdy budou k dispozici konkrétní legislativní návrhy.
Právníci nesmí zaspat
Blok o poskytování právních služeb prostřednictvím on-line platforem se zabýval automatizací v právu a tím, zda umělá inteligence nahradí právníky. Podle Jaroslava Kramera z Právního rádce, bude činnost právníků spočívajících především v rešerších a administrativě nahrazena automatizací. Kramer je toho názoru, že právníci sice nebudou nahrazeni úplně, musí se ale přizpůsobit změnám trhu, které rozvoj technologií přinese.
Robert Němec, místopředseda ČAK, rovněž zdůraznil nutnost advokátů a České advokátní komory reagovat na vývoj technologií. Podle Němce v rámci zvyšování dostupnosti právních služeb, by advokátům mělo být poskytování právních služeb prostřednictvím on-line platforem povoleno. Při tom musí být však zohledněny základní principy advokacie - svoboda volby advokáta, důvěrnost vztahu mezi klientem a advokátem a také povinnost identifikace klienta, zejména jako opatření proti konfliktu zájmů. Klíčové je pro Českou advokátní komoru zamezení vinklářství, tedy poskytování právních služeb bez náležitého oprávnění a bez možné kontroly kvality, které se v současnosti na internetu šíří.
Podle zkušeností a výzkumů Ondřeje Materny, který je zakladatelem aplikace pro automatizaci právních dokumentů Legito, je hlavním důvodem proč lidé používají jejich platformu, úspora času. Podle Materny doba hektického životního stylu vyžaduje i rychlá právní řešení. K výhodám automatizace patří i zvýšení efektivity, snížení chybovosti a předávání know-how mezi právníky.
Poněkud znepokojující pro budoucnost advokacie a snahy zamezení vinklářství, se může zdát výzkum společnosti Legito, který proběhl na tisícovkách návštěvníků v několika evropských zemích. Polovině návštěvníků jejich stránek nabízeli vzor právního dokumentu, který byl prezentován jako vytvořený advokátní kanceláří (zobrazen se jménem a fotografií právníka a odkazem na webové stránky této kanceláře). Druhé polovině návštěvníků stránky byl prezentován stejný vzor dokumentu, ale bez informace o advokátní kanceláři. Výsledek byl překvapivý, informace o advokátní kanceláři totiž nijak neovlivnila chování návštěvníků stránky, naopak tato varianta byla dokonce méně populární. Výzkum naznačuje, že lidi příliš nezajímá, zda byl dokument vytvořen odborníkem v oboru práva, či nikoliv.
Blok o odpovědnosti za právní jednání robotů začal Ondřej Malý, koordinátor digitální agendy ČR, který poskytl konferenci záštitu. Podle Malého je stát tím posledním, kdo dokáže dostatečně rychle reagovat na rozvoj technologií, proto je pro umělou inteligenci vhodná koregulace. Zmínil i aktuální debaty o zavedení garantovaného základní příjmu jako reflexi změn pracovního trhu v souvislosti s rozšířením umělé inteligence.
Alžběta Krausová z Ústavu státu a práva Akademie věd představila srovnání modelů odpovědnosti umělé inteligence v právních systémech Japonska, USA a Evropy. Podle Krausové je v EU nutno vytvořit jasná pravidla, právně oddělit robota, jako výrobek od softwaru, který určuje chování robota a vytvořit status elektronické osoby. Vhodné by bylo pojištění prostřednictvím fondu, do kterého by přispívali výrobci a provozovatelé robotů. Fond by zohlednil potenciální odpovědnost v celém životním cyklu robota a sloužil k úhradám vzniklých škod.
Filip Melzer z advokátní kanceláře Havel, Holásek & Partners zasadil odpovědnost umělé inteligence do kontextu českého práva. Podle Melzera byly principy odpovědnosti, na kterých je občanský zákoník postaven, vytvořeny v 19.století, kdy bylo právo reagovalo na náhlý rozvoj techniky a jsou natolik nadčasové, že mohou být z velké části použity i na oblast robotiky. Jako příklad uvádí samořídící automobily - ve středoevropských právních systémech má odpovědnost za škodu způsobenou provozem dopravního prostředku provozovatel automobilu, nikoliv řidič. To, že auto nemá řidiče tedy z hlediska odpovědnosti nepředstavuje problém. Podle Melzera anglosaské právní systémy, které staví odpovědnost na osobě řidiče, tento koncept neznají, což je značně problematické.
Podle Melzera však bude nutno upravit odpovědnost za zvýšení rizika. Vzhledem k tomu, že škoda může být způsobena na základě několika faktorů, je vhodnější aby za škodu odpovídal jediný subjekt, než aby odpovídalo několik subjektů zároveň. Na základě povinného pojištění by pak došlo k vyrovnání mezi těmito subjekty.
Nutnost ochrany osobních údajů při užívání virtuálních asistentů
Na právní otázky spojené s užíváním virtuálních asistentů a chatbotů se zaměřil Jiří Kalíšek z PRK Partners. Podle něj je při užívání chatbotů nutno vzít v úvahu, zda bude svým chováním vstupovat do právních vztahů, zda mohou informace poskytnuté chatbotem (např. že robot potvrdí dostupnost pokoje hotelu) zakládat předsmluvní odpovědnost, nebo i způsob, jakým je chatbot prezentován protistraně, tedy zda působí navenek tak, že působí jako by bylo jednáno s člověkem.
Užívání chatbotů přináší i riziko nesouladu s požadavky na ochranu osobních údajů, zejména právo subjektu být informován, že dochází k rozhodování založeném výhradně na automatizovanému zpracovávání jeho údajů a právo nebýt předmětem takového rozhodování (rozhodování provedeného výlučně virtuálním asistentem, kde by chyběl lidský prvek). Pokud k automatizovanému rozhodování dochází, má subjekt právo vědět, jakým postupem chatbot k výsledku dospěl (hovoří se o tzv. požadavku transparence algoritmu).
Velmoc autonomních vozidel?
Poslední blok konference se věnoval odpovědnosti za jednání samořídících automobilů. V něm vystoupil Václav Kobera z Ministerstva dopravy, podle kterého nasazení autonomních vozidel zvýší bezpečnost silničního provozu, povede k rozsáhlejšímu sdílení vozidel, čím se dopravní služby zpřístupní a dojde ke snížení emisí. Vedle právních otázek je nutno dořešit otázky etiky a bezpečnosti vozidel, ale i investiční strategie a obchodní modely. Podle Martina Hausenblase z Liftago má Česká republika potenciál stát se evropskou velmocí autonomních vozidel a měly by být včas přijaty potřebné legislativní kroky. Hausenblas prosazuje, aby se Ústí nad Labem stalo prvním městem v ČR, kde by byly nasazeny samořídící auta do běžného provozu.
Pátý ročník konference se těšil velkému zájmu - zúčastnilo se ho přes 230 účastníků, a to z řad IT specialistů, právníků a studentů. Konference LAW FIT je projektem Fakulty informačních technologií ČVUT v Praze a epravo.cz je jedním z jejích mediálních partnerů.
Barbora Dědková,
studentka Právnické fakulty Univerzity Karlovy v Praze a University of Oslo
© EPRAVO.CZ – Sbírka zákonů , judikatura, právo | www.epravo.cz
