Umělá inteligence a právo. Patrně první rozsudek ve věci umělé inteligence
Hitem tohoto roku je umělá inteligence. Média rozebírají tento fenomén ze všech stran. Z pohledu hrozeb a nebezpečí (o tom se píše nejlépe), z hlediska přínosů atp. Rovněž se objevila i několik právních rozborů, které nastiňují, jak potřebu právní regulace, tak konkrétní kroky legislativců.
Podívejme se na soudní praxi, konkrétně rozsudek německého Spolkového ústavního soudu, který se v jednom ze svých rozhodnutí umělou inteligencí zabýval a nabízí nám přímou reflexi tohoto fenoménu v realitě a přímé konfrontaci s právem. Žádné hypotetické úvahy, ale skutečný dopad umělé inteligence na právní praxi.
Künstlicher Intelligenz (KI), jak bývá v Německu označována AI se stala předmětem řízení před Spolkovým ústavním soudem (Bundesverfassungsgericht). Vlastně malinko jinak. Předmětem řízení nebyla umělá inteligence – ale automatizovaná datová analýza (Automatisierte Datenanalyse). Méně cool a méně sexy, o to však přesnější označení toho, co nazýváme umělou inteligencí.
Co se přihodilo. Spolkové země Hamburk a Hesensko přijaly zákon o automatizovaném zpracování policejních údajů, který umožňuje využití automatizované aplikace pro vyhodnocení policejních dat za účel odpadnutí pachatelů závažných trestných činů; případně i předcházení zločinům samotným.
Spolková země Hamburk přijala předpis Gesetz über die Datenverarbeitung der Polizei (PolDVG); Hesensko pak přijalo zákon o veřejné bezpečnosti a pořádku – Hessisches Gesetz über die öffentliche Sicherheit und Ordnung (HSOG).[1]
Principem obou předpisů je možnost shromažďovat a zpracovávat údaje orgány činnými v trestním řízení za účelem předejití trestných činů a jejich prevenci.
Podle uvedených norem může policie v odůvodněných případech zpracovávat osobní údaje uložené v policejních databázích a zpracovávat je pomocí aplikace pro automatizované vyhodnocování dat, je-li to nezbytné k předcházení trestným činům uvedeným nebo k odvrácení ohrožení, zejména pokud je ohrožena existence nebo bezpečnost vlády, spolkové země nebo orgánu, život nebo svoboda osoby nebo věci významné hodnoty, jejichž zachování je nezbytné ve veřejném zájmu.[2]
V praxi si to můžeme představit jako obrovskou databázi informací např. o již spáchaných trestných činech, o pachatelích, obětech nebo svědcích; dále údaje o podezřelých lidech a prostředí kde působí včetně jejich kontaktů na sociálních sítích. Počítačový program pak tato data analyzuje a na konci vytvoří zprávu.
Byť datová analýza podléhá velmi přísným procedurálním předpisům (schválení policejním prezidentem), postup zpracování a vyhodnocení dat byl shledán jako protizákonný Společností pro občanská práva (Gesellschaft für Freiheitsrechte), která následně podala ústavní stížnost k Spolkovému Ústavnímu soudu.[3]
Stěžovatelé podali ústavní stížnost dne 2. července 2019 s odůvodněním nepřiměřeného zásahu do jejich základního práva na informační sebeurčení (čl. 2 odst. 1 ve spojení s čl. 1 odst. 1 německé Ústavy). Dále namítali, že údaje, v jakém rozsahu jsou sbírány narušují integritu a právo na nedotknutelnost obydlí, neboť mohou být automatizovaně sbírány i osobní údaje týkající se obytného prostoru a telekomunikací, pro které platí ústavní právo na nedotknutelnost obydlí podle čl. 13 odst. 1 německé Ústavy a nedotknutelnost telekomunikačního tajemství (Fernmeldegeheimnis) podle čl. 10 odst. 1 německé Ústavy.
Stěžovatelé shledali, že je potřeba zvláštního důvodu a povolení pro zpracování osobních údajů. Opatření pro využití automatizovaného vyhodnocení dat mají zcela jinou kvalitu než pouhé další využití osobních údajů, pro které jako měřítko postačuje princip hypotetického nového sběru dat.
Oprávnění ke zpracování dat s ohledem na používané metody bez omezení druhu a rozsahu dat umožňuje vytváření osobnostních a sociálních profilů. Pokud osobní údaje pocházejí z domovního nebo telekomunikačního prostředí dochází k narušení osobnostní integrity.
Analýzy a vyhodnocování údajů musí sloužit k veřejnému zájmu, a proto by měly být povoleny pouze k ochraně zvláště důležitých právních zájmů, jako je život, zdraví nebo svoboda osoby, jakož i existence nebo bezpečnost federální vlády. Pro ty musí existovat alespoň důvodné ohrožení. Zákonem není upravena dostatečná hranice pro aplikace uvedeného zákona.
Spolkový ústavní soud se stížností zabýval a dospěl k závěru uveřejněnému v rozsudku 1 BvR 2634/20 ze dne 16. února 2023, a to že uvedené právní předpisy jsou skutečně nepřiměřené a protiústavní. Pokud vyšetřovatelé použijí analýzu dat k pátrání po zločincích, může dojít k porušení základních práv, a být tedy protiústavní. Dále soud argumentoval a konstatoval, že automatizované vyhodnocování osobních dat pouze pomocí algoritmu je zásadním zásahem do osobnostních práv, protože může generovat a dovozovat nové poznatky, které mohou být i diskriminační.
Automatizovaná analýza dat je zaměřena na „generování nových znalostí,“ shledal soud. Policie dokáže získat ucelené profily lidí, skupin a prostředí a učinit tak středem zájmu i nevinné osoby. Osoby, kteří dříve nebyli podezřelí, se mohou stát podezřelými.
Soud neřekl jednoznačné NE využití automatizované datové analýzy, ale vyjevil jasnou potřebu zvýšené potřeby podmínek, které eliminují zásah do osobnostních práv. Musí existovat pouze dostatečně závažné důvody, které mohou převážit závažnost zásahu v souladu se zásadou proporcionality.
Podle soudu používání adaptivních systémů umělé inteligence zvlášť hluboce zasahuje do základních práv, protože dále rozvíjí své vzorce vyhledávání. Takové systémy by podle rozsudku mohly „nezávisle vydávat další prohlášení ve smyslu prediktivní policie“. A tak se emancipují.
Rozsudek Spolkového ústavního soudu dosahuje v důsledku více rovin. Explicitně je vyjádřena náchylnost datových analýz k diskriminaci. Pokud se systém dozví, že podezřelí často pocházejí z určitých oblastí, sociálních struktur, reprodukuje tyto znalosti a směřuje tedy k předsudkům.
Soud dále uzavřel, že s umělou inteligencí je třeba zacházet opatrně v kontextu odpovídající procesní úrovně ochrany. Dostatečné ochrany není dosaženo tím, že analýza nebo vyhodnocení dat je povoleno pouze v „odůvodněném “ případě. Je ústavně nepřijatelné s ohledem na závažnost zásahu a dopad na ústavně zaručená práva, pokud v tuto chvíli existují pouze relativně rozptýlené náznaky možného poškození právních zájmů. Ústavním požadavkům automaticky neodpovídá, pokud je dáno oprávnění shromažďovat osobní údaje spojeno s rizikem spáchání takových trestných činů jako prahem pro zásah, ve kterém je hranice trestní odpovědnosti posouvána zahrnutím přípravných akcí před konkrétní hrozby nebo porušení právních zájmů. Pouhé riziko možného trestného činu nesmí vést k takovému ohrožení právních zásad.
Německý Spolkový ústavní soud předložil první zásadní vhled do problematiky AI a práva. Nikoliv z pozice hypotetických konstrukcí, ale přímo reflektuje problém ochrany základních práv dotčených možným působením datových analýz.
Mgr. Bc. et Bc. Jiří Hadaš, MBA
© EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz
