epravo.cz

Přihlášení


Registrace nového uživatele
Zapomenuté heslo
Přihlášení
    • ČLÁNKY
      • občanské právo
      • obchodní právo
      • insolvenční právo
      • finanční právo
      • správní právo
      • pracovní právo
      • trestní právo
      • evropské právo
      • veřejné zakázky
      • ostatní právní obory
    • ZÁKONY
      • sbírka zákonů
      • sbírka mezinárodních smluv
      • právní předpisy EU
      • úřední věstník EU
    • SOUDNÍ ROZHODNUTÍ
      • občanské právo
      • obchodní právo
      • správní právo
      • pracovní právo
      • trestní právo
      • ostatní právní obory
    • AKTUÁLNĚ
      • 10 otázek
      • tiskové zprávy
      • vzdělávací akce
      • komerční sdělení
      • ostatní
      • rekodifikace TŘ
    • E-shop
      • Online kurzy
      • Online konference
      • Záznamy konferencí
      • Další vzdělávaní advokátů
      • Konference
      • Roční předplatné
      • Monitoring judikatury
      • Publikace a služby
      • Společenské akce
      • Advokátní rejstřík
      • Partnerský program
    • Roční předplatné
    • Více
      3. 11. 2023
      ID: 117132upozornění pro uživatele

      Umělá inteligence a právo. Patrně první rozsudek ve věci umělé inteligence

      Umělá inteligence a právo. Patrně první rozsudek ve věci umělé inteligence
      Zdroj: shutterstock.com

      Hitem tohoto roku je umělá inteligence. Média rozebírají tento fenomén ze všech stran. Z pohledu hrozeb a nebezpečí (o tom se píše nejlépe), z hlediska přínosů atp. Rovněž se objevila i několik právních rozborů, které nastiňují, jak potřebu právní regulace, tak konkrétní kroky legislativců.

       

      Podívejme se na soudní praxi, konkrétně rozsudek německého Spolkového ústavního soudu, který se v jednom ze svých rozhodnutí umělou inteligencí zabýval a nabízí nám přímou reflexi tohoto fenoménu v realitě a přímé konfrontaci s právem. Žádné hypotetické úvahy, ale skutečný dopad umělé inteligence na právní praxi.

      Künstlicher Intelligenz (KI), jak bývá v Německu označována AI se stala předmětem řízení před Spolkovým ústavním soudem (Bundesverfassungsgericht). Vlastně malinko jinak. Předmětem řízení nebyla umělá inteligence – ale automatizovaná datová analýza (Automatisierte Datenanalyse). Méně cool a méně sexy, o to však přesnější označení toho, co nazýváme umělou inteligencí.

      Co se přihodilo. Spolkové země Hamburk a Hesensko přijaly zákon o automatizovaném zpracování policejních údajů, který umožňuje využití automatizované aplikace pro vyhodnocení policejních dat za účel odpadnutí pachatelů závažných trestných činů; případně i předcházení zločinům samotným.

      Reklama
      Trestní odpovědnost právnických osob a compliance programy: praktické poznatky a zkušenosti (interaktivní seminář) (online - živé vysílání) - 5.12.2023
      Trestní odpovědnost právnických osob a compliance programy: praktické poznatky a zkušenosti (interaktivní seminář) (online - živé vysílání) - 5.12.2023
      5.12.2023 09:003 025 Kč s DPH
      2 500 Kč bez DPH

      Koupit

      Spolková země Hamburk přijala předpis Gesetz über die Datenverarbeitung der Polizei (PolDVG); Hesensko pak přijalo zákon o veřejné bezpečnosti a pořádku – Hessisches Gesetz über die öffentliche Sicherheit und Ordnung (HSOG).[1]

      Principem obou předpisů je možnost shromažďovat a zpracovávat údaje orgány činnými v trestním řízení za účelem předejití trestných činů a jejich prevenci.

      Podle uvedených norem může policie v odůvodněných případech zpracovávat osobní údaje uložené v policejních databázích a zpracovávat je pomocí aplikace pro automatizované vyhodnocování dat, je-li to nezbytné k předcházení trestným činům uvedeným nebo k odvrácení ohrožení, zejména pokud je ohrožena existence nebo bezpečnost vlády, spolkové země nebo orgánu, život nebo svoboda osoby nebo věci významné hodnoty, jejichž zachování je nezbytné ve veřejném zájmu.[2]

      V praxi si to můžeme představit jako obrovskou databázi informací např. o již spáchaných trestných činech, o pachatelích, obětech nebo svědcích; dále údaje o podezřelých lidech a prostředí kde působí včetně jejich kontaktů na sociálních sítích. Počítačový program pak tato data analyzuje a na konci vytvoří zprávu. 

      Byť datová analýza podléhá velmi přísným procedurálním předpisům (schválení policejním prezidentem), postup zpracování a vyhodnocení dat byl shledán jako protizákonný Společností pro občanská práva (Gesellschaft für Freiheitsrechte), která následně podala ústavní stížnost k Spolkovému Ústavnímu soudu.[3]

      Stěžovatelé podali ústavní stížnost dne 2. července 2019 s odůvodněním nepřiměřeného zásahu do jejich základního práva na informační sebeurčení (čl. 2 odst. 1 ve spojení s čl. 1 odst. 1 německé Ústavy). Dále namítali, že údaje, v jakém rozsahu jsou sbírány narušují integritu a právo na nedotknutelnost obydlí, neboť mohou být automatizovaně sbírány i osobní údaje týkající se obytného prostoru a telekomunikací, pro které platí ústavní právo na nedotknutelnost obydlí podle čl. 13 odst. 1 německé Ústavy a nedotknutelnost telekomunikačního tajemství (Fernmeldegeheimnis) podle čl. 10 odst. 1 německé Ústavy.

      Stěžovatelé shledali, že je potřeba zvláštního důvodu a povolení pro zpracování osobních údajů. Opatření pro využití automatizovaného vyhodnocení dat mají zcela jinou kvalitu než pouhé další využití osobních údajů, pro které jako měřítko postačuje princip hypotetického nového sběru dat.

      Oprávnění ke zpracování dat s ohledem na používané metody bez omezení druhu a rozsahu dat umožňuje vytváření osobnostních a sociálních profilů. Pokud osobní údaje pocházejí z domovního nebo telekomunikačního prostředí dochází k narušení osobnostní integrity.

      Analýzy a vyhodnocování údajů musí sloužit k veřejnému zájmu, a proto by měly být povoleny pouze k ochraně zvláště důležitých právních zájmů, jako je život, zdraví nebo svoboda osoby, jakož i existence nebo bezpečnost federální vlády. Pro ty musí existovat alespoň důvodné ohrožení. Zákonem není upravena dostatečná hranice pro aplikace uvedeného zákona.

      Spolkový ústavní soud se stížností zabýval a dospěl k závěru uveřejněnému v rozsudku 1 BvR 2634/20 ze dne 16. února 2023, a to že uvedené právní předpisy jsou skutečně nepřiměřené a protiústavní. Pokud vyšetřovatelé použijí analýzu dat k pátrání po zločincích, může dojít k porušení základních práv, a být tedy protiústavní. Dále soud argumentoval a konstatoval, že automatizované vyhodnocování osobních dat pouze pomocí algoritmu je zásadním zásahem do osobnostních práv, protože může generovat a dovozovat nové poznatky, které mohou být i diskriminační.

      Automatizovaná analýza dat je zaměřena na „generování nových znalostí,“ shledal soud. Policie dokáže získat ucelené profily lidí, skupin a prostředí a učinit tak středem zájmu i nevinné osoby. Osoby, kteří dříve nebyli podezřelí, se mohou stát podezřelými.

      Soud neřekl jednoznačné NE využití automatizované datové analýzy, ale vyjevil jasnou potřebu zvýšené potřeby podmínek, které eliminují zásah do osobnostních práv. Musí existovat pouze dostatečně závažné důvody, které mohou převážit závažnost zásahu v souladu se zásadou proporcionality.

      Podle soudu používání adaptivních systémů umělé inteligence zvlášť hluboce zasahuje do základních práv, protože dále rozvíjí své vzorce vyhledávání. Takové systémy by podle rozsudku mohly „nezávisle vydávat další prohlášení ve smyslu prediktivní policie“. A tak se emancipují.

      Rozsudek Spolkového ústavního soudu dosahuje v důsledku více rovin. Explicitně je vyjádřena náchylnost datových analýz k diskriminaci.  Pokud se systém dozví, že podezřelí často pocházejí z určitých oblastí, sociálních struktur, reprodukuje tyto znalosti a směřuje tedy k předsudkům. 

      Soud dále uzavřel, že s umělou inteligencí je třeba zacházet opatrně v kontextu odpovídající procesní úrovně ochrany. Dostatečné ochrany není dosaženo tím, že analýza nebo vyhodnocení dat je povoleno pouze v „odůvodněném “ případě. Je ústavně nepřijatelné s ohledem na závažnost zásahu a dopad na ústavně zaručená práva, pokud v tuto chvíli existují pouze relativně rozptýlené náznaky možného poškození právních zájmů. Ústavním požadavkům automaticky neodpovídá, pokud je dáno oprávnění shromažďovat osobní údaje spojeno s rizikem spáchání takových trestných činů jako prahem pro zásah, ve kterém je hranice trestní odpovědnosti posouvána zahrnutím přípravných akcí před konkrétní hrozby nebo porušení právních zájmů. Pouhé riziko možného trestného činu nesmí vést k takovému ohrožení právních zásad. 

      Německý Spolkový ústavní soud předložil první zásadní vhled do problematiky AI a práva. Nikoliv z pozice hypotetických konstrukcí, ale přímo reflektuje problém ochrany základních práv dotčených možným působením datových analýz.

      Mgr. Bc. et Bc. Jiří Hadaš, MBA

       

      [1] § 24 HSOG - k dispozici >>> zde.

      [2] § 49 PolDVG - k dispozici >>> zde.

      [3] K dispozici >>> zde.


      © EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz


      Mgr. Bc. et Bc. Jiří Hadaš, MBA
      3. 11. 2023
      pošli emailem
      vytiskni článek
      • Tweet

      Další články:

      • DIP praktické otázky a odpovědi ohledně nového spoření na penzi
      • Možnost zpeněžení předmětu zadržovacího práva v řízení o soudním prodeji zástavy
      • Příklady praktického využití metody Med-Arb na skutečných případech
      • Amortizace vozů z pohledu škodní události
      • Vyvlastnění nemovitosti s duplicitním zápisem vlastnického práva
      • Plánovací smlouvy dle nového stavebního zákona – druhy a obsah
      • Specifika výslechu obětí trestné činnosti
      • „Job sharing“ – převažující výhody či nevýhody?
      • Aktuální trendy ESG reportů
      • Jak na koupi nemovitosti v Itálii?
      • Digitální identita: budoucnost digitální identity v České republice

      Související produkty

      Online kurzy

      • Mezigenerační předání (rodinného) bohatství (ideálně dobře připravené) - II. část
      • Mezigenerační předání (rodinného) bohatství (ideálně dobře připravené) - I. část
      • Specifika obsazování funkcí vedoucích osob obhospodařovatelů investičních fondů
      • Aktuální judikatura vysokých soudů k věcným právům
      • Aktuální judikatura vysokých soudů k náhradě škody
      Lektoři kurzů
      Mgr. Michaela Riedlová
      Mgr. Michaela Riedlová
      Kurzy lektora
      JUDr. Jakub Dohnal, Ph.D., LL.M.
      JUDr. Jakub Dohnal, Ph.D., LL.M.
      Kurzy lektora
      Mgr. Stanislav Servus, LL.M.
      Mgr. Stanislav Servus, LL.M.
      Kurzy lektora
      JUDr. et Mgr.  Pavla  Voříšková, Ph.D.
      JUDr. et Mgr. Pavla Voříšková, Ph.D.
      Kurzy lektora
      doc. JUDr. Petr Tégl, Ph.D.
      doc. JUDr. Petr Tégl, Ph.D.
      Kurzy lektora
      Mgr. František Korbel, Ph.D.
      Mgr. František Korbel, Ph.D.
      Kurzy lektora
      doc. JUDr.  Milan Hulmák, Ph.D.
      doc. JUDr. Milan Hulmák, Ph.D.
      Kurzy lektora
      JUDr. Petr Bříza, LL.M., Ph.D.
      JUDr. Petr Bříza, LL.M., Ph.D.
      Kurzy lektora
      všichni lektoři

      Nejčtenější na epravo.cz

      • 24 hod
      • 7 dní
      • 30 dní
      • DIP praktické otázky a odpovědi ohledně nového spoření na penzi
      • Prokura v současné judikatuře a její aplikační praxe
      • Právní základ každého startupu
      • Možnost zpeněžení předmětu zadržovacího práva v řízení o soudním prodeji zástavy
      • Vyvlastnění nemovitosti s duplicitním zápisem vlastnického práva
      • Provoz na pozemních komunikacích
      • Jaké výhody v předpisech zaměstnavatele po novele zákoníku práce?
      • Amortizace vozů z pohledu škodní události
      • Elektronické pracovněprávní dokumenty po novele zákoníku práce
      • Prokura v současné judikatuře a její aplikační praxe
      • Právo na víkend - týden v české justici očima šéfredaktora
      • 10 otázek pro … Lucii Hrdou
      • Fyzická osoba jako poskytovatel zajištění podnikatelského úvěru – jedná jako podnikatel nebo spotřebitel?
      • Jaké výhody v předpisech zaměstnavatele po novele zákoníku práce?
      • Vyvlastnění nemovitosti s duplicitním zápisem vlastnického práva
      • Amortizace vozů z pohledu škodní události
      • Dohody nejen ve světle novely zákoníku práce
      • Delší dovolená nebo příspěvek na stravování?
      • Právnická firma roku 2023
      • Umělá inteligence a právo. Patrně první rozsudek ve věci umělé inteligence
      • Smluvní pokuta (po novu) v kontextu dalších aktuálních rozhodnutích Nejvyššího soudu
      • Promlčení pohledávky na zaplacení faktury
      • Českou republiku čeká transpozice další evropské směrnice v oblasti pracovního práva
      • Elektronické pracovněprávní dokumenty po novele zákoníku práce

      Pracovní pozice

      Soudní rozhodnutí

      Daň z přidané hodnoty (exkluzivně pro předplatitele)

      Úrok z vratitelného přeplatku (§ 155 odst. 5 daňového řádu) vzniká jako pohledávka daňového subjektu vůči státu a předepisuje se na osobní daňový účet v zákonem stanovené...

      Daň z příjmu (exkluzivně pro předplatitele)

      Poskytuje-li výrobce zboží peněžní odměny pro zaměstnance svých obchodních partnerů za prodej zboží určité značky v souvislosti s výkonem jejich závislé činnosti (program...

      Pobyt cizinců (exkluzivně pro předplatitele)

      Závazné stanovisko správního orgánu o možnosti vycestování cizince, tedy o tom, že mu v zemi původu nehrozí skutečné nebezpečí ve smyslu § 179 odst. 1 zákona č. 326/1999 Sb., o...

      Provoz na pozemních komunikacích

      Ustanovení § 125c odst. 1 písm. a) bodu 2 zákona č. 361/2000 Sb., o provozu na pozemních komunikacích, je nutno vykládat s ohledem na jeho smysl a účel tak, aby přehnaně přísný...

      Veřejné zdravotní pojištění (exkluzivně pro předplatitele)

      Při rozhodování o výjimečné úhradě zdravotní služby jinak ze zdravotního pojištění nehrazené (§ 16 zákona č. 48/1997 Sb., o veřejném zdravotním pojištění) musí zdravotní...

      Hledání v rejstřících

      • mapa serveru
      • o nás
      • reklama
      • podmínky provozu
      • kontakty
      • publikační podmínky
      • FAQ
      • obchodní a reklamační podmínky
      • Ochrana osobních údajů - GDPR
      • Nastavení cookies
      100 nej
      © EPRAVO.CZ, a.s. 1999-2023, ISSN 1213-189X      developed by Actimmy
      Provozovatelem serveru je EPRAVO.CZ, a.s. se sídlem Dušní 907/10, Staré Město, 110 00 Praha 1, Česká republika, IČ: 26170761, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze pod spisovou značkou B 6510.
      Automatické vytěžování textů a dat z této internetové stránky ve smyslu čl. 4 směrnice 2019/790/EU je bez souhlasu EPRAVO.CZ, a.s. zakázáno.

      Jste zde poprvé?

      Vítejte na internetovém serveru epravo.cz. Jsme zdroj informací jak pro laiky, tak i pro právníky profesionály. Zaregistrujte se u nás a získejte zdarma řadu výhod.


      Protože si vážíme Vašeho zájmu, dostanete k registraci dárek v podobě unikátního video tréningu od jednoho z nejznámějších českých advokátů a rozhodců JUDr. Martina Maisnera, Ph.D., MCIArb, a to "Taktika vyjednávání o smlouvách".


      Registrace je zdarma, k ničemu Vás nezavazuje a získáte každodenní přehled o novinkách ve světě práva.


      Vaše data jsou u nás v bezpečí. Údaje vyplněné při této registraci zpracováváme podle podmínek zpracování osobních údajů



      Nezapomněli jste něco v košíku?

      Vypadá to, že jste si něco zapomněli v košíku. Dokončete prosím objednávku ještě před odchodem.


      Přejít do košíku


      Vaši nedokončenou objednávku vám v případě zájmu zašleme na e-mail a můžete ji tak dokončit později.