epravo.cz

Přihlášení / registrace

Nemáte ještě účet? Zaregistrujte se


Zapomenuté heslo
    Přihlášení / registrace
    • ČLÁNKY
      • občanské právo
      • obchodní právo
      • insolvenční právo
      • finanční právo
      • správní právo
      • pracovní právo
      • trestní právo
      • evropské právo
      • veřejné zakázky
      • ostatní právní obory
    • ZÁKONY
      • sbírka zákonů
      • sbírka mezinárodních smluv
      • právní předpisy EU
      • úřední věstník EU
    • SOUDNÍ ROZHODNUTÍ
      • občanské právo
      • obchodní právo
      • správní právo
      • pracovní právo
      • trestní právo
      • ostatní právní obory
    • AKTUÁLNĚ
      • 10 otázek
      • tiskové zprávy
      • vzdělávací akce
      • komerční sdělení
      • ostatní
      • rekodifikace TŘ
    • Rejstřík
    • E-shop
      • Online kurzy
      • Online konference
      • Záznamy konferencí
      • EPRAVO.CZ Premium
      • Konference
      • Monitoring judikatury
      • Publikace a služby
      • Společenské akce
      • Advokátní rejstřík
      • Partnerský program
    • Předplatné
    16. 6. 2023
    ID: 116554upozornění pro uživatele

    Přelom v regulaci: Jak Akt o umělé inteligenci možná změní hru v Evropě

    V současné době se člověk pomalu bojí otevřít ledničku, aby se tam nepsalo o umělé inteligenci. Jak to tak bývá, cokoli co se v tržním světě objeví, je posléze regulováno předpisem. Jelikož je umělá inteligence opravdu všude, je nutné legislativní snahy v Evropě sledovat. A právě o tom pojednává tento článek.

    Akt o umělé inteligenci přinese harmonizovaná pravidla pro vývoj a používání systémů umělé inteligence (UI) v Evropě. Jako první komplexní pravidla regulující UI však mohou ovlivnit i zbytek světa (tzv. bruselský efekt[1]).

    Návrh znění nařízení vypracovaný Evropskou komisí je dostupný již od dubna roku 2021. Ve čtvrtek 11. 5. 2023 přijal Výbor pro vnitřní trh a Výbor pro občanské věci pozměňovací návrh k návrhu Komise[2], který reaguje především na rychlý technologický vývoj jazykových modelů typu ChatGPT. O finální podobě nařízení budou europoslanci hlasovat na plenárním zasedání, které má proběhnout 12. 6. 2023.[3]

    Reklama
    Nemáte ještě registraci na epravo.cz?

    Registrujte se, získejte řadu výhod a jako dárek Vám zašleme aktuální online kurz na využití umělé inteligence v praxi.

    REGISTROVAT ZDE

    Pokud bude znění nařízení schváleno, nastane závěrečná fáze legislativního procesu, tzv. trialogy, kdy se k jednání připojí Evropská komise a Rada EU.

    Cílem nařízení je podpořit inovace a zavádění důvěryhodných a bezpečných systémů umělé inteligence, které bude člověk schopen kontrolovat a vysvětlit. Tím má být dle oficiálních materiálů zajištěna vysoká úroveň ochrany zdraví, bezpečnosti, principů právního státu a jiných základních lidských práv a svobod před škodlivými účinky umělé inteligence.

    Reklama
    ChatGPT od A do Z v právní praxi (online - živé vysílání) - 5.8.2025
    ChatGPT od A do Z v právní praxi (online - živé vysílání) - 5.8.2025
    5.8.2025 13:003 975 Kč s DPH
    3 285 Kč bez DPH

    Koupit

    Nařízení definuje systém umělé inteligence jako systém, který je navržen tak, aby mohl pracovat na různých úrovních autonomie, a který je schopen generovat výstupy (např. předpovědi, doporučení nebo rozhodnutí), které ovlivňují fyzické nebo virtuální prostředí.[4]

    Klasifikace systémů UI podle míry rizika

    Nařízení třídí systémy umělé inteligence podle míry rizika, které vytváří, a to na systémy s nízkým nebo minimálním rizikem, vysoce rizikové a nepřijatelné systémy UI.

    Systémy umělé inteligence s nepřijatelnou mírou rizika[5] jsou striktně zakázané vzhledem k tomu, že jsou v rozporu s hodnotami Evropské unie. Je například nepřípustné používání systémů UI, které využívají podprahových, manipulativních nebo podvodných technik nebo zranitelnosti určité skupiny osob s cílem podstatně ovlivnit chování a rozhodování těchto osob. Dále je stanoven zákaz používání systémů UI pro přidělování sociálního kreditu, za účelem rozpoznávání emocí nebo biometrické identifikace.

    Vysoce rizikové systémy UI jsou systémy, které představují vysoké riziko pro život, zdraví, bezpečnost nebo jiná základní práva fyzických osob. Tyto systémy bude povoleno uvést na evropský trh jen při splnění souboru na ně kladených požadavků.

    Mezi tyto systémy můžeme řadit například systém určený k použití jako bezpečností součást při řízení a provozu silniční dopravy, při zásobování vodou, plynem, teplem a elektřinou nebo systém používaný při vzdělávání či zaměstnávání, zejména při výběru osob, jejich hodnocení a určování jejich práv a povinností.

    Pro vysoce rizikové systémy stanoví nařízení například tyto požadavky:

    1. Zavedení a uplatňování systému řízení rizik, který zahrnuje mimo jiné přijetí vhodných opatření řízení rizik
    2. Vypracování technické dokumentace před uvedením systému na trh[6] a její průběžná aktualizace
    3. Vypracování systémů tak, aby v průběhu své činnosti umožňovaly automatické zaznamenávání událostí (protokoly)[7], které musí být uchovávány alespoň po dobu 6 měsíců[8]
    4. Fungování systému musí být transparentní[9]
    5. Opatření systému návodem k použití obsahující relevantní informace pro uživatele, například totožnost a kontaktní údaje poskytovatele, vlastnosti, schopnosti a omezení výkonnosti systému, včetně jeho zamýšleného účelu, úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti
    6. Lidský dohled nad používáním těchto systémů[10]
    7. Pokud poskytovatel sídlí mimo EU má povinnost jmenovat zplnomocněného zástupce sídlícího v EU formou písemného pověření
    8. Povinnost registrace do databáze EU před uvedením na trh nebo do provozu[11]
    9. Povinnost ohlásit každý závažný incident nebo chybné fungování těchto systémů představující porušení povinností podle práva Unie, a to neprodleně nebo nejpozději do patnácti dnů poté, co se poskytovatelé o daném závažném incidentu nebo chybném fungování dozví[12]

    Uživatelé vysoce rizikových systémů mají povinnost tyto systémy užívat v souladu s návodem k použití[13] a monitorovat jejich provoz. V případě, že se domnívají, že systém UI představuje riziko, uvědomí o tom poskytovatele nebo distributora a používání systému pozastaví.

    Základní modely

    V reakci na rychlý technologický vývoj velkých jazykových modelů typu ChatGPT byla zavedena kategorie tzv. základních modelů (foundation models), které jsou podkategorií modelů pro obecné užití. Jedná se o modely, které jsou trénovány na obrovském množství rozličných dat, jsou navrženy pro poskytování obecných výstupů a mohou být přizpůsobeny široké škále úloh.

    Poskytovatelé těchto modelů mají nařízením stanoven soubor povinností, například povinnost jejich registrace v databázi základních modelů, vytvoření technické dokumentace a instrukcí k použití.[14]

    Poskytovatelé základních modelů používaných ke generování obsahu jako je text, obrázky, audio nebo video (tzv. generativní systémy UI) mají navíc povinnost uvádět, že byl daný obsah generován UI a zároveň systém vytvořit a trénovat tak, aby bylo zamezeno generování nezákonného obsahu.

    Nejvíce kontroverzní a diskutovanou povinností je povinnost zveřejnění seznamu dat, která byla použita při tréninku daného systému, pokud jsou tato předmětem ochrany autorského práva. Tato povinnost výrazně zlepší postavení umělců bránících se proti porušování jejich autorských práv systémem UI, neboť tito nemají informace o procesu vytváření a trénování tohoto systému, takže by jinak jen velmi těžko prokazovali, že se systém učil na jejich autorských dílech.

    Evropský úřad pro umělou inteligenci

    Nařízení zřizuje Evropský úřad pro umělou inteligenci (AI Office)[15], který bude nezávislým orgánem s právní osobností a sídlem v Bruselu. Strukturu tohoto úřadu bude tvořit správní rada, sekretariát a poradní fórum.

    Na vnitrostátní úrovni budou členské státy povinny pro účely dohledu nad uplatňováním a prováděním nařízení určit národní dozorový orgán.

    Opatření na podporu inovací

    Členské státy budou mít povinnost vytvořit kontrolované prostředí pro bezpečné testování systémů UI (tzv. regulační pískoviště UI), a to nejpozději ke dni účinnosti tohoto nařízení.

    Prostředky nápravy

    Nařízení nově upravuje specifické prostředky nápravy, zejména právo každé fyzické osoby nebo jejich skupiny podat stížnost u národního dozorového orgánu a právo na opravný prostředek proti rozhodnutí tohoto orgánu. Dále je stanoveno právo na vysvětlení rozhodnutí, které bylo přijato na základě výstupu vysoce rizikového systému.

    Závěr

    Umělá inteligence s sebou kromě velkých příležitostí přináší i velká rizika a ovlivňuje každodenní život lidí. Je tedy nepochybné, že je její regulace třeba.

    Evropská regulace umělé inteligence by byla jednou z prvních tohoto druhu na celém světe, Evropská unie tak může inspirovat ostatní státy při zavádění pravidel pro umělou inteligenci a podnítit debatu na světové úrovni. Je zde však riziko, že pokud ostatní státy přijmou regulaci, která nebude klást na poskytovatele systémů UI tak přísné požadavky, budou tito poskytovatelé systémy vyvíjet a uvádět na trh právě v těchto ostatních státech.

    Autoři pozměňovacího návrhu k nařízení jsou však přesvědčeni, že toto vyvažuje ochranu základních práv s potřebou poskytnout podnikům právní jistotu a podnítit inovace v Evropě.[16]

    JUDr. Jakub Dohnal, Ph.D., LL.M.,
    advokát, partner
     
    Vendula Marxová,
    paralegal

     
     

    ARROWS advokátní kancelář, s.r.o.
     
    Plzeňská 3350/18
    150 00 Praha 5 – Smíchov
     
    Tel.:       +420 245 007 740
    e-mail:    office@arws.cz
     

    [1]CHAN, Kelvin. European Union Set to Be Trailblazer in Global Rush to Regulate Artificial Intelligence. time.com [online] 9. 5. 2023 [viewed 13. 5. 2023]. Available from: European Union Attempts First Significant AI Regulation | Time

    [2]AI Act: a step closer to the first rules on Artificial Intelligence. Press Releases. 11. 5. 2023 [viewed 13. 5. 2023]. Available from: AI Act: a step closer to the first rules on Artificial Intelligence | News | European Parliament (europa.eu)

    [3] Procedure File: 2021/0106(COD) | Legislative Observatory | European Parliament (europa.eu)

    [4] Proposal for regulation of the European Parliament and of the Council on harmonised rules of Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts. Article 3(1)

    [5] Ibid, chapter 2.

    [6] Ibid, article 11.

    [7] Ibid, article 12.

    [8] Ibid, article 20.

    [9] Ibid, article 13.

    [10] Ibid, article 14.

    [11] Ibid, article 51, 60.

    [12] Ibid, article 62.

    [13] Ibid, article 29.

    [14] Ibid, article 28b.

    [15] Ibid, article 56.

    [16] AI Act: a step closer to the first rules on Artificial Intelligence. Press Releases. 11. 5. 2023 [viewed 13. 5. 2023]. Available from: AI Act: a step closer to the first rules on Artificial Intelligence | News | European Parliament (europa.eu)


    © EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz


    JUDr. Jakub Dohnal, Ph.D., LL.M., Vendula Marxová (ARROWS)
    16. 6. 2023

    Poslat článek emailem

    *) povinné položky

    Další články:

    • Vysokorychlostní variace dle smluvních podmínek FIDIC: případová studie z D5507
    • Promlčení zápůjčky na dobu neurčitou a změna judikatury Nejvyššího soudu
    • Jak dlouho po podání žádosti o vydání stavebního povolení musí žadatel udržovat podkladová stanoviska platná a aktuální?
    • Ne/podceňování zastupitelnosti bezpečnostních rolí dle zákona o kybernetické bezpečnosti
    • Právo a umělé inteligence: AI Act, osobní údaje, kyberbezpečnost a další regulace
    • Dítě a dovolená v zahraničí: Co dělat, když druhý rodič nesouhlasí s cestou?
    • Cena zvláštní obliby – kdy má citový vztah poškozeného k věci vliv na výši odškodného?
    • Umělá inteligence v právu: Efektivní pomoc nebo riziko pro odborný úsudek?
    • Úvodní vhled do klasifikace povinných osob dle návrhu nového zákona o kybernetické bezpečnosti
    • Rodinná nadace s dceřinou společností: Alternativa ke svěřenskému fondu pro správu rodinného majetku
    • Řádné prověření podnětu jako podklad pro místní šetření (nález Ústavního soudu)

    Novinky v eshopu

    Aktuální akce

    • 05.08.2025ChatGPT od A do Z v právní praxi (online - živé vysílání) - 5.8.2025
    • 12.08.2025Claude (Anthropic) od A do Z v právní praxi (online - živé vysílání) - 12.8.2025
    • 19.08.2025Microsoft Copilot od A do Z v právní praxi (online - živé vysílání) - 19.8.2025
    • 26.08.2025Gemini a NotebookLM od A do Z v právní praxi (online - živé vysílání) - 26.8.2025
    • 02.09.2025Pracovní smlouva prakticky (online - živé vysílání) - 2.9.2025

    Online kurzy

    • Úvod do problematiky squeeze-out a sell-out
    • Pořízení pro případ smrti: jak zajistit, aby Váš majetek zůstal ve správných rukou
    • Zaměstnanec – rodič z pohledu pracovněprávních předpisů
    • Flexi novela zákoníku práce
    • Umělá inteligence a odpovědnost za újmu
    Lektoři kurzů
    JUDr. Tomáš Sokol
    JUDr. Tomáš Sokol
    Kurzy lektora
    JUDr. Martin Maisner, Ph.D., MCIArb
    JUDr. Martin Maisner, Ph.D., MCIArb
    Kurzy lektora
    Mgr. Marek Bednář
    Mgr. Marek Bednář
    Kurzy lektora
    Mgr. Veronika  Pázmányová
    Mgr. Veronika Pázmányová
    Kurzy lektora
    Mgr. Michaela Riedlová
    Mgr. Michaela Riedlová
    Kurzy lektora
    JUDr. Jindřich Vítek, Ph.D.
    JUDr. Jindřich Vítek, Ph.D.
    Kurzy lektora
    Mgr. Michal Nulíček, LL.M.
    Mgr. Michal Nulíček, LL.M.
    Kurzy lektora
    JUDr. Ondřej Trubač, Ph.D., LL.M.
    JUDr. Ondřej Trubač, Ph.D., LL.M.
    Kurzy lektora
    JUDr. Jakub Dohnal, Ph.D., LL.M.
    JUDr. Jakub Dohnal, Ph.D., LL.M.
    Kurzy lektora
    JUDr. Tomáš Nielsen
    JUDr. Tomáš Nielsen
    Kurzy lektora
    všichni lektoři

    Konference

    • 18.09.2025Diskusní fórum: Daňové právo v praxi - 18.9.2025
    • 02.10.2025Trestní právo daňové - 2.10.2025
    • 03.10.2025Daňové právo 2025 - Daň z přidané hodnoty - 3.10.2025
    Archiv

    Magazíny a služby

    • Monitoring judikatury (24 měsíců)
    • Monitoring judikatury (12 měsíců)
    • Monitoring judikatury (6 měsíců)

    Nejčtenější na epravo.cz

    • 24 hod
    • 7 dní
    • 30 dní
    • Promlčení zápůjčky na dobu neurčitou a změna judikatury Nejvyššího soudu
    • Od konkurenční doložky k právní nejistotě: kontroverzní výklad Nejvyššího soudu v rozsudku 27 Cdo 1236/2024
    • Právo a umělé inteligence: AI Act, osobní údaje, kyberbezpečnost a další regulace
    • Vysokorychlostní variace dle smluvních podmínek FIDIC: případová studie z D5507
    • Právo na víkend - týden v české justici očima šéfredaktora
    • Ne/podceňování zastupitelnosti bezpečnostních rolí dle zákona o kybernetické bezpečnosti
    • Jak dlouho po podání žádosti o vydání stavebního povolení musí žadatel udržovat podkladová stanoviska platná a aktuální?
    • Sankční povinnost odevzdání řidičského průkazu v implikační souvislosti
    • Závislá práce ve světle nového rozhodnutí Nejvyššího správního soudu. Rozsudek Nejvyššího správního soudu ze dne 19. 3. 2025, sp. zn. A Ads 6/2025
    • Promlčení zápůjčky na dobu neurčitou a změna judikatury Nejvyššího soudu
    • Právo a umělé inteligence: AI Act, osobní údaje, kyberbezpečnost a další regulace
    • Sankční povinnost odevzdání řidičského průkazu v implikační souvislosti
    • Od konkurenční doložky k právní nejistotě: kontroverzní výklad Nejvyššího soudu v rozsudku 27 Cdo 1236/2024
    • Ne/podceňování zastupitelnosti bezpečnostních rolí dle zákona o kybernetické bezpečnosti
    • 10 otázek pro ... Jana Kohouta
    • Top 12 čili Tucet nejvýznamnějších judikátů Nejvyššího soudu z loňského roku 2024 vzešlých z řešení pracovněprávních sporů
    • Ověření podpisu advokátem a „nestrannost“ advokáta
    • Projevy tzv. flexinovely zákoníku práce při skončení pracovního poměru výpovědí udělenou zaměstnanci ze strany zaměstnavatele
    • Bez rozvrhu pracovní doby to nepůjde
    • Nařízení odstranění černé stavby aneb Když výjimka potvrzuje pravidlo
    • Zákon č. 73/2025 Sb.: Advokacie v nové éře regulace a ochrany důvěrnosti
    • Top 12 čili Tucet nejvýznamnějších judikátů Nejvyššího soudu z loňského roku 2024 vzešlých z řešení pracovněprávních sporů
    • Umělá inteligence v právu: Efektivní pomoc nebo riziko pro odborný úsudek?
    • Finální podoba flexibilní novely zákoníku práce nabyla účinnosti - co nás čeká?

    Soudní rozhodnutí

    Soukromá vysoká škola

    Povaha činnosti či plnění veřejných úkolů (poskytování vzdělávání) soukromou vysokou školou nevylučuje, aby smlouva o vzdělávání na této vysoké škola měla pro účely ochrany...

    Nesprávné označení relevantní stěžovatelovy námitky (exkluzivně pro předplatitele)

    Nejvyšší správní soud nedostojí požadavkům na řádné odůvodnění soudního rozhodnutí vyplývajícím z čl. 36 odst. 1 Listiny základních práv a svobod, pokud nesprávně označí...

    Předběžná vazba (exkluzivně pro předplatitele)

    Při rozhodování o předběžné vazbě podle § 94 zákona o mezinárodní justiční spolupráci musí soudy dostatečně odůvodnit reálné riziko útěku vyžádané osoby, podložené jejím...

    Přeřazení odsouzeného do přísnějšího typu věznice (exkluzivně pro předplatitele)

    Rozhodnutí o přeřazení odsouzeného do věznice s přísnějším režimem představuje omezení práva na osobní svobodu podle článku 8 odst. 1 Listiny základních práv a svobod a obecné...

    Příspěvek na péči

    Příspěvek na péči a jeho právní úprava v zákoně č. 108/2006 Sb., o sociálních službách, je naplněním práva na přiměřené hmotné zabezpečení při nezpůsobilosti k práci podle...

    Hledání v rejstřících

    • mapa serveru
    • o nás
    • reklama
    • podmínky provozu
    • kontakty
    • publikační podmínky
    • FAQ
    • obchodní a reklamační podmínky
    • Ochrana osobních údajů - GDPR
    • Nastavení cookies
    100 nej
    © EPRAVO.CZ, a.s. 1999-2025, ISSN 1213-189X
    Provozovatelem serveru je EPRAVO.CZ, a.s. se sídlem Dušní 907/10, Staré Město, 110 00 Praha 1, Česká republika, IČ: 26170761, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze pod spisovou značkou B 6510.
    Automatické vytěžování textů a dat z této internetové stránky ve smyslu čl. 4 směrnice 2019/790/EU je bez souhlasu EPRAVO.CZ, a.s. zakázáno.

    Jste zde poprvé?

    Vítejte na internetovém serveru epravo.cz. Jsme zdroj informací jak pro laiky, tak i pro právníky profesionály. Zaregistrujte se u nás a získejte zdarma řadu výhod.

    Protože si vážíme Vašeho zájmu, dostanete k registraci dárek v podobě unikátního online kurzu Základy práce s AI. Tento kurz vás vybaví znalostmi a nástroji potřebnými k tomu, aby AI nebyla jen dalším trendem, ale spolehlivým partnerem ve vaší praxi. Připravte se objevit potenciál AI a zjistit, jak může obohatit vaši kariéru.

    Registrace je zdarma, k ničemu Vás nezavazuje a získáte každodenní přehled o novinkách ve světě práva.


    Vaše data jsou u nás v bezpečí. Údaje vyplněné při této registraci zpracováváme podle podmínek zpracování osobních údajů



    Nezapomněli jste něco v košíku?

    Vypadá to, že jste si něco zapomněli v košíku. Dokončete prosím objednávku ještě před odchodem.


    Přejít do košíku


    Vaši nedokončenou objednávku vám v případě zájmu zašleme na e-mail a můžete ji tak dokončit později.