epravo.cz

Přihlášení / registrace

Nemáte ještě účet? Zaregistrujte se


Zapomenuté heslo
    Přihlášení / registrace
    • ČLÁNKY
      • občanské právo
      • obchodní právo
      • insolvenční právo
      • finanční právo
      • správní právo
      • pracovní právo
      • trestní právo
      • evropské právo
      • veřejné zakázky
      • ostatní právní obory
    • ZÁKONY
      • sbírka zákonů
      • sbírka mezinárodních smluv
      • právní předpisy EU
      • úřední věstník EU
    • SOUDNÍ ROZHODNUTÍ
      • občanské právo
      • obchodní právo
      • správní právo
      • pracovní právo
      • trestní právo
      • ostatní právní obory
    • AKTUÁLNĚ
      • 10 otázek
      • tiskové zprávy
      • vzdělávací akce
      • komerční sdělení
      • ostatní
      • rekodifikace TŘ
    • Rejstřík
    • E-shop
      • Online kurzy
      • Online konference
      • Záznamy konferencí
      • EPRAVO.CZ Premium
      • Konference
      • Monitoring judikatury
      • Publikace a služby
      • Společenské akce
      • Advokátní rejstřík
      • Partnerský program
    • Předplatné
    16. 6. 2023
    ID: 116554upozornění pro uživatele

    Přelom v regulaci: Jak Akt o umělé inteligenci možná změní hru v Evropě

    V současné době se člověk pomalu bojí otevřít ledničku, aby se tam nepsalo o umělé inteligenci. Jak to tak bývá, cokoli co se v tržním světě objeví, je posléze regulováno předpisem. Jelikož je umělá inteligence opravdu všude, je nutné legislativní snahy v Evropě sledovat. A právě o tom pojednává tento článek.

    Akt o umělé inteligenci přinese harmonizovaná pravidla pro vývoj a používání systémů umělé inteligence (UI) v Evropě. Jako první komplexní pravidla regulující UI však mohou ovlivnit i zbytek světa (tzv. bruselský efekt[1]).

    Návrh znění nařízení vypracovaný Evropskou komisí je dostupný již od dubna roku 2021. Ve čtvrtek 11. 5. 2023 přijal Výbor pro vnitřní trh a Výbor pro občanské věci pozměňovací návrh k návrhu Komise[2], který reaguje především na rychlý technologický vývoj jazykových modelů typu ChatGPT. O finální podobě nařízení budou europoslanci hlasovat na plenárním zasedání, které má proběhnout 12. 6. 2023.[3]

    Reklama
    Nemáte ještě registraci na epravo.cz?

    Registrujte se, získejte řadu výhod a jako dárek Vám zašleme aktuální online kurz na využití umělé inteligence v praxi.

    REGISTROVAT ZDE

    Pokud bude znění nařízení schváleno, nastane závěrečná fáze legislativního procesu, tzv. trialogy, kdy se k jednání připojí Evropská komise a Rada EU.

    Cílem nařízení je podpořit inovace a zavádění důvěryhodných a bezpečných systémů umělé inteligence, které bude člověk schopen kontrolovat a vysvětlit. Tím má být dle oficiálních materiálů zajištěna vysoká úroveň ochrany zdraví, bezpečnosti, principů právního státu a jiných základních lidských práv a svobod před škodlivými účinky umělé inteligence.

    Reklama
    AI asistent pro právní výzkum a analýzu dokumentů (online - živé vysílání) - 17.9.2025
    AI asistent pro právní výzkum a analýzu dokumentů (online - živé vysílání) - 17.9.2025
    17.9.2025 13:003 975 Kč s DPH
    3 285 Kč bez DPH

    Koupit

    Nařízení definuje systém umělé inteligence jako systém, který je navržen tak, aby mohl pracovat na různých úrovních autonomie, a který je schopen generovat výstupy (např. předpovědi, doporučení nebo rozhodnutí), které ovlivňují fyzické nebo virtuální prostředí.[4]

    Klasifikace systémů UI podle míry rizika

    Nařízení třídí systémy umělé inteligence podle míry rizika, které vytváří, a to na systémy s nízkým nebo minimálním rizikem, vysoce rizikové a nepřijatelné systémy UI.

    Systémy umělé inteligence s nepřijatelnou mírou rizika[5] jsou striktně zakázané vzhledem k tomu, že jsou v rozporu s hodnotami Evropské unie. Je například nepřípustné používání systémů UI, které využívají podprahových, manipulativních nebo podvodných technik nebo zranitelnosti určité skupiny osob s cílem podstatně ovlivnit chování a rozhodování těchto osob. Dále je stanoven zákaz používání systémů UI pro přidělování sociálního kreditu, za účelem rozpoznávání emocí nebo biometrické identifikace.

    Vysoce rizikové systémy UI jsou systémy, které představují vysoké riziko pro život, zdraví, bezpečnost nebo jiná základní práva fyzických osob. Tyto systémy bude povoleno uvést na evropský trh jen při splnění souboru na ně kladených požadavků.

    Mezi tyto systémy můžeme řadit například systém určený k použití jako bezpečností součást při řízení a provozu silniční dopravy, při zásobování vodou, plynem, teplem a elektřinou nebo systém používaný při vzdělávání či zaměstnávání, zejména při výběru osob, jejich hodnocení a určování jejich práv a povinností.

    Pro vysoce rizikové systémy stanoví nařízení například tyto požadavky:

    1. Zavedení a uplatňování systému řízení rizik, který zahrnuje mimo jiné přijetí vhodných opatření řízení rizik
    2. Vypracování technické dokumentace před uvedením systému na trh[6] a její průběžná aktualizace
    3. Vypracování systémů tak, aby v průběhu své činnosti umožňovaly automatické zaznamenávání událostí (protokoly)[7], které musí být uchovávány alespoň po dobu 6 měsíců[8]
    4. Fungování systému musí být transparentní[9]
    5. Opatření systému návodem k použití obsahující relevantní informace pro uživatele, například totožnost a kontaktní údaje poskytovatele, vlastnosti, schopnosti a omezení výkonnosti systému, včetně jeho zamýšleného účelu, úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti
    6. Lidský dohled nad používáním těchto systémů[10]
    7. Pokud poskytovatel sídlí mimo EU má povinnost jmenovat zplnomocněného zástupce sídlícího v EU formou písemného pověření
    8. Povinnost registrace do databáze EU před uvedením na trh nebo do provozu[11]
    9. Povinnost ohlásit každý závažný incident nebo chybné fungování těchto systémů představující porušení povinností podle práva Unie, a to neprodleně nebo nejpozději do patnácti dnů poté, co se poskytovatelé o daném závažném incidentu nebo chybném fungování dozví[12]

    Uživatelé vysoce rizikových systémů mají povinnost tyto systémy užívat v souladu s návodem k použití[13] a monitorovat jejich provoz. V případě, že se domnívají, že systém UI představuje riziko, uvědomí o tom poskytovatele nebo distributora a používání systému pozastaví.

    Základní modely

    V reakci na rychlý technologický vývoj velkých jazykových modelů typu ChatGPT byla zavedena kategorie tzv. základních modelů (foundation models), které jsou podkategorií modelů pro obecné užití. Jedná se o modely, které jsou trénovány na obrovském množství rozličných dat, jsou navrženy pro poskytování obecných výstupů a mohou být přizpůsobeny široké škále úloh.

    Poskytovatelé těchto modelů mají nařízením stanoven soubor povinností, například povinnost jejich registrace v databázi základních modelů, vytvoření technické dokumentace a instrukcí k použití.[14]

    Poskytovatelé základních modelů používaných ke generování obsahu jako je text, obrázky, audio nebo video (tzv. generativní systémy UI) mají navíc povinnost uvádět, že byl daný obsah generován UI a zároveň systém vytvořit a trénovat tak, aby bylo zamezeno generování nezákonného obsahu.

    Nejvíce kontroverzní a diskutovanou povinností je povinnost zveřejnění seznamu dat, která byla použita při tréninku daného systému, pokud jsou tato předmětem ochrany autorského práva. Tato povinnost výrazně zlepší postavení umělců bránících se proti porušování jejich autorských práv systémem UI, neboť tito nemají informace o procesu vytváření a trénování tohoto systému, takže by jinak jen velmi těžko prokazovali, že se systém učil na jejich autorských dílech.

    Evropský úřad pro umělou inteligenci

    Nařízení zřizuje Evropský úřad pro umělou inteligenci (AI Office)[15], který bude nezávislým orgánem s právní osobností a sídlem v Bruselu. Strukturu tohoto úřadu bude tvořit správní rada, sekretariát a poradní fórum.

    Na vnitrostátní úrovni budou členské státy povinny pro účely dohledu nad uplatňováním a prováděním nařízení určit národní dozorový orgán.

    Opatření na podporu inovací

    Členské státy budou mít povinnost vytvořit kontrolované prostředí pro bezpečné testování systémů UI (tzv. regulační pískoviště UI), a to nejpozději ke dni účinnosti tohoto nařízení.

    Prostředky nápravy

    Nařízení nově upravuje specifické prostředky nápravy, zejména právo každé fyzické osoby nebo jejich skupiny podat stížnost u národního dozorového orgánu a právo na opravný prostředek proti rozhodnutí tohoto orgánu. Dále je stanoveno právo na vysvětlení rozhodnutí, které bylo přijato na základě výstupu vysoce rizikového systému.

    Závěr

    Umělá inteligence s sebou kromě velkých příležitostí přináší i velká rizika a ovlivňuje každodenní život lidí. Je tedy nepochybné, že je její regulace třeba.

    Evropská regulace umělé inteligence by byla jednou z prvních tohoto druhu na celém světe, Evropská unie tak může inspirovat ostatní státy při zavádění pravidel pro umělou inteligenci a podnítit debatu na světové úrovni. Je zde však riziko, že pokud ostatní státy přijmou regulaci, která nebude klást na poskytovatele systémů UI tak přísné požadavky, budou tito poskytovatelé systémy vyvíjet a uvádět na trh právě v těchto ostatních státech.

    Autoři pozměňovacího návrhu k nařízení jsou však přesvědčeni, že toto vyvažuje ochranu základních práv s potřebou poskytnout podnikům právní jistotu a podnítit inovace v Evropě.[16]

    JUDr. Jakub Dohnal, Ph.D., LL.M.,
    advokát, partner
     
    Vendula Marxová,
    paralegal

     
     

    ARROWS advokátní kancelář, s.r.o.
     
    Plzeňská 3350/18
    150 00 Praha 5 – Smíchov
     
    Tel.:       +420 245 007 740
    e-mail:    office@arws.cz
     

    [1]CHAN, Kelvin. European Union Set to Be Trailblazer in Global Rush to Regulate Artificial Intelligence. time.com [online] 9. 5. 2023 [viewed 13. 5. 2023]. Available from: European Union Attempts First Significant AI Regulation | Time

    [2]AI Act: a step closer to the first rules on Artificial Intelligence. Press Releases. 11. 5. 2023 [viewed 13. 5. 2023]. Available from: AI Act: a step closer to the first rules on Artificial Intelligence | News | European Parliament (europa.eu)

    [3] Procedure File: 2021/0106(COD) | Legislative Observatory | European Parliament (europa.eu)

    [4] Proposal for regulation of the European Parliament and of the Council on harmonised rules of Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts. Article 3(1)

    [5] Ibid, chapter 2.

    [6] Ibid, article 11.

    [7] Ibid, article 12.

    [8] Ibid, article 20.

    [9] Ibid, article 13.

    [10] Ibid, article 14.

    [11] Ibid, article 51, 60.

    [12] Ibid, article 62.

    [13] Ibid, article 29.

    [14] Ibid, article 28b.

    [15] Ibid, article 56.

    [16] AI Act: a step closer to the first rules on Artificial Intelligence. Press Releases. 11. 5. 2023 [viewed 13. 5. 2023]. Available from: AI Act: a step closer to the first rules on Artificial Intelligence | News | European Parliament (europa.eu)


    © EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz


    JUDr. Jakub Dohnal, Ph.D., LL.M., Vendula Marxová (ARROWS)
    16. 6. 2023

    Poslat článek emailem

    *) povinné položky

    Další články:

    • Přezkum rozhodnutí CAS vnitrostátními soudy Evropské unie
    • Matzner: Řešme také jak dál s AML. A vyvarujme se nadměrné zátěži a zbytečné byrokracie
    • Určení výše přiměřené slevy z kupní ceny
    • Dočasný zákaz výkonu funkce statutára dle zákona o kybernetické bezpečnosti a nové povinnosti pro statutáry
    • Soudní ombudsman jako most mezi soudy, advokacií a veřejností
    • Byznys a paragrafy, díl 17.: Přístup do datové schránky právnické osoby při úmrtí jednatele
    • Realitní obchod, provize zprostředkovatele a právní důsledky odstoupení od kupní smlouvy
    • Limity nároku poškozeného na náhradu nákladů za nájem náhradního vozidla
    • Druhá vlna povinností dle AI Aktu
    • Smlouva uzavřená mezi studentem a soukromou vysokou školou jako smlouva spotřebitelská – nález Ústavního soudu ze dne 5. února 2025, sp. zn. IV. ÚS 2093/24
    • Specifika výpovědi podnájemní smlouvy bytu optikou judikatury Nejvyššího soudu

    Novinky v eshopu

    Aktuální akce

    • 17.09.2025AI asistent pro právní výzkum a analýzu dokumentů (online - živé vysílání) - 17.9.2025
    • 19.09.2025Dopady novely znaleckého zákona na dokazování znaleckým posudkem v civilním řízení (online - živé vysílání) - 19.9.2025
    • 23.09.2025Investice do startupů – pohled VC fondu vs. pohled startup (online - živé vysílání) - 23.9.2025
    • 24.09.2025ESG Omnibus – Co se mění v reportingu a udržitelnosti? Úleva pro firmy, nebo ústup z odpovědnosti? Víte, co vás čeká? (online – živé vysílání) – 24.9.2025
    • 24.09.2025Mediace a vyjednávání nejen v podnikání (online – živé vysílání) – 24.9.2025

    Online kurzy

    • Úvod do problematiky squeeze-out a sell-out
    • Pořízení pro případ smrti: jak zajistit, aby Váš majetek zůstal ve správných rukou
    • Zaměstnanec – rodič z pohledu pracovněprávních předpisů
    • Flexi novela zákoníku práce
    • Umělá inteligence a odpovědnost za újmu
    Lektoři kurzů
    JUDr. Tomáš Sokol
    JUDr. Tomáš Sokol
    Kurzy lektora
    JUDr. Martin Maisner, Ph.D., MCIArb
    JUDr. Martin Maisner, Ph.D., MCIArb
    Kurzy lektora
    Mgr. Marek Bednář
    Mgr. Marek Bednář
    Kurzy lektora
    Mgr. Veronika  Pázmányová
    Mgr. Veronika Pázmányová
    Kurzy lektora
    Mgr. Michaela Riedlová
    Mgr. Michaela Riedlová
    Kurzy lektora
    JUDr. Jindřich Vítek, Ph.D.
    JUDr. Jindřich Vítek, Ph.D.
    Kurzy lektora
    Mgr. Michal Nulíček, LL.M.
    Mgr. Michal Nulíček, LL.M.
    Kurzy lektora
    JUDr. Ondřej Trubač, Ph.D., LL.M.
    JUDr. Ondřej Trubač, Ph.D., LL.M.
    Kurzy lektora
    JUDr. Jakub Dohnal, Ph.D., LL.M.
    JUDr. Jakub Dohnal, Ph.D., LL.M.
    Kurzy lektora
    JUDr. Tomáš Nielsen
    JUDr. Tomáš Nielsen
    Kurzy lektora
    všichni lektoři

    Konference

    • 02.10.2025Trestní právo daňové - 2.10.2025
    • 03.10.2025Daňové právo 2025 - Daň z přidané hodnoty - 3.10.2025
    Archiv

    Magazíny a služby

    • Monitoring judikatury (24 měsíců)
    • Monitoring judikatury (12 měsíců)
    • Monitoring judikatury (6 měsíců)

    Nejčtenější na epravo.cz

    • 24 hod
    • 7 dní
    • 30 dní
    • Přezkum rozhodnutí CAS vnitrostátními soudy Evropské unie
    • Spolehlivost osoby v civilním letectví
    • K otázce stupně intenzity porušení povinnosti zaměstnance
    • Realitní obchod, provize zprostředkovatele a právní důsledky odstoupení od kupní smlouvy
    • Insolvence
    • Právo na soukromí vs. transparentnost firem: Kontroverze kolem evidence skutečných majitelů
    • Flexinovela a změny v oblasti jiných důležitých osobních překážek v práci
    • Určení výše přiměřené slevy z kupní ceny
    • Osvobozený příjem nerovná se automaticky bez povinností: kdy musíte hlásit dar nebo dědictví?
    • K otázce stupně intenzity porušení povinnosti zaměstnance
    • Flexinovela a změny v oblasti jiných důležitých osobních překážek v práci
    • Určení výše přiměřené slevy z kupní ceny
    • Dočasný zákaz výkonu funkce statutára dle zákona o kybernetické bezpečnosti a nové povinnosti pro statutáry
    • Realitní obchod, provize zprostředkovatele a právní důsledky odstoupení od kupní smlouvy
    • Rozpor evidence skutečných majitelů s právem EU a jeho dopad na veřejné zakázky
    • Trestní odpovědnost provozovatelů anonymních sítí
    • Oprávnění policejního orgánu k odemknutí mobilního telefonu nuceným přiložením prstu obviněného
    • V čem Nejvyšší soud selhává a proč by mu to advokáti měli říct
    • Realitní obchod, provize zprostředkovatele a právní důsledky odstoupení od kupní smlouvy
    • Koncentrace řízení a kdy je čas na poučení
    • Specifika výpovědi podnájemní smlouvy bytu optikou judikatury Nejvyššího soudu
    • Praktické dopady tzv. flexi novely zákoníku práce na běh a délku výpovědní doby
    • Flexinovela a změny v oblasti jiných důležitých osobních překážek v práci
    • Limity rozhodování ve společenství vlastníků jednotek: výbor vs. shromáždění

    Soudní rozhodnutí

    Insolvence

    Jestliže „osoba s právem postihu“ přihlásí regresní pohledávku (v souladu s § 173 odst. 3 a § 183 odst. 3 insolvenčního zákona v odpovídajícím znění) do insolvenčního řízení...

    Jednočinný souběh (exkluzivně pro předplatitele)

    Jednočinný souběh zvlášť závažných zločinů těžkého ublížení na zdraví podle § 145 odst. 1, odst. 2 písm. g) tr. zákoníku a násilí proti úřední osobě podle § 325 odst. 1...

    Obnova řízení (exkluzivně pro předplatitele)

    Je-li dán některý z důvodů nutné obhajoby podle § 36a odst. 2 písm. a) až d) tr. ř., musí mít obviněný obhájce již od počátku řízení o návrhu na povolení obnovy řízení,...

    Oddlužení (exkluzivně pro předplatitele)

    Má-li být jediným příjmem, z nějž je dlužník za trvání oddlužení schopen splácet pohledávky svých věřitelů, částka, kterou se označený dárce zavázal v darovací smlouvě...

    Prodej jednotky (exkluzivně pro předplatitele)

    Účelem prodeje jednotky podle § 1184 o. z. je primárně ochrana vlastnického práva (a jeho výkonu) ostatních vlastníků jednotek, byť může mít také sankční povahu – postih...

    Hledání v rejstřících

    • mapa serveru
    • o nás
    • reklama
    • podmínky provozu
    • kontakty
    • publikační podmínky
    • FAQ
    • obchodní a reklamační podmínky
    • Ochrana osobních údajů - GDPR
    • Nastavení cookies
    100 nej
    © EPRAVO.CZ, a.s. 1999-2025, ISSN 1213-189X
    Provozovatelem serveru je EPRAVO.CZ, a.s. se sídlem Dušní 907/10, Staré Město, 110 00 Praha 1, Česká republika, IČ: 26170761, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze pod spisovou značkou B 6510.
    Automatické vytěžování textů a dat z této internetové stránky ve smyslu čl. 4 směrnice 2019/790/EU je bez souhlasu EPRAVO.CZ, a.s. zakázáno.

    Jste zde poprvé?

    Vítejte na internetovém serveru epravo.cz. Jsme zdroj informací jak pro laiky, tak i pro právníky profesionály. Zaregistrujte se u nás a získejte zdarma řadu výhod.

    Protože si vážíme Vašeho zájmu, dostanete k registraci dárek v podobě unikátního online kurzu Základy práce s AI. Tento kurz vás vybaví znalostmi a nástroji potřebnými k tomu, aby AI nebyla jen dalším trendem, ale spolehlivým partnerem ve vaší praxi. Připravte se objevit potenciál AI a zjistit, jak může obohatit vaši kariéru.

    Registrace je zdarma, k ničemu Vás nezavazuje a získáte každodenní přehled o novinkách ve světě práva.


    Vaše data jsou u nás v bezpečí. Údaje vyplněné při této registraci zpracováváme podle podmínek zpracování osobních údajů



    Nezapomněli jste něco v košíku?

    Vypadá to, že jste si něco zapomněli v košíku. Dokončete prosím objednávku ještě před odchodem.


    Přejít do košíku


    Vaši nedokončenou objednávku vám v případě zájmu zašleme na e-mail a můžete ji tak dokončit později.