Aktuální stav regulace umělé inteligence ve světě

Regulace AI v Evropské Unii

Uživatelů v České republice se nejvíc dotkne AI Akt (1), tedy předpis Evropské unie, který by měl rozdělit AI systémy do různých kategorií tak, aby se každé z nich týkala jiná pravidla pro regulaci. Některé algoritmy umělé inteligence budou zakázány. Do této kategorie patří například systémy na rozpoznávání emocí a také se tam mají zařadit pokročilé algoritmy pro rozpoznávání obličejů v reálném čase.

Regulace se značně dotkne i AI generovaného obsahu. Právě systémy, které vytváří obrázky či text (například ChatGPT), by měly mít povinnost dát jasně najevo, že tento obsah byl vytvořen za pomoci umělé inteligence. Toto by mělo zamezit zneužití ve formě tvorby dezinformací a také to zasáhne autorská práva na AI generovaný obsah.

USA a právní regulace umělé inteligence

Reklama

ESG Omnibus – Co se mění v reportingu a udržitelnosti? Úleva pro firmy, nebo ústup z odpovědnosti? Víte, co vás čeká? (online – živé vysílání) – 24.3.2026

24.3.2026 09:003 975 Kč s DPH
3 285 Kč bez DPH

Koupit

Regulace umělé inteligence je nyní velice řešeným tématem ve Spojených státech amerických. Kongres si pozval na slyšení Sama Altmana (2), výkonného ředitele společnosti OpenAI (tvůrce ChatGPT), aby se vyjádřil k tomuto tématu. Altman souhlasil s tím, že umělá inteligence musí být značně regulovaná, a sám navrhnul úzkou spolupráci společnosti OpenAI a vlády pro nejlepší možný výsledek.

Tim Cook (3), který zastupuje pozici výkonného ředitele společnosti Apple, se k tomuto tématu vyjádřil tak, že by si společnosti měly vytvořit vlastní týmy, které by se zabývaly samoregulací. Jelikož se umělá inteligence vyvíjí velmi rychle, mohla by to být dle Cooka cesta jak rychle přijmout vhodnou regulaci.

S ohledem na Communications Decency Act (4), který platí v USA již od roku 1996, se řeší také odpovědnost umělé inteligence za její výstupy. Ust. 230 tohoto předpisu udává, že žádný poskytovatel nebo uživatel nemohou být považováni za vydavatele nebo mluvčího informací poskytnutých jiným poskytovatelem informačního obsahu. Problém leží v tom, že jazykové modely jako například ChatGPT se učí právě tím, že zkoumají a využívají obsah z jiných zdrojů.

Aktuální stav regulace ve Velké Británii

Narozdíl do Evropské unie a Spojených států amerických se Velká Británie rozhodla jít vlastní cestou. Má totiž v plánu řešit tuto situaci skrz ICO (5,6) (Úřad komisaře Spojeného království pro informace). Ten je samostatným subjektem, který není závislý na vládě a stará se o dodržování práv na informace. V budoucnu by na ni měla připadnout i odpovědnost za zavedení, podporu a dohled nad umělou inteligencí v příslušných odvětvích.

Další velký rozdíl mezi aktem EU a řešením Spojeného království je to, že na rozdíl od EU mají v plánu regulovat pouze 2 typy systémů:

• adaptivní, což jsou ty, které používají vzorce v datech a u nichž mají často problém představit si je nebo je rozeznat i jejich programátoři, a
• autonomní, které mohou automatizovat složité úkoly bez výslovného záměru člověka a tím pádem by jim šla hůře přivozovat odpovědnost za výsledky.

Principů, které by se měly týkat obou těchto sektorů, je aktuálně plánovaných pět:

• bezpečnost, zabezpečení a robustnost systémů,
• transparentnost a vysvětlitelnost - tvůrci těchto systémů by měli být schopni vysvětlit a sdílet informace týkající se jejich produktů,
• spravedlnost - musí být pevně dané to, že umělá inteligence nesmí v žádném případě diskriminovat nebo podrážet jednotlivce v jejich právech a ani nesmí vytvářet neférové komerční podmínky,
• odpovědnost a správa - musí být zajištěn efektivní dohled nad systémy umělé inteligence a musí být jasné, kdo je za její výstup odpovědný,
• spornost a náprava - musí být jasně dané cesty, kterými zamezí šíření škodlivých výsledků a rozhodnutí od AI.

Očekává se, že v nejbližších 12 měsících by vláda měla instruovat společnosti o budoucnosti regulace a jak se s ní vypořádat v praxi. ICO vzalo nabídku vlády s jedinou výhradou. Problém mají s článkem 22 britského GDPR, který ukládá povinnost podat odůvodnění v případě významných právních či osobních dopadů na jednotlivce, zatímco regulační návrh navrhuje pouze zvážení, jestli mají toto odůvodnění poskytnout.

Vláda vyzývá účastníky tohoto sektoru, aby se do 21.6.2023 vyjádřili k tomuto návrhu. Až po konzultaci chce zveřejnit plán do příštích let.

Regulace umělé inteligence v Číně

Elon Musk (7) se na konci května tohoto roku potkal s hlavními představiteli Číny v Beijingu. Po této návštěvě zmínil, že má Čína v budoucnu vlastní plán regulace AI. Nyní už však máme první návrh regulačního zákona.

Návrh se aktuálně skládá z dvaceti článků (8). Níže jsou ve stručnosti uvedeny ty nejdůležitější z nich. Nikoho nemůže překvapit, že hned jeden z prvních článků obsahuje povinnost poskytovatele omezit jakékoliv informace, které by se jakkoliv stavily proti socialismu v Číně. V tomto článku také najdeme nutnost spravedlnosti, neznevýhodňování osob a povinnost poskytovat správné informace.

Dále je uvedena odpovědnost za výstupy umělé inteligence, jejich trénovacích dat a optimalizaci tréninkových dat. Vše musí být v konformitě se zákonem kyber-bezpečnostního práva Lidové republiky Číny, jiných zákonů a regulací. Jinak může být poskytovateli uložena pokuta.

Dalším důležitým bodem tohoto návrhu je to, že poskytovatelé by měli mít povinnost sdílet data o tom, kdo jejich software používá, pro jaké příležitosti ho používá a jak. Také by měli mít odpovědnost za to, aby bylo zamezeno vytvoření závislosti na umělé inteligenci a jejím přílišném využívání. Stejně tak by měli dbát na odpovědnost, co se ochrany osobních údajů týče. Dále nesmí nelegálně uchovávat informace, dle kterých by bylo možné rozpoznat identitu uživatele.Stejně jako v ostatních zemích dbají na to, aby obsah tvořený umělou inteligencí byl náležitě označen tak, aby nebylo možné ho zaměnit za fyzickou osobou vytvořený. V případě, že by občan Číny našel AI generovaný obsah bez označení, má právo ho nahlásit a uživatel, který ho zneužil, bude mít buďto omezený nebo kompletně zablokovaný přístup k umělé inteligenci.

ARROWS advokátní kancelář, s.r.o.