Začala platit první vlna povinností dle AI Aktu

První vlna a zakázané praktiky

Účinnými se stávají ustanovení AI Aktu, zahrnující definici systému umělé inteligence, gramotnost v oblasti AI (AI literacy), jakož i velmi omezený počet zakázaných praktik umělé inteligence, které v EU představují nepřijatelná rizika.[1]

Zakázanými praktikami jsme se již zabývali a doporučujeme k přečtení náš článek na téma Zakázané praktiky umělé inteligence dle AI Aktu. Nicméně ve stručnosti lze zopakovat, že zakázané praktiky umělé inteligence se vztahují na takové AI systémy, které představují nepřijatelná rizika. Zakázané praktiky jsou vyjmenovány v 5 AI Aktu a detailněji popsány v Pokynech Komise o zakázaných praktikách umělé inteligence stanovené nařízením (EU) 2024/1689 (AI Akt). Zákaz těchto praktik cílí na ochranu základních práv, včetně lidské důstojnosti, soukromí a zákazu diskriminace. Vzhledem k vysokému potenciálu škodlivosti těchto praktik, bylo celkem logicky nutné jejich zákaz zařadit v implementačním kalendáři AI Aktu na první místo.

Reklama

Rozvod s mezinárodním prvkem (online - živé vysílání) - 17.6.2025

17.6.2025 09:003 975 Kč s DPH
3 285 Kč bez DPH

Koupit

Vedle zakázaných AI praktik jsou ovšem od 2. 2. 2025 účinná výše zmiňovaná ustanovení o definici AI systému a gramotnosti v oblasti AI. Proč jsou právě tato témata zařazena v implementačním harmonogramu jako první společně se zakázanými praktikami?

Definice AI systému a gramotnost v oblasti AI

Účinnost této části AI Aktu směřuje spíše na jednotný výklad.  AI Akt klade důraz na rozvoj gramotnosti v oblasti AI, která má pomoci pochopit fungování umělé inteligence, rozpoznávat její rizika a bezpečně ji využívat. I z těchto důvodů je správné pochopení definic, tedy zejména co skutečně pod AI systém spadá a co ne, skutečně zásadní.

Definice AI systému

Zákonnou definici AI systému najdeme v článku 3 odst. 1 AI Aktu, který AI systém definuje následovně: „strojový systém navržený tak, aby po zavedení fungoval s různými úrovněmi autonomie a který po zavedení může vykazovat adaptabilitu a který za explicitními nebo implicitními účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou výstupy zahrnují predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzická nebo virtuální prostředí“.

Evropská komise nad rámec této stručné úpravy vydala 6. 2. 2025 Pokyny Komise k definici systému umělé inteligence zavedeného nařízením (EU) 2024/1689 (AI Akt) (dále jen „Pokyny“)[2], které vysvětlují praktické uplatňování právního pojmu AI systému, jak je zakotven v AI Aktu, což by dle Evropské komise mělo usnadnit povinným subjektům určení, zda jejich softwarový systém představuje systém AI, a usnadnit tak řádné uplatňování pravidel, stanovených AI Aktem. 

Pokyny doplňují, že AI systém zahrnuje jak hardware, tak software, přičemž je schopen pracovat s různou mírou autonomie, tedy s určitou nezávislostí na člověku. Důležitým rysem některých AI systémů je také adaptivita, tedy schopnost měnit své chování po nasazení. To však není nezbytná podmínka pro to, aby systém spadal do kategorie AI. Dle Pokynů každý AI systém operuje s určitými cíli, které mohou být explicitní (jasně definované) nebo implicitní (vyplývající z chování systému a jeho interakce s prostředím). Klíčovým aspektem je schopnost AI systému vyvozovat závěry na základě vstupních dat, čímž se odlišuje od běžného softwaru, který pracuje pouze se statickými pravidly.

Podstatnou částí Pokynů je klíč k rozlišování mezi AI systémem a tradičním software z právního hlediska. AI systém se od tradičního software odlišuje především svou schopností učit se, analyzovat vzory a autonomně upravovat své výstupy. Naopak systémy provádějící pouze základní datové operace, tradiční optimalizační algoritmy nebo jednoduché predikční modely nejsou považovány za AI systém podle definice AI Aktu.

Evropská regulace AI, zakotvená v AI Aktu, se tedy vztahuje pouze na systémy splňující definici dle článku 3 odst. 1 AI Aktu. Je důležité zdůraznit, že Pokyny nejsou právně závazné, ovšem slouží jako významná interpretační pomůcka při aplikaci AI Aktu a povinností jím stanovených.

Gramotnost v oblasti AI

Článek 4 AI Aktu vyžaduje, aby všichni poskytovatelé a zavádějící subjekty AI systémů zajistili, že jejich zaměstnanci a osoby v obdobném postavení mají dostatečnou úroveň znalostí a porozumění umělé inteligenci, včetně příležitostí a rizik, které AI představuje. Tento požadavek se vztahuje na všechny společnosti, které využívají AI, a to i při kvalifikování AI systému jako systému s nízkým rizikem.

V praxi to znamená zejména zavádění různých interních politik a zásad správy a užívání AI systémů a dostatečné proškolení zaměstnance a dalších osoby v těchto oblastech.

Evropská komise k tomuto tématu současně 4. 2. 2025 zveřejnila živý repositář osvědčených postupů na podporu učení a výměny v oblasti gramotnosti v oblasti umělé inteligence (dále jen „Repositář“).

Repositář vznikl na základě průzkumu, směřovaného vůči členům AI Pact[3], neboli iniciativy Evropské komise, která má za cíl podpořit organizace v přípravě na implementaci opatření vyplývajících z AI Aktu, prostřednictvím sdílení zkušeností, školení a dobrovolných závazků k transparentnosti a odpovědnému využívání AI. AI Pact zahrnuje síť zainteresovaných povinných subjektů pro výměnu znalostí a umožňuje společností proaktivně implementovat klíčová opatření ještě před plnou účinností legislativy.

Kancelář EU pro AI (EU AI Office) na základě Repositáře shromáždila výsledky probíhající praxe mezi členy AI Pactu a vytvořila na jejich základě seznam doporučených postupů, které mohou sloužit jako příklady zavedených opatření pro AI gramotnost. Seznam osvědčených postupů není vyčerpávající a bude pravidelně aktualizován a doplňován. Dosud zveřejněné postupy jsou řazeny abecedně podle úrovně jejich implementace (plně implementované, částečně zavedené, plánované). Ze zajímavosti, mezi členy AI Pactu, zmíněné v tomto seznamu doporučených postupů, patří například společnosti Booking.com či francouzské Criteo.

Pouhá reprodukce postupů uvedených v tomto živém repositáři však nezakládá automatickou domněnku plného souladu s článkem 4 AI Aktu.

Cílem repositáře je hlavně podporovat vzdělávání a výměnu zkušeností mezi poskytovateli a zaváděcími subjekty systémů AI dle AI Aktu, ale je na každém povinném subjektu, aby svou činnost uvedl do souladu s regulací AI dle skutečného stavu.

Závěrem

Dalším podstatným milníkem je 2. 8. 2025, jakožto nejzazší datum, do kterého musí členské státy EU určit vnitrostátní orgány odpovědné za prosazování AI Aktu. K tomuto datu také nabydou účinnosti pravidla týkající se sankcí, správy AI systémů (AI governance) a pravidla týkající se důvěrnosti informací v souvislosti s AI systémy (AI confidentiality).

Členské státy EU mají tedy čas na zavedení vnitrostátních opatření k prosazování AI Aktu do 2. 8. 2025. První donucovací opatření v souvislosti s tímto termínem můžeme očekávat v druhé polovině roku 2025.

Povinné subjekty by měly první polovinu roku 2025 využít k zavedení silné strategie správy AI systémů a k přijetí nezbytných kroků k nápravě případných nedostatků v dodržování povinností, stanovených AI Aktem a zaměřit se mimo zakázaných praktik také na řádné proškolení svých zaměstnanců a spolupracujících osob v oblasti AI.

Mgr. Jakub Málek,
managing partner

Mgr. Tereza Pechová
advokátní koncipientka