(Ne)označování obsahu vytvořeného generativní AI

Problematické aspekty obsahu tvořeného generativní AI

Jak již bylo naznačeno výše, generativní AI[3] umožňuje jejich uživatelům i za použití jednoduchých promptů generovat velké množství syntetického obsahu, tj. nejrůznější texty, obrázky a videa. Často jsou tyto obecné systémy AI[4] dokonce bezplatné (např. Perplexity, ChatGPT apod.). S postupným technologickým pokrokem navíc bývá čím dál těžší rozeznat obsah tvořený lidským autorem od obsahu generovaného obecným systémem AI. Na jednu stranu je pozitivní, že i lidé bez potřebných odborných znalosti dokáží za minimálního úsilí vytvořit obsah srovnatelný s obsahem vytvořeným programátorem či grafickým designérem. Na druhou stranu však existují i negativní aspekty tohoto fenoménu, které mohou mít zásadní dopady na fungovaní naší společnosti.

Jeden z nejzávažnějších negativních aspektů se týká zcela jistě kyberbezpečnosti. Asi každý z dnešních uživatelů internetu již čelil nějaké formě phishingových útoků[5], které však až doposud nebyly příliš přesvědčivé (typicky se mohlo jednat o podvodný e‑mail plný gramatických chyb). Ovšem s příchodem AI je možné očekávat stále komplexnější a přesvědčivější phishingové útoky, zejména v podobě tzv. spear-phishingu[6]. Podvodníci, kteří shromažďují prolomené údaje získané pomocí kybernetických útoků, mohou pomocí technologie umělé inteligence tyto údaje přečíst a vytvořit vysoce účinný spear-phishingový nástroj. Jako příklad lze uvést situaci, kdy podvodník získá pomocí kybernetického útoku některá vaše data a ví, že navštěvujete určitou internetovou stránku. Následně vám pošle gramaticky bezchybný e-mail, v němž se vydává za provozovatele této stránky, který potřebuje ověřit některé údaje o vašem účtu. Tímto způsobem tak může získat další data a informace (zejména pak vaše osobní či bankovní údaje), či provést další kybernetický útok.[7]

Dalším negativním aspektem spojeným s obsahem generativní AI je problematika tzv, „deep fake“ obsahu[8]. Tento obsah se s příchodem AI stává čím dál tím více dokonalejší a bezchybný. Zároveň je značně rozšířen okruh osob, které mohou tento obsah tvořit. Pomocí AI je například možné replikovat hlas (případně i podobu ve formě videa) určité celebrity, politika apod. Zneužívání „deep fake“ obsahu pak může v konečném důsledku představovat i riziko pro demokratické zřízení naší společnosti, kdy používání takovéhoto obsahu se stává součástí hybridní války vedené ze strany Ruska či dalších autokratických zemí za účelem ovlivnění výsledků demokratických voleb v ostatních zemích.[9] 

Reklama

Rozvod s mezinárodním prvkem (online - živé vysílání) - 17.6.2025

17.6.2025 09:003 975 Kč s DPH
3 285 Kč bez DPH

Koupit

Posledním problémem, který zde zmíníme, je nízká míra transparentnosti, kdy uživatelé obecného systému AI nezveřejní, že obsah byl vytvořen tímto systémem. Příkladem může být grafický designer (např. fyzická osoba podnikající), který při tvorbě díla neuvede, že dílo vytvořil pomocí obecného systému AI a objednatel díla se pak může mylně domnívat, že se jedná o dílo vytvořené člověkem, tj. že vytvoření tohoto díla stálo příslušnou osobu určité větší úsilí a že je tudíž spojeno i s určitými kvalitami jeho autora.

Výše uvedené problematické aspekty pak svědčí o potřebě obsah generovaný obecnými systémy AI určitým způsobem regulovat. Další část článku v této souvislosti pojednává o současném stavu regulace a jejím možném budoucím vývoji.

Současná právní úprava

V současné době zatím český právní řád neobsahuje účinnou právní úpravu vztahující se k povinnostem uživatelů k označování obsahu tvořeného pomocí generativní AI. První legislativní úpravu tak představuje již zmíněný Akt o umělé inteligenci, který bude popsán podrobněji v další části tohoto článku. Povinnost označovat obsah tvořený pomocí generativní AI je tak aktuálně upravena především smluvní dokumentací jednotlivých AI nástrojů, či provozovatelů příslušných internetových stránek, platforem nebo aplikací.

V níže uvedené tabulce můžeme nalézt přehled povinností uživatelů vybraných obecných systémů AI:

Z uvedené smluvní dokumentace vybraných obecných systémů AI tedy vyplývá, že explicitní povinnost označovat, že byl obsah tvořen generativní AI májí například uživatelé ChatGPT, avšak toliko v případech, kdy chtějí tento svůj obsah sdílet s veřejností (např. prostřednictvím sociálních sítí). U ostatní vybrané smluvní dokumentace takovouto povinnost nenalezneme. 

Zároveň je však nutné podotknout, že někteří poskytovatelé obecných systémů AI[15] začali u těchto používat technická řešení, která umožňují vkládat metadata, která indikují, že obsah byl vytvořen pomocí umělé inteligence. Příkladem je možné uvést společnost OpenAI, která pro obecný model AI DALL·E 3 (model sloužící ke generování především obrazového obsahu) začala používat C2PA standardy, s jejichž pomocí může jakákoliv třetí osoba zjistit, že se jedná o obsah vytvořený pomocí AI. Předmětná metadata je však možné kdykoliv odstranit.[16]

Velice proaktivní je také přístup společnosti Meta Platforms, Inc. (společnost provozující např. sociální sítě Facebook, Instagram a Threads), která začala označovat synteticky vytvořený obsah pomocí svého obecného systému AI štítkem „Vytvořeno s AI“[17]. V případě, že příslušný obsah obsahuje indikátory, že byl vytvořen pomocí systému AI, začala tato společnost navíc sama tento obsah označovat uvedeným štítkem. Zároveň po uživatelích určitých svých platforem (např. Instagram) společnost META vyžaduje, aby realistický obsah vytvořený pomocí obecného systému AI tímto štítkem sami označovali.[18],[19] 

Akt o umělé inteligenci

Problematika transparentnosti je řešena samostatnou kapitolou IV Aktu o umělé inteligenci, respektive článkem 50 tohoto Aktu. Stanovuje se povinnost poskytovatelů systémů AI (např. OpenAI) vytvářejících syntetický zvukový, obrazový, video nebo textový obsah označovat tyto výstupy strojově čitelnou formou, tak aby bylo možné zjistit, že tyto byly uměle vytvořeny. Poskytovatelé těchto systémů mají relativně volný výběr ohledně konkrétní podoby technického řešení, tj. jedná se o určitou formu technologické neutrality. Poskytovatelé těchto systémů však musí zajistit, aby předmětná technická řešení byla účinná, interoperabilní, a spolehlivá. Bod 133 preambule Aktu o umělé inteligenci pak uvádí možná technická řešení v podobě vodoznaků, identifikace metadat, kryptografických metod apod. Pokud však systém AI bude používán pouze např. pro editaci textu, nebude nutné výše uvedené splnit.[20]

AI akt řeší také transparentnost ve vztahu k „deep fake“ obsahu. Subjekty zavádějící systém AI (například obchodní společnost podnikající v oboru vydavatelské činnosti), které tvoří „deep fake“ obsah, musí zveřejnit, že obsah byl uměle vytvořen. Tato povinnost se však nevztahuje na fyzické osoby. V případě, že „deep fake“ obsah představuje umělecké, tvůrčí či satirické vyjádření, je stanovena povinnost takovýto obsah zveřejnit toliko vhodným způsobem, který nebrání zobrazení nebo užívání díla.[21]

Výše uvedená právní úprava bude účinná 24 měsíců ode dne vstupu Aktu o umělé inteligenci v platnost. Autoři tohoto článků hodnotí velice pozitivně, že se evropský zákonodárce rozhodl upravit v Aktu o umělé inteligenci i problematiku transparentnosti včetně povinnosti označování obsahu tvořeného generativní AI. Navržené řešení představuje dobrý kompromis mezi řešením současných negativních aspektů obsahu tvořeného generativní AI (viz první část tohoto článku) a přílišnou regulací omezující obchodní činnost a vývoj v oblasti AI.

Závěr

Autoři úvodem svého článku poukázali na některé negativní aspekty obsahu tvořeného generativní AI, které odůvodňují potřebu určité právní regulace této oblasti. Následně nastínili současnou právní úpravu označování obsahu tvořeného generativní AI a budoucnost této úpravy v podobě Aktu o umělé inteligenci, který v části věnující se problematice transparentnosti zhodnotili jako přínosnou regulaci. Závěrem autoři apelují na čtenáře, aby byli obezřetní a důsledně prověřovali obsah, se kterým se seznámili prostřednictvím internetu, tak aby snížili riziko kybernetických útoků, zneužití osobních údajů a manipulace skrze obsah vytvořený pomocí systémů AI.

Mgr. Michal Hašan,
advokát

Mgr. Bc. Karel Pelikán,
advokátní koncipient

Doležal & Partners s.r.o., advokátní kancelář

Koliště 1912/13
602 00 Brno

Růžová 1416/17
110 00 Praha

tel.: +420 543 217 520
e-mail: office@dolezalpartners.com