Umělá inteligence před německými soudy: autonomie systému neznamená autonomii odpovědnosti

Od technické autonomie k právní přičitatelnosti

Umělá inteligence je již běžnou součástí podnikové komunikace navenek. V praxi se vedle interních nástrojů pro přípravu podkladů nebo vyhledávání informací stále častěji uplatňují chatboty na webových stránkách, AI asistenti v zákaznické podpoře, automatizované odpovědi v e-shopech, rezervační nástroje nebo AI generované přehledy a doporučení v digitálních službách.

U takových systémů je klíčové určit, komu lze přičítat odpovědnost za jednání AI, resp. za konkrétní výstup vytvořený AI systémem. Právní význam nebude mít pouze technický původ sdělení, ale také účel nasazení systému, prostředí, v němž AI působí, a to, zda lze daný výstup podle okolností spojit s osobou, která systém nasadila, jako její komunikaci, obchodní jednání, informaci, radu nebo zveřejněné tvrzení.

Akt o umělé inteligenci definuje AI systém mimo jiné jako strojový systém fungující s různou mírou autonomie, který z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí.[1] Technická autonomie však popisuje způsob vzniku sdělení, nikoli jeho právní následky. Ty se budou odvíjet zejména od účelu nasazení, prostředí, v němž AI působí, použitých dat nebo znalostní báze, míry lidské kontroly a způsobu prezentace vůči adresátům. Pokud AI komunikuje pod značkou podniku a v souvislosti s jeho službami, bude obtížné považovat její výstupy za obsah stojící mimo sféru provozovatele.

Rozhodnutí ve věci Aesthetify: chatbot jako součást obchodní komunikace provozovatele

Jedním z aktuálních výrazných rozhodnutí k této otázce je rozsudek Vrchního zemského soudu v Hammu ze dne 12. 5. 2026, sp. zn. 4 UKl 3/25, ve věci Verbraucherzentrale Nordrhein-Westfalen e.V. proti Aesthetify GmbH. [2] Případ se týkal chatbotu na webových stránkách společnosti poskytující estetické služby.

Reklama

Skončení pracovního poměru (online - živé vysílání) - 9.9.2026

9.9.2026 09:003 975 Kč s DPH
3 285 Kč bez DPH

Koupit

Uživatelé mohli prostřednictvím chatbotu klást dotazy a mimo jiné rezervovat termíny. Chatbot v odpovědích uváděl nepravdivé informace o odborné kvalifikaci lékařů stojících za společností. Označoval je například jako odborné lékaře v oblasti plastické a estetické chirurgie nebo estetické medicíny, ačkoliv tato označení podle soudu neodpovídala skutečnosti, resp. v relevantním odborném smyslu neexistovala.

Soud posoudil odpovědi chatbotu jako nepřípustné obchodní jednání podle německé úpravy nekalé soutěže. Pro účely odpovědnosti za výstupy AI je však podstatný zejména závěr o přičitatelnosti. Žalovaná společnost namítala, že nesprávné odpovědi chatbotu jí nelze přičítat jako její vlastní jednání, protože chatbot pracoval autonomně a jednotlivé odpovědi nebyly lidsky řízeny ani kontrolovány. Soud v Hammu tuto obranu nepřijal.

Podle soudu představovaly odpovědi chatbotu jednání žalované ve smyslu německého soutěžního práva. Rozhodující bylo, že žalovaná chatbot provozovala na svém webu, využívala jej ke komunikaci s potenciálními zákazníky a pacienty a měla na jeho nastavení dostatečný vliv. Soud výslovně uvedl, že chatbot byl pouze technickým prostředkem, kterým se žalovaná při komunikaci s potenciálními zákazníky/pacienty obsluhovala, a že nešlo o „třetí osobu“ ve smyslu pravidel o odpovědnosti za jednání třetích osob. Nesprávné odpovědi proto nebylo možné od žalované oddělit jen s poukazem na jejich automatizovaný původ.

Rozhodnutí ve věci Grok: přičitatelnost AI výstupu provozovateli účtu

Na stejný problém z jiné strany navazuje usnesení Zemského soudu v Hamburku ze dne 23. 9. 2025, sp. zn. 324 O 461/25, týkající se AI bota Grok na platformě X.[3] Grok v rámci veřejné diskuse uvedl nepravdivé tvrzení o spolku Campact e.V., konkrétně že tento spolek získává vysoký podíl prostředků z federálních veřejných zdrojů. Campact se proti tvrzení bránil v řízení o předběžném opatření.

Soud ve svém rozhodnutí zakázal další šíření daného tvrzení. Podstatné je, že podle soudu skutečnost, že výrok vytvořil AI systém, sama o sobě neměnila jeho právní posouzení. Uživatelé mohli sdělení vnímat jako faktické tvrzení, nikoliv jako právně bezvýznamný strojový výstup. Soud zároveň dovodil vazbu mezi výstupem a provozovatelem účtu, na němž byl výstup prezentován.

Tento případ ukazuje, že AI generovaný obsah může zasahovat do osobnostních práv stejně jako obsah vytvořený člověkem. Nepravdivé faktické tvrzení neztrácí svou právní relevanci jen proto, že vzniklo automatizovaně. Pro posouzení odpovědnosti bude naopak důležité, kdo jej zpřístupnil, v jakém prostředí a zda jej adresáti mohli spojovat s konkrétním provozovatelem.

Oproti případu ve věci Aesthetify nejde o zákaznickou komunikaci na webu poskytovatele služeb, ale o veřejnou digitální komunikaci. Kritérium přičitatelnosti je však obdobné: rozhodující je spojení výstupu s účtem, značkou nebo komunikačním prostorem provozovatele a skutečnost, že výstup působí jako faktické sdělení o třetí osobě.

Rozhodnutí ve věci ekonomické databáze: odpovědnost za chybný údaj o společnosti

Dalším relevantním rozhodnutím je rozsudek Zemského soudu v Kielu ze dne 29. 2. 2024, sp. zn. 6 O 151/23.[4] V této věci provozovatel online portálu poskytujícího ekonomické informace o podnikatelských subjektech zveřejnil nepravdivý údaj, podle něhož mělo být určité společnosti navrženo zrušení, resp. výmaz z obchodního rejstříku z důvodu nedostatku majetku. Následně se ukázalo, že šlo o záměnu s jiným subjektem.

Provozovatel pracoval s automatizovaným vyhodnocováním veřejných registrů za využití big data a umělé inteligence. Současně v podmínkách upozorňoval, že data jsou získávána plně automatizovaně a mohou být chybná. Soud však přesto dovodil jeho odpovědnost za zásah do práv dotčené společnosti.

Význam tohoto rozhodnutí spočívá v tom, že se netýkalo klasického konverzačního chatbotu. Šlo o automatizovanou informační databázi. Přesto soud odmítl obranu založenou na tom, že proces byl plně automatizovaný. Provozovatel vědomě vytvořil a provozoval systém, který informace z veřejných zdrojů extrahoval, zpracovával a publikoval. Nemohl se proto odpovědnosti zprostit pouhým poukazem na automatizaci.

Tento případ rozšiřuje úvahu o přičitatelnosti mimo chatboty v užším slova smyslu. Podstatné není jen to, zda AI vede konverzaci s uživatelem. Stejné otázky mohou vznikat u ratingových nástrojů, ekonomických databází, vyhledávacích profilů nebo systémů agregujících veřejně dostupné informace. Pokud provozovatel vytvoří automatizovaný publikační systém a jeho prostřednictvím zveřejňuje faktická tvrzení o třetích osobách, obecné upozornění na možnou chybovost dat nemusí samo o sobě stačit k vyloučení odpovědnosti.

Rozhodnutí ve věci AI přehledů ve vyhledávání: odpovědnost provozovatele není předem vyloučena

Celkový obraz doplňuje rozsudek Zemského soudu ve Frankfurtu nad Mohanem ze dne 10. 9. 2025, sp. zn. 2-06 O 271/25, týkající se odpovědnosti provozovatele vyhledávače za AI generovaný přehled zobrazovaný před klasickými výsledky vyhledávání. [5]

Soud návrh v konkrétní věci zamítl. Neučinil tak však proto, že by odpovědnost provozovatele za AI generované přehledy byla principiálně vyloučena. Naopak výslovně uvedl, že odpovědnost provozovatele vyhledávače za nepravdivé informace předřazené výsledkům vyhledávání a generované AI systémem nelze automaticky vyloučit.

Otázku přičitatelnosti konkrétního výstupu provozovateli však soud nemusel definitivně řešit. Podle jeho názoru totiž napadené sdělení nebylo v celkovém kontextu z pohledu průměrného adresáta nepravdivé. Právě tento závěr vedl k zamítnutí návrhu na vydání předběžného opatření, aniž by soud musel dále řešit, zda a za jakých podmínek lze AI přehled přičíst provozovateli vyhledávače jako jeho vlastní sdělení.

Společná kritéria přičitatelnosti výstupů AI

Z uvedených rozhodnutí nelze dovozovat automatickou odpovědnost za každý chybný AI výstup. Lze z nich však dovodit obecnější závěr: technická autonomie AI sama o sobě nebude postačovat jako důvod pro vyloučení odpovědnosti. Rozhodující bude celkový právní, obchodní a komunikační kontext, v němž byl AI systém nasazen a v němž byl jeho výstup adresátům zpřístupněn.

Význam bude mít zejména účel a prostředí použití systému, jeho vazba na nabídku služeb, obchodní model nebo zákaznické rozhraní provozovatele, jakož i způsob prezentace výstupu. Jinak bude posuzován obecný nástroj používaný uživatelem pro vlastní potřebu a jinak chatbot na oficiálním webu podniku, AI asistent v zákaznické podpoře nebo AI výstup publikovaný prostřednictvím veřejného účtu provozovatele.

Důležitá bude rovněž povaha samotného výstupu. Vyšší riziko budou představovat zejména faktická tvrzení, která lze ověřit jako pravdivá nebo nepravdivá, například údaje o odborné kvalifikaci, vlastnostech výrobku, ceně, dostupnosti služby, ekonomické situaci společnosti nebo pověsti konkrétní osoby. Jinak bude zpravidla posuzována obecná orientační odpověď a jinak konkrétní skutkové tvrzení způsobilé ovlivnit rozhodování adresátů nebo zasáhnout do práv třetích osob.

Samostatný význam bude mít také míra vlivu provozovatele na nastavení systému. Přičitatelnost nevyžaduje, aby provozovatel předem znal každou konkrétní větu vygenerovanou modelem. Podstatné však může být, zda systém vědomě nasadil, určil jeho účel, poskytl nebo schválil znalostní bázi, nastavil hranice odpovědí a měl k dispozici mechanismy kontroly, eskalace nebo opravy chybných výstupů.

Do tohoto posouzení může vstupovat i disclaimer. Upozornění, že odpověď byla vytvořena umělou inteligencí, že výstup může obsahovat nepřesnosti nebo že nejde o závaznou informaci, může být vhodné a v některých případech i právně relevantní. Transparentnost podle Aktu o umělé inteligenci ostatně vyžaduje, aby fyzická osoba byla při přímé interakci s AI systémem informována, že komunikuje s AI systémem, ledaže je to z okolností  a kontextu zřejmé.[6] Z toho však nevyplývá, že označení systému jako AI samo o sobě zbavuje provozovatele odpovědnosti za nepravdivý, klamavý nebo škodlivý výstup.

Disclaimer proto může ovlivnit očekávání adresáta, zpravidla však nepřeruší vazbu mezi výstupem a provozovatelem, pokud AI vystupuje v jeho komunikační sféře, pod jeho značkou a v souvislosti s jeho službami. Nemůže také nahradit řádné nastavení systému, kvalitní a aktualizovanou znalostní bázi, omezení odpovědí v citlivých oblastech, lidskou eskalaci u rizikových dotazů, testování, přiměřené logování a funkční postup pro opravu chybných odpovědí.

Závěr: význam pro českou praxi

Pro českou praxi je uvedený vývoj významný zejména proto, že český právní řád zatím neobsahuje zvláštní soukromoprávní úpravu odpovědnosti za výstupy umělé inteligence. Obdobné situace by se proto posuzovaly podle stávajících institutů občanského, soutěžního a spotřebitelského práva. Vedle obecných pravidel odpovědnosti za škodu, případně odpovědnosti za škodu způsobenou z provozní činnosti nebo vadou věcí, budou podle povahy konkrétního výstupu přicházet v úvahu také zvláštní režimy, zejména nekalá soutěž, klamavá reklama, klamavé označení zboží nebo služby, klamavá obchodní praktika vůči spotřebiteli nebo odpovědnost za škodu způsobenou informací či radou.

Pokud AI výstup nepravdivě tvrdí určité skutečnosti o konkrétní osobě nebo společnosti, může se uplatnit ochrana osobnosti, ochrana pověsti právnické osoby, případně v soutěžním prostředí také zlehčování. V existujícím smluvním vztahu může být chybný výstup AI posuzován jako součást zákaznické komunikace, podpory nebo správy smluvního vztahu a podle okolností i jako porušení smluvní povinnosti.

Německá rozhodnutí nejsou pro české soudy závazná, mohou však být interpretačním vodítkem při posuzování toho, zda byl konkrétní výstup AI natolik spojen s provozovatelem systému, že jej lze této osobě právně přičíst.

JUDr. Bc. Matej Šandor, Ph.D., MBA,
advokát