Co když před námi začne umělá inteligence skrývat právo?
Nástup umělé inteligence do advokacie a poradenského byznysu se zdá v tuto chvíli neotřesitelný. Opakovaně ale řešíme problém s udržením advokátní mlčenlivosti, který znovu zintenzivnila proběhlá debata o původem čínské platformě DeepSeek. A v souvislosti s odpověďmi, které právě DeepSeek v některých chvílích nabízí, nemusíme být ani příliš paranoidní, abychom se začali obávat i jiných falz vycházejících z „chatovacích programů“, než je už dobře známé vymýšlení si judikatury. Co když před námi začnou nástroje umělé inteligence existující právo naopak skrývat?
Vlastně se teď jeví jako zvláštní, že kvůli umělé inteligenci nenastala podobná panika, jaká svého času provázala zavedení kontrolního hlášení DPH a další související změny v nutné a přikázané komunikaci mezi státem a advokáty.
Zatímco společnost pomalu ale jistě spěje k postoji, že umělá inteligence je dobrý sluha, ale špatný pán, my advokáti k tomu přistupujeme sice podobně, jen tradičně ještě s větší a v tomto případě i naprosto potřebnou opatrností. Tedy ve smyslu, že umělá inteligence může být i špatný sluha. To ve chvíli, kdybychom jí svěřili údaje, které musejí zůstat zahaleny advokátním tajemstvím. Je třeba připomenout, že to není privilegium advokáta, ale ochrana klientů, tedy povinnost v jejich prospěch.
Debata ohledně DeepSeeku a například i toho, zda cílem levnosti a celkové spektakuláronosti tohoto nástroje není ani tak získání konkurenční výhody, jako spíše sběr co nejvíce informací a údajů z Evropy či jiných částí světa čínskými komunisty, je relevantní pro celou společnost, nejdůležitější je ale právě pro advokáty. Právě oni jsou zodpovědní za ochranu informací od svých klientů a je při tom jedno, jak moc jsou, či nejsou citlivé.
Dění kolem DeepSeeku se navíc nemusí týkat jen DeepSeeku samotného. Jde o opětovné důrazné připomenutí nám všem: technologie se vyvíjejí, nevidíme do nich, jako advokáti musíme být v tomto ohledu opravdu ostražití. A je přece jedno, zda by údaje, které se nikam mimo klienta a nás dostat nemají, zamířily do virtuálních dálek Číny nebo Spojených států amerických či úplně jiné světové či ekonomické mocnosti. Protože nemusí jít ani o stát, ale také o nějakou opravdu silnou firmu, která se státu fakticky vyrovná. Jak dnes ukazuje příběh z USA ve vztahu k problematice ohledně DOGE.
DeepSeek je do očí bijícím příkladem vzhledem k tomu, že pochází z totalitní Číny, jíž máme, jistě odůvodněnou a správnou tendenci, minimálně v těchto věcech nevěřit. Ale pojďme ještě dál a k tomu, co se nám možná zatím zdá jak vytržené z Orwella nebo jiné dystopie.
Stejně jako neumí DeepSeek na některé „politické“ či historické otázky věci zdánlivě odpovědět, nebo na ně cíleně odpovídá špatně, může jiná podobná platforma, jíž třeba budeme všichni v budoucnu používat jinak se všemi „advokátními“ zárukami, které budeme potřebovat, o právu lhát.
Protože umělá inteligence nám nedává správné odpovědi, ale ty pravděpodobné, jak nedávno v rozhovoru pro Hrot24 upozornil vědec Martin Dostál, který se tímto fenoménem zabývá už od 90. let. „Vědecká komunita se (…) snažila umělou inteligenci vynaleznout, naprogramovat algoritmy. Velké jazykové modely ale jdou jinou cestou, jejich systém je vlastně taková statistická databáze textu. A odpovědi na otázky se v této databázi nevyhledávají, ale generují podle určitého pravděpodobnostního modelu. Odpověď je pravděpodobná tomu, na co se ptáte,“ uvedl.
Umělá inteligence tedy může v budoucnu velmi jednoduše skrývat různé právní předpisy, třeba ne tolik zřejmé nařízení a vyhlášky. Běžné uživatele ani nenapadne zkoušet i jiný zdroj a pátrat po informacích, o jejichž existenci nebudou mít ani zdání. Své právní nebo neprávní postavení přijmou jako holý fakt. A podobně k tomu jistě přistoupí i sami advokáti, ale nejen oni, také orgány činné v trestním řízení, správním řízení apod. Existující právo může přestat kvůli tomu fakticky existovat v podobě, jak ho známe dnes.
To všechno je pro práci právníka v jakékoliv pozici rizikové. Mysleme na to v dalších debatách o nástupu umělé inteligence. Nejen do naší profese.
_v_s.jpg)
JUDr. Jiří Matzner, Ph.D., LLM.
zakladatel advokátní kanceláře Matzner & Vítek
Anny Letenské 34/7
120 00 Praha 2
Tel.: +420 222 254 555
e-mail: info@matznervitek.cz
© EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz
