epravo.cz

Přihlášení / registrace

Nemáte ještě účet? Zaregistrujte se


Zapomenuté heslo
    Přihlášení / registrace
    • ČLÁNKY
      • občanské právo
      • obchodní právo
      • insolvenční právo
      • finanční právo
      • správní právo
      • pracovní právo
      • trestní právo
      • evropské právo
      • veřejné zakázky
      • ostatní právní obory
    • ZÁKONY
      • sbírka zákonů
      • sbírka mezinárodních smluv
      • právní předpisy EU
      • úřední věstník EU
    • SOUDNÍ ROZHODNUTÍ
      • občanské právo
      • obchodní právo
      • správní právo
      • pracovní právo
      • trestní právo
      • ostatní právní obory
    • AKTUÁLNĚ
      • 10 otázek
      • tiskové zprávy
      • vzdělávací akce
      • komerční sdělení
      • ostatní
      • rekodifikace TŘ
    • Rejstřík
    • E-shop
      • Online kurzy
      • Online konference
      • Záznamy konferencí
      • EPRAVO.CZ Premium
      • Konference
      • Monitoring judikatury
      • Publikace a služby
      • Společenské akce
      • Advokátní rejstřík
      • Partnerský program
    • Předplatné
    3. 4. 2024
    ID: 117799upozornění pro uživatele

    Umělá inteligence a osobní údaje v roce 2024

    S narůstajícím významem umělé inteligence (dále jen "AI") se zvyšují nároky klientů v této oblasti, a proto je klíčové v tomto směru neustále aktualizovat informace. S tématem AI se nedílně pojí i zpracování osobních údajů. Tuto problematiku Nařízení o ochraně osobních údajů (General Data Protection Regulation, dále jen “GDPR”), které je použitelné i v souvislosti se zpracováním údajů AI a snaží se chránit osobní údaje občanů EU.

    Co to je GDPR a jak nás chrání?

    Pro případ, že jste o něm ještě neslyšeli - GDPR stanovuje pravidla pro zpracování osobních údajů v EU. Jeho zásady se vztahují na jakékoliv subjekty, které shromažďují, uchovávají, zpracovávají nebo předávají osobní údaje občanů EU. To zahrnuje také organizace a společnosti, které využívají AI pro zpracování těchto dat.

    Reklama
    Nemáte ještě registraci na epravo.cz?

    Registrujte se, získejte řadu výhod a jako dárek Vám zašleme aktuální online kurz na využití umělé inteligence v praxi.

    REGISTROVAT ZDE

    Jedním z hlavních principů GDPR je zásada účelového omezení zakotveného v čl. 5 odst. 1, písm. b) GDPR. To znamená, že osobní údaje by měly být shromažďovány pouze pro konkrétní a oprávněné účely a neměly by být zpracovávány způsobem, který by tomuto odporoval.

    Totéž tedy platí i pro využití AI při zpracování osobních údajů. Organizace musí zajistit, že využití AI je v souladu s účely, pro které byly údaje shromažďovány, a že se vyhýbá nadměrnému nebo neoprávněnému zpracování. V praxi to tedy znamená například to, že pokud přemýšlíte, že “čím více údajů mít v databázi”, tím lépe, musíte zpozornět. Vždy si rozmyslete s jakými daty budete pracovat.

    Reklama
    ChatGPT od A do Z v právní praxi (online - živé vysílání) - 5.8.2025
    ChatGPT od A do Z v právní praxi (online - živé vysílání) - 5.8.2025
    5.8.2025 13:003 975 Kč s DPH
    3 285 Kč bez DPH

    Koupit

    Jak přistupovat k osobním údajům při práci s umělou inteligencí

    Již při vývoji AI systémů by se mělo dbát na ochranu osobních údajů, a to zejména přijetím technických a organizačních opatření pro minimalizaci rizika ztráty, zneužití nebo neoprávněného přístupu k těmto datům. Měla by tak být používána adekvátní bezpečnostní opatření, jako je například šifrování dat, anonymizace či pseudonymizace. Dále může být užito zabezpečných úložišť dat či sledování kdo má k datům přístup.

    Zohlednění ochrany osobních údajů v oblasti AI můžeme najít i v novém nařízení EU AI Act, které reguluje právě používání umělé inteligence. Pokud by bylo v tomto směru postupováno v rozporu s postupy, které nastiňuje GDPR nebo toto nové nařízení EU AI Act mohou za to být ukládány sankce, typicky ve formě pokut, jak je řečeno dále.

    Osobními údaji se pak rozumí veškeré informace o identifikované nebo identifikovatelné fyzické osobě (čl. 4 odst. 1 Nařízení GDPR). Proto je nutné přistoupit minimálně k úpravě smluv týkajících se zpracování osobních údajů, jak jsme uvedli výše.

    GDPR také klade důraz na transparentnost - což je zakotveno společně se zákonností a korektností v čl. 5 odst. 1, písm. a) GDPR - a informovanost. Osoby, jejichž osobní údaje jsou zpracovávány, musí být řádně informovány o účelech zpracování, kategoriích zpracovávaných údajů a v neposlední řadě je nutné je poučit o jejich právech ve vztahu k jejich údajům (např. právo být zapomenut, které je upraveno v čl. 17 GDPR). O to spíše toto platí i v případě využití AI, kdy by měly být poskytovány jasné informace o tom, jak AI systémy zpracovávají osobní údaje a jaká jsou s tím spojená rizika.

    Bezpečnost AI je třeba sledovat i z pohledu firem, u kterých by mohlo docházet např. k úniku obchodních tajemství, či porušení povinnosti mlčenlivosti. Pokud tedy Vaši zaměstnanci používají při práci např. ChatGPT, je nutné, aby neudávali žádná citlivá data, která by mohla způsobit nenapravitelné škody.

    Pro zaměstnance tedy doporučujeme pořádat školení zaměřená na tuto problematiku či zavést vnitřní směrnice. S ohledem na to dále doporučujeme upravit vztahy i směrem ven ze společnosti, a to s ohledem na dodavatele, například by mohlo být vhodné upravit smlouvy.

    Zdravotnictví a umělá inteligence “v plenkách”

    Neopomenutelným tématem je ve vztahu k AI bezpochyby obor zdravotnictví. Sluší se zdůraznit, že údaje o  zdravotním stavu se řadí mezi zvláštní kategorii osobních údajů, u kterých je zvýšená jejich ochrana, na což navazují i odpovídající pokuty, které dosahují vyšších částek. Samotná Světová zdravotnická organizace (dále jen “WHO”) avšak poukazuje na to, že užívání AI by mělo být ve zdravotnictví spíše marginální a užívat ji jen velmi obezřetně.[1]

    Mimo již známé aplikace, které nám sledují kupříkladu kalorický příjem, je zde i pojem telemedicíny jako zcela nového odvětví, kterému se věnovala ve svém článku Mgr. Barbora Dlabolová (dostupný zde). Tento pojem zastřešuje v podstatě poskytování zdravotní péče na dálku pomocí digitálních zařízení, nicméně v tuto chvíli není nijak regulován. I zde jsou rizika, na které upozorňuje i WHO, vzhledem k tomu, že je stále preferováno poskytování zdravotních služeb jak je známe.

    Za předpokladu, že by se zdravotnictví, resp. údaje o našem zdravotním stavu mělo propojit s novodobou technologií AI, bude třeba zajisté novelizovat zákon 372/2011 Sb., o zdravotních službách a podmínkách jejich poskytování, aby s tímto pokrokem šel ruku v ruce. Bude tak více než vhodné upravit i interní směrnice či politiky jednotlivých zdravotnických zařízení, které budou zohledňovat právě zavádění AI.

    Co se stane při porušení těchto pravidel?

    Pokud porušíte pravidla stanovená GDPR pro práci s osobními údaji, mohou Vám hrozit vysoké pokuty. To zahrnuje i případy nedodržení požadavků na ochranu osobních údajů při využití AI. Je proto důležité, abyste ve své organizaci pečlivě dodržovali Nařízení GDPR a zajistili, že AI systémy jsou taktéž v souladu s těmito požadavky.

    Dle čl. 83 GDPR mohou pokuty za porušení povinností dle GDPR vystoupat až do výše 10 000 000 EUR, nebo jedná-li se o podnik, až do výše 2 % celkového ročního obratu celosvětově za předchozí finanční rok, podle toho, která hodnota je vyšší.

    V případě AI Act se jedná o pokuty až do výše 30 000 000 EUR nebo, dopustí-li se porušení společnost, až do výše 6 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší.

    Odstrašujícím příkladem může být například pokuta udělená Hello bank! za neoprávněné nakládání s biometrickými podpisy svých klientů, kdy dostala pokutu ve výši čtvrt milionu korun.

    AI nabízí mnoho přínosů a inovací, ale zpracování osobních údajů by mělo být prováděno s respektem k soukromí a právům jednotlivců. Směrnice GDPR přináší důležité rámce a pravidla, která mají chránit osobní údaje a zajišťovat, že využití AI je v souladu se základními principy ochrany soukromí. Umělé inteligenci se věnujeme i v článcích zde či zde. V případě, že byste měli dotazy týkající se tohoto tématu, neváhejte se na nás obrátit, rádi se s Vaším případem seznámíme.


    JUDr. Jakub Dohnal, Ph.D., LL.M.
    ,
    advokát, partner


    Kateřina Chaloupková,
    paralegal

     


    ARROWS advokátní kancelář, s.r.o.
     
    Plzeňská 3350/18
    150 00 Praha 5 – Smíchov
     
    Tel.:       +420 245 007 740
    e-mail:    office@arws.cz

    [1] WHO calls for safe and ethical AI for health. Online. 2023. Dostupné z: https://www.who.int/news/item/16-05-2023-who-calls-for-safe-and-ethical-ai-for-health. [cit. 2024-03-20].


    © EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz


    JUDr. Jakub Dohnal, Ph.D., LL.M., Kateřina Chaloupková (ARROWS)
    3. 4. 2024

    Poslat článek emailem

    *) povinné položky

    Další články:

    • Promlčení zápůjčky na dobu neurčitou a změna judikatury Nejvyššího soudu
    • Jak dlouho po podání žádosti o vydání stavebního povolení musí žadatel udržovat podkladová stanoviska platná a aktuální?
    • Ne/podceňování zastupitelnosti bezpečnostních rolí dle zákona o kybernetické bezpečnosti
    • Právo a umělé inteligence: AI Act, osobní údaje, kyberbezpečnost a další regulace
    • Dítě a dovolená v zahraničí: Co dělat, když druhý rodič nesouhlasí s cestou?
    • Cena zvláštní obliby – kdy má citový vztah poškozeného k věci vliv na výši odškodného?
    • Umělá inteligence v právu: Efektivní pomoc nebo riziko pro odborný úsudek?
    • Úvodní vhled do klasifikace povinných osob dle návrhu nového zákona o kybernetické bezpečnosti
    • Rodinná nadace s dceřinou společností: Alternativa ke svěřenskému fondu pro správu rodinného majetku
    • Řádné prověření podnětu jako podklad pro místní šetření (nález Ústavního soudu)
    • Zákon č. 73/2025 Sb.: Advokacie v nové éře regulace a ochrany důvěrnosti

    Novinky v eshopu

    Aktuální akce

    • 05.08.2025ChatGPT od A do Z v právní praxi (online - živé vysílání) - 5.8.2025
    • 12.08.2025Claude (Anthropic) od A do Z v právní praxi (online - živé vysílání) - 12.8.2025
    • 19.08.2025Microsoft Copilot od A do Z v právní praxi (online - živé vysílání) - 19.8.2025
    • 26.08.2025Gemini a NotebookLM od A do Z v právní praxi (online - živé vysílání) - 26.8.2025
    • 02.09.2025Pracovní smlouva prakticky (online - živé vysílání) - 2.9.2025

    Online kurzy

    • Úvod do problematiky squeeze-out a sell-out
    • Pořízení pro případ smrti: jak zajistit, aby Váš majetek zůstal ve správných rukou
    • Zaměstnanec – rodič z pohledu pracovněprávních předpisů
    • Flexi novela zákoníku práce
    • Umělá inteligence a odpovědnost za újmu
    Lektoři kurzů
    JUDr. Tomáš Sokol
    JUDr. Tomáš Sokol
    Kurzy lektora
    JUDr. Martin Maisner, Ph.D., MCIArb
    JUDr. Martin Maisner, Ph.D., MCIArb
    Kurzy lektora
    Mgr. Marek Bednář
    Mgr. Marek Bednář
    Kurzy lektora
    Mgr. Veronika  Pázmányová
    Mgr. Veronika Pázmányová
    Kurzy lektora
    Mgr. Michaela Riedlová
    Mgr. Michaela Riedlová
    Kurzy lektora
    JUDr. Jindřich Vítek, Ph.D.
    JUDr. Jindřich Vítek, Ph.D.
    Kurzy lektora
    Mgr. Michal Nulíček, LL.M.
    Mgr. Michal Nulíček, LL.M.
    Kurzy lektora
    JUDr. Ondřej Trubač, Ph.D., LL.M.
    JUDr. Ondřej Trubač, Ph.D., LL.M.
    Kurzy lektora
    JUDr. Jakub Dohnal, Ph.D., LL.M.
    JUDr. Jakub Dohnal, Ph.D., LL.M.
    Kurzy lektora
    JUDr. Tomáš Nielsen
    JUDr. Tomáš Nielsen
    Kurzy lektora
    všichni lektoři

    Konference

    • 18.09.2025Diskusní fórum: Daňové právo v praxi - 18.9.2025
    • 02.10.2025Trestní právo daňové - 2.10.2025
    • 03.10.2025Daňové právo 2025 - Daň z přidané hodnoty - 3.10.2025
    Archiv

    Magazíny a služby

    • Monitoring judikatury (24 měsíců)
    • Monitoring judikatury (12 měsíců)
    • Monitoring judikatury (6 měsíců)

    Nejčtenější na epravo.cz

    • 24 hod
    • 7 dní
    • 30 dní
    • Promlčení zápůjčky na dobu neurčitou a změna judikatury Nejvyššího soudu
    • Od konkurenční doložky k právní nejistotě: kontroverzní výklad Nejvyššího soudu v rozsudku 27 Cdo 1236/2024
    • Právo a umělé inteligence: AI Act, osobní údaje, kyberbezpečnost a další regulace
    • Jak dlouho po podání žádosti o vydání stavebního povolení musí žadatel udržovat podkladová stanoviska platná a aktuální?
    • Právo na víkend - týden v české justici očima šéfredaktora
    • Sankční povinnost odevzdání řidičského průkazu v implikační souvislosti
    • Ne/podceňování zastupitelnosti bezpečnostních rolí dle zákona o kybernetické bezpečnosti
    • Závislá práce ve světle nového rozhodnutí Nejvyššího správního soudu. Rozsudek Nejvyššího správního soudu ze dne 19. 3. 2025, sp. zn. A Ads 6/2025
    • Závislá práce ve světle nového rozhodnutí Nejvyššího správního soudu. Rozsudek Nejvyššího správního soudu ze dne 19. 3. 2025, sp. zn. A Ads 6/2025
    • Promlčení zápůjčky na dobu neurčitou a změna judikatury Nejvyššího soudu
    • Právo a umělé inteligence: AI Act, osobní údaje, kyberbezpečnost a další regulace
    • Sankční povinnost odevzdání řidičského průkazu v implikační souvislosti
    • Od konkurenční doložky k právní nejistotě: kontroverzní výklad Nejvyššího soudu v rozsudku 27 Cdo 1236/2024
    • 10 otázek pro ... Jana Kohouta
    • Ne/podceňování zastupitelnosti bezpečnostních rolí dle zákona o kybernetické bezpečnosti
    • Top 12 čili Tucet nejvýznamnějších judikátů Nejvyššího soudu z loňského roku 2024 vzešlých z řešení pracovněprávních sporů
    • Ověření podpisu advokátem a „nestrannost“ advokáta
    • Projevy tzv. flexinovely zákoníku práce při skončení pracovního poměru výpovědí udělenou zaměstnanci ze strany zaměstnavatele
    • Bez rozvrhu pracovní doby to nepůjde
    • Nařízení odstranění černé stavby aneb Když výjimka potvrzuje pravidlo
    • Zákon č. 73/2025 Sb.: Advokacie v nové éře regulace a ochrany důvěrnosti
    • Top 12 čili Tucet nejvýznamnějších judikátů Nejvyššího soudu z loňského roku 2024 vzešlých z řešení pracovněprávních sporů
    • Umělá inteligence v právu: Efektivní pomoc nebo riziko pro odborný úsudek?
    • Finální podoba flexibilní novely zákoníku práce nabyla účinnosti - co nás čeká?

    Soudní rozhodnutí

    Nesprávné označení relevantní stěžovatelovy námitky (exkluzivně pro předplatitele)

    Nejvyšší správní soud nedostojí požadavkům na řádné odůvodnění soudního rozhodnutí vyplývajícím z čl. 36 odst. 1 Listiny základních práv a svobod, pokud nesprávně označí...

    Předběžná vazba (exkluzivně pro předplatitele)

    Při rozhodování o předběžné vazbě podle § 94 zákona o mezinárodní justiční spolupráci musí soudy dostatečně odůvodnit reálné riziko útěku vyžádané osoby, podložené jejím...

    Přeřazení odsouzeného do přísnějšího typu věznice (exkluzivně pro předplatitele)

    Rozhodnutí o přeřazení odsouzeného do věznice s přísnějším režimem představuje omezení práva na osobní svobodu podle článku 8 odst. 1 Listiny základních práv a svobod a obecné...

    Příspěvek na péči

    Příspěvek na péči a jeho právní úprava v zákoně č. 108/2006 Sb., o sociálních službách, je naplněním práva na přiměřené hmotné zabezpečení při nezpůsobilosti k práci podle...

    Střídavá péče (exkluzivně pro předplatitele)

    Nemožnost přítomného účastníka efektivně participovat na jednání prostřednictvím svého advokáta z důvodu jazykových omezení může za určitých okolností vést k porušení jeho...

    Hledání v rejstřících

    • mapa serveru
    • o nás
    • reklama
    • podmínky provozu
    • kontakty
    • publikační podmínky
    • FAQ
    • obchodní a reklamační podmínky
    • Ochrana osobních údajů - GDPR
    • Nastavení cookies
    100 nej
    © EPRAVO.CZ, a.s. 1999-2025, ISSN 1213-189X
    Provozovatelem serveru je EPRAVO.CZ, a.s. se sídlem Dušní 907/10, Staré Město, 110 00 Praha 1, Česká republika, IČ: 26170761, zapsaná v obchodním rejstříku vedeném Městským soudem v Praze pod spisovou značkou B 6510.
    Automatické vytěžování textů a dat z této internetové stránky ve smyslu čl. 4 směrnice 2019/790/EU je bez souhlasu EPRAVO.CZ, a.s. zakázáno.

    Jste zde poprvé?

    Vítejte na internetovém serveru epravo.cz. Jsme zdroj informací jak pro laiky, tak i pro právníky profesionály. Zaregistrujte se u nás a získejte zdarma řadu výhod.

    Protože si vážíme Vašeho zájmu, dostanete k registraci dárek v podobě unikátního online kurzu Základy práce s AI. Tento kurz vás vybaví znalostmi a nástroji potřebnými k tomu, aby AI nebyla jen dalším trendem, ale spolehlivým partnerem ve vaší praxi. Připravte se objevit potenciál AI a zjistit, jak může obohatit vaši kariéru.

    Registrace je zdarma, k ničemu Vás nezavazuje a získáte každodenní přehled o novinkách ve světě práva.


    Vaše data jsou u nás v bezpečí. Údaje vyplněné při této registraci zpracováváme podle podmínek zpracování osobních údajů



    Nezapomněli jste něco v košíku?

    Vypadá to, že jste si něco zapomněli v košíku. Dokončete prosím objednávku ještě před odchodem.


    Přejít do košíku


    Vaši nedokončenou objednávku vám v případě zájmu zašleme na e-mail a můžete ji tak dokončit později.