Technologie, AI a digitální právo Archivy - ASPIDOS advokátní kancelář https://aspidos.cz/category/technologie-ai-a-digitalni-pravo/ Špičkové právní služby pro podnikatele Wed, 05 Aug 2026 09:25:31 +0000 cs hourly 1 https://wordpress.org/?v=7.0.4 https://aspidos.cz/wp-content/uploads/2024/11/cropped-aspidos-ico-32x32.jpg Technologie, AI a digitální právo Archivy - ASPIDOS advokátní kancelář https://aspidos.cz/category/technologie-ai-a-digitalni-pravo/ 32 32 Odpovídáte za chyby AI chatbota. Jak v podnikání nasadit umělou inteligenci bezpečně https://aspidos.cz/odpovidate-za-chyby-ai-chatbota/ Wed, 17 Jun 2026 07:40:50 +0000 https://aspidos.cz/?p=3306 Odpovídáte za chyby AI chatbota. Jak v podnikání nasadit umělou inteligenci bezpečně AI chatbot může podnikatelům pomoci se zákaznickou podporou, […]

Článek Odpovídáte za chyby AI chatbota. Jak v podnikání nasadit umělou inteligenci bezpečně se nejdříve objevil na ASPIDOS advokátní kancelář.

]]>

Odpovídáte za chyby AI chatbota. Jak v podnikání nasadit umělou inteligenci bezpečně

AI chatbot může podnikatelům pomoci se zákaznickou podporou, obchodem i interní administrativou. Pokud ale začne poskytovat zákazníkům nesprávné informace, podnikatel se nemůže zprostit odpovědnosti s argumentem, že odpověď vygenerovala umělá inteligence. Nedávný německý rozsudek Vrchního zemského soudu v Hammu, sp. zn. 4 UKl 3/25, ze dne 12. května 2026, který v tomto článku rozebíráme, sice není českým precedentem, ale ukazuje důležitý trend a možnou predikci, jak soudy budou postupovat. Chatbot na webu může být součástí obchodní komunikace podnikatele a jeho výstupy mohou být provozovateli webu přičitatelné.

Shrnutí pro podnikatele

  1. Podnikatel může odpovídat i za odpověď, kterou nevytvořil člověk, ale AI chatbot.
  2. Rizikové jsou hlavně odpovědi o ceně, vlastnostech produktu, kvalifikaci osob, garancích, reklamacích, dostupnosti služby a právech zákazníka.
  3. Nestačí spoléhat na to, že chatbot byl původně napojený na správná data. Důležité je jeho nastavení, omezení, testování a průběžná kontrola.
  4. AI chatbot není důvod k panice. Je ale potřeba jej zavést jako řízený právní a obchodní nástroj, ne jako experiment puštěný přímo na zákazníky.

Proč je rozsudek důležitý pro podnikatele, které chtějí používat AI

Umělá inteligence se rychle přesouvá z testování do běžného provozu podnikatelů. Chatboti komunikují se zákazníky, AI asistenti připravují obchodní odpovědi a generativní nástroje pomáhají s marketingem. Podnikatelům přinášejí úsporu času, rychlejší komunikaci a možnost odbavit více dotazů bez nutnosti zapojení člověka do každého z nich.

Právně však nejde jen o technický nástroj. Jakmile AI komunikuje se zákazníkem, může ovlivnit jeho rozhodnutí o nákupu, objednání služby, reklamaci nebo poskytnutí osobních údajů. V takové situaci se chatbot stává součástí obchodního vystupování podnikatele.

V posuzované věci soud řešil, zda podnikatel odpovídá za nepravdivé informace poskytnuté AI chatbotem na jeho webu. Závěr je zásadní: podnikatel se nemůže zbavit odpovědnosti pouhým tvrzením, že konkrétní odpověď nevytvořil člověk.

Co se v německém případě stalo?

Německá společnost poskytující estetické zákroky měla na webu AI chatbota, který odpovídal návštěvníkům a směřoval je k rezervaci termínu. Nešlo tedy o obecný informační nástroj, ale o součást zákaznické komunikace podporující prodej služeb.

Problém vznikl, když chatbot uvedl nepravdivé informace o odborné kvalifikaci dvou lékařů. Označil je za specialisty s určitými lékařskými tituly, které ve skutečnosti neměli, přičemž některá označení podle soudu ani neodpovídala existujícím odborným titulům. Spotřebitelská organizace se proto domáhala zákazu těchto tvrzení.

Společnost se bránila tím, že takovou informaci sama na webu neuvedla, chatbot byl trénován na správných datech a chyba vznikla autonomním fungováním AI. Soud tuto obranu odmítl. Rozhodující bylo, že chatbot byl nasazen na webu společnosti, komunikoval s potenciálními zákazníky a jeho odpovědi souvisely s nabízenými službami. Automatický vznik odpovědi proto nevylučuje její přičitatelnost společnosti.

Proč soud přičetl odpovědnost za odpovědi chatbota provozovateli webu

Pro podnikatele je klíčové, že soud neposuzoval chatbota jako samostatnou třetí osobu, ale jako technický prostředek využívaný k obchodním účelům. Pokud podnikatel nasadí AI do komunikace se zákazníky, odpovídá za to, jak se tento nástroj v daném kontextu projevuje.

Soud zdůraznil, že chatbot komunikoval s potenciálními zákazníky na webu podnikatele a jeho odpovědi souvisely s nabízenými službami, včetně možnosti sjednat si termín. Jeho komunikace proto představovala součást obchodního jednání.

Významné bylo také to, že podnikatel měl možnost fungování chatbota ovlivnit. Po upozornění totiž upravil jeho nastavení pomocí promptů a filtrů tak, aby na problematické dotazy neodpovídal zavádějícím způsobem. Tím se ukázalo, že podnikatel není vůči výstupům AI zcela bezmocný.

Soud odmítl i argument, že AI funguje autonomně a její odpovědi jsou obtížně vysvětlitelné. Nepředvídatelnost výstupů AI sama o sobě podnikatele odpovědnosti nezbavuje. Naopak je důvodem, proč musí nastavit pravidla používání, kontrolní mechanismy a postupy pro řešení chyb.

Znamená to, že se společnosti mají AI vyhnout?

Ne. Takový závěr by byl zbytečně defenzivní a pro řadu podnikatelů i obchodně nevýhodný. AI chatbot může být velmi užitečný při zodpovídání běžných dotazů, rezervacích, navigaci na webu nebo předávání složitějších požadavků člověku.

Problém není v používání AI, ale v jejím používání bez jasných pravidel. Riziko vzniká ve chvíli, kdy chatbot odpovídá na otázky s právním, zdravotním, finančním, technickým nebo obchodně závazným významem. Takové informace totiž mohou přímo ovlivnit rozhodování zákazníka.

Řešením proto není AI zakazovat, ale správně vymezit její roli. Podnikatel by měl určit, na co chatbot odpovídat může, na co nesmí a kdy má komunikaci předat člověku. Dobře nastavený chatbot je užitečný právě tím, že poskytuje základní informace a nepřebírá riziková rozhodnutí.

Kdy už chatbot není jen technická podpora

Hranice odpovědnosti se láme ve chvíli, kdy chatbot přestává být pouhou navigací po webu a začíná poskytovat konkrétní tvrzení o nabídce podnikatele. Jiná situace je, pokud zákazníkovi pomůže najít ceník či obchodní podmínky, a jiná, pokud sám tvrdí, že služba má určitý právní účinek, lékař určitou kvalifikaci, výrobek je vhodný pro konkrétní použití nebo že zákazník má vždy nárok na vrácení peněz.

Čím konkrétnější a přesvědčivější odpověď chatbot poskytne, tím větší je riziko, že ji zákazník bude vnímat jako sdělení podnikatele. Zvlášť pokud je chatbot přímo na jeho webu, používá jeho vizuální styl a navazuje na odpověď nabídkou rezervace, objednávky nebo kontaktu. Z pohledu zákazníka jde o komunikační kanál podnikatele, nikoli o cizí experimentální technologii.

Proto nestačí obecné upozornění, že odpovědi AI mohou být nepřesné. Může pomoci, ale samo o sobě neobstojí, pokud chatbot aktivně poskytuje zavádějící informace o podstatných vlastnostech služby. Citlivá témata má podnikatel řešit nastavením systému, ne pouze poznámkou v okně chatu.

Kde vznikají největší právní rizika při nasazení AI chatbota

Největší riziko zpravidla nevzniká u jednoduchých provozních odpovědí, jako je sdělení otevírací doby, kontaktu nebo umístění pobočky. Riziko roste ve chvíli, kdy odpověď může ovlivnit ekonomické rozhodnutí zákazníka.

U e-shopů může jít o informace o vlastnostech zboží, kompatibilitě, dostupnosti, slevách, záruce nebo vrácení zboží. U poskytovatelů služeb pak o kvalifikaci osob, cenu, rozsah služby, termín dodání nebo garantovaný výsledek. Zvýšené riziko existuje zejména u zdravotních, finančních, realitních, právních a technických služeb, kde se zákazníci spoléhají na odbornost poskytovatele.

Samostatnou kategorií jsou odpovědi, které mohou působit jako závazný příslib. Pokud chatbot sdělí, že bude uznána sleva, přijata reklamace nebo že služba zahrnuje konkrétní plnění, může se podnikatel dostat do složité situace. Zákazník totiž může oprávněně tvrdit, že jednal podle informace poskytnuté na oficiálním webu podnikatele.

Zvláštní pozornost si zaslouží také halucinace AI, tedy přesvědčivě znějící, ale fakticky nesprávné odpovědi. Zatímco při interním použití je může odhalit člověk, v zákaznickém chatu se mohou dostat přímo ke spotřebiteli. Právě proto by podnikatelé neměli riziko chybných výstupů AI podceňovat.

Stačí upozornění, že odpovědi AI nemusí být přesné?

Upozornění na využití AI má svůj význam, není však náhradou za řádné nastavení systému. Může pomoci splnit požadavky na transparentnost, ale pokud chatbot poskytuje nesprávné informace o podstatných vlastnostech služby, samotný disclaimer podnikatele pravděpodobně neochrání. To platí i tehdy, když chatbot čerpá z veřejně dostupných zdrojů. Zákazník totiž komunikuje s nástrojem na oficiálním webu podnikatele a může důvodně předpokládat, že jeho odpovědi souvisejí s obchodní nabídkou. Podle návrhu pokynů k čl. 50 AI Act musí být informace o využití AI zřejmá přímo v interakci s uživatelem.

V praxi je vhodné spojit upozornění s jasnými mantinely. Uživatel má vědět, že komunikuje s AI, a chatbot má mít vymezené oblasti, ve kterých odpovídá. U rizikových témat by měl odkázat na oficiální zdroje nebo předat dotaz člověku. Současně by měl podnikatel být schopen zpětně dohledat odpovědi chatbota a řešit případné chyby.

Právně bezpečnější není chatbot, který odpovídá na vše a upozorní, že se může mýlit. Bezpečnější je chatbot, který ví, kde má přestat.

Odpovídá dodavatel AI nástroje, nebo společnost?

Vůči zákazníkovi odpovídá podnikatel, který chatbota nasadil na svůj web a využívá jej v obchodní komunikaci. Zákazník zpravidla nemá vztah s dodavatelem AI řešení, ale komunikuje s kanálem podnikatele. Může proto důvodně očekávat, že informace získané v chatu souvisejí s jeho nabídkou.

Odpověď chatbota tak může být podnikateli přičitatelná. U případné nekalé obchodní praktiky nebude rozhodující, kdo napsal kód, připravil prompt nebo dodal model. Podstatné je, že chatbot vystupoval na oficiálním webu podnikatele, v souvislosti s jeho produkty či službami, a mohl ovlivnit rozhodnutí zákazníka.

Dodavatel AI řešení může nést odpovědnost vůči podnikateli, zpravidla podle jejich smlouvy. Navenek vůči zákazníkovi podnikatele automaticky nezbaví odpovědnosti to, že chatbot dodal nebo technicky nastavil někdo jiný.

Jak nasadit AI chatbota bezpečně

Bezpečné nasazení AI chatbota začíná tím, že si podnikatel vyjasní, k čemu má chatbot sloužit a o čem naopak rozhodovat nesmí. Jiné požadavky platí pro zákaznickou podporu, jiné pro nástroje poskytující právní, finanční nebo odborná doporučení.

Následně je třeba identifikovat riziková témata, zejména cenu, smluvní podmínky, reklamace, garance, zdravotní tvrzení, technickou kompatibilitu nebo kvalifikaci konkrétních osob. Tyto oblasti je nutné důkladně testovat, včetně hraničních a rizikových situací, se kterými se zákazníci běžně setkávají.

Důležitou součástí je také lidská kontrola. U některých témat by chatbot neměl odpovídat vůbec a měl by dotaz předat člověku. Nejde o slabinu systému, ale o správně nastavenou hranici odpovědnosti. AI má podnikateli pomáhat, nikoli vytvářet závazky, které nemá pod kontrolou.

Jak do toho vstupuje AI Act, GDPR a práva spotřebitele

Rozsudek německého soudu vychází z pravidel proti klamavému obchodnímu jednání, české podnikatele však upozorňuje i na širší právní souvislosti. AI Act nenahrazuje GDPR ani spotřebitelské právo – podnikatel musí posuzovat všechny tyto režimy současně.

U zákaznických chatbotů je podle AI Act klíčová zejména transparentnost. Uživatel musí být jasně informován, že komunikuje s AI, a to nejpozději při první interakci. Informace přitom nemá být skryta pouze v obchodních podmínkách nebo dokumentaci.

GDPR se uplatní ve chvíli, kdy chatbot zpracovává osobní údaje, například jméno, e-mail, telefon, číslo objednávky nebo zdravotní informace. Podnikatel pak musí řešit zákonnost zpracování, informační povinnosti, dobu uchování dat i vztah s dodavatelem technologie.

Spotřebitelské právo a pravidla nekalé soutěže dopadají na samotný obsah odpovědí. Pokud chatbot poskytne nepravdivou nebo zavádějící informaci, může vzniknout právní problém i bez porušení GDPR. Proto je nutné propojit technické, datové, smluvní i obchodní nastavení do jednoho funkčního rámce.

Může být zákaznický chatbot vysoce rizikovým AI systémem a co by to případně znamenalo?

Běžný zákaznický chatbot zpravidla nebude považován za vysoce rizikový AI systém podle AI Act. Nejčastěji se na něj budou vztahovat požadavky na transparentnost podle čl. 50 AI Act, tedy povinnost informovat uživatele, že komunikuje s AI.

Situace se však může změnit podle účelu použití. Pokud AI rozhoduje nebo významně ovlivňuje rozhodování v citlivých oblastech, jako je zaměstnání, vzdělávání, úvěry nebo přístup k určitým službám, může být posouzena jako vysoce rizikový systém podle AI Act.

V takovém případě by se uplatnily podstatně přísnější povinnosti, včetně řízení rizik, dokumentace, lidského dohledu, kontroly kvality dat, vedení záznamů či požadavků na přesnost a kybernetickou bezpečnost. Nejde již o otázku jednoduchého upozornění uživateli, ale o komplexní compliance celého systému.

Pro podnikatele z toho plyne jediné: nelze posuzovat pouze to, že jde o „chatbota“, ale především k čemu slouží a zda jeho výstupy mohou ovlivnit práva, povinnosti nebo důležitá rozhodnutí konkrétních osob.

Praktické situace, ve kterých si společnosti musí dát pozor

U e-shopů může chatbot nesprávně uvést vlastnosti výrobku, jeho kompatibilitu nebo podmínky vrácení zboží. Pokud zákazník nakoupí na základě takové informace, může podnikatel nést odpovědnost, i když šlo o odpověď AI.

U poradenských, zdravotních nebo odborných služeb může chatbot mylně prezentovat kvalifikaci odborníků nebo vytvářet dojem garantovaného výsledku. Takové informace mohou zásadně ovlivnit rozhodnutí zákazníka službu objednat.

Zvláštní opatrnost je nutná u realitních, zdravotních a finančních služeb, kde zákazníci odpovědím často přikládají vysokou váhu. Chatbot by zde neměl poskytovat individuální doporučení bez lidské kontroly, ale spíše odkázat na odborníka.

Rizika existují i v B2B vztazích, kde chatbot může nesprávně slíbit cenu, termín dodání nebo technickou kompatibilitu. Obecně platí, že pokud chatbot nemá pro odpověď spolehlivý podklad, je bezpečnější dotaz předat člověku než poskytnout přesvědčivou, ale chybnou odpověď.

Checklist před spuštěním AI chatbota

Před spuštěním AI chatbota by si společnost měla odpovědět alespoň na tyto otázky:

  1. Víme přesně, k čemu má chatbot sloužit
  2. Máme určeno, na která témata odpovídat nesmí
  3. Máme připravené bezpečné odpovědi na rizikové dotazy
  4. Testovali jsme běžné i nepříjemné otázky zákazníků
  5. Umí chatbot předat složitější dotaz člověku
  6. Informujeme uživatele, že komunikuje s AI
  7. Víme, jak chatbot pracuje s osobními údaji
  8. Máme smluvně ošetřeného dodavatele AI řešení
  9. Máme vyřešenou informační povinnost podle AI Act
  10. Máme zpracovatelskou smlouvu a pravidla pro GDPR
  11. Umíme zpětně dohledat problematickou komunikaci
  12. Víme, kdo odpovídá za opravu chybných odpovědí chatbota
  13. Máme postup pro opravu chyby a reakci na stížnost

Tento checklist není jen formalita. Je to praktická ochrana společnosti. Když nastane problém, bude důležité ukázat, že společnost AI nástroj nenasadila bez rozmyslu, ale přijala přiměřená opatření k omezení rizik.

FAQ

Odpovídá podnikatel za odpovědi AI chatbota na webu?
Ano, s tímto rizikem musí počítat. Pokud chatbot komunikuje se zákazníky v souvislosti s nabídkou produktů nebo služeb, jeho odpovědi mohou být vnímány jako součást obchodní komunikace podnikatele.

Stačí napsat, že odpovědi AI nemusí být přesné?
Ne. Upozornění je vhodné, ale samo o sobě nestačí. Podnikatel musí nastavit hranice použití chatbota, testovat rizikové dotazy a zajistit, aby citlivé otázky předával člověku.

Musí zákazník vědět, že komunikuje s AI?
U zákaznického chatbota zpravidla ano. Podle čl. 50 AI Act má být uživatel informován, že komunikuje s AI systémem, pokud to není z okolností zjevné. Informace má být jasná a dostupná nejpozději při první interakci.

Je běžný chatbot vysoce rizikový systém podle AI Act?
Obvykle ne. Běžný zákaznický chatbot bude typicky řešit hlavně transparentnost podle čl. 50 AI Act. Pokud by ale ovlivňoval rozhodování v citlivých oblastech, například zaměstnávání, úvěry, vzdělávání nebo přístup k důležitým službám, je potřeba posoudit i čl. 6 AI Act.

Co má podnikatel udělat před spuštěním AI chatbota?
Měl by určit účel chatbota, riziková témata, zakázané odpovědi, způsob předání člověku, pravidla pro GDPR, informační povinnost podle AI Act a smluvní odpovědnost dodavatele.

Co si z toho má společnost odnést před nasazením AI chatbota?

Německý rozsudek není varováním před umělou inteligencí, ale před jejím neuváženým nasazením. Podnikatel musí počítat s tím, že výstupy AI chatbota mohou být posuzovány jako jeho vlastní obchodní komunikace.

Dobrou zprávou je, že většinu rizik lze výrazně omezit správným nastavením systému, testováním, lidskou kontrolou, transparentním informováním uživatelů a odpovídajícím nastavením GDPR i smluvních vztahů s dodavatelem.

Plánujete nasadit AI chatbota nebo jiný AI nástroj? ASPIDOS vám pomůže nastavit právní mantinely, smluvní dokumentaci, GDPR režim i pravidla odpovědnosti tak, aby AI podporovala vaše podnikání, nikoli vytvářela nová právní rizika.

Zdroje:
Oberlandesgericht Hamm, rozsudek ze dne 12. května 2026, sp. zn. 4 UKl 3/25.

Evropská komise, návrh pokynů k transparentnostním povinnostem podle čl. 50 AI Act ze dne 8. května 2026.

Evropská komise, návrh pokynů ke klasifikaci vysoce rizikových AI systémů podle čl. 6 AI Act ze dne 19. května 2026.

AI Act Service Desk, čl. 50 AI Act.

AI Act Service Desk, čl. 6 AI Act.

Směrnice 2005/29/ES o nekalých obchodních praktikách.

GDPR, nařízení 2016/679.

Petr Prucek, paralegal

Mgr. Alexandr Liolias, advokát , partner

Podobné články

Článek Odpovídáte za chyby AI chatbota. Jak v podnikání nasadit umělou inteligenci bezpečně se nejdříve objevil na ASPIDOS advokátní kancelář.

]]> Odpovědnost za algoritmy a manipulativní AI: co dnes skutečně hrozí podnikatelům https://aspidos.cz/odpovednost-za-algoritmy-a-manipulativni-ai-co-dnes-skutecne-hrozi-podnikatelum/ Wed, 29 Apr 2026 08:24:39 +0000 https://aspidos.cz/?p=3071 Odpovědnost za algoritmy a manipulativní AI: co dnes skutečně hrozí podnikatelům Debata o odpovědnosti za algoritmy se často otevírá na příkladech z USA, kde jsou technologické společnosti žalovány až ve

Článek Odpovědnost za algoritmy a manipulativní AI: co dnes skutečně hrozí podnikatelům se nejdříve objevil na ASPIDOS advokátní kancelář.

]]>

Odpovědnost za algoritmy a manipulativní AI: co dnes skutečně hrozí podnikatelům

Debata o odpovědnosti za algoritmy se často otevírá na příkladech z USA, kde jsou technologické společnosti žalovány až ve chvíli, kdy dojde ke konkrétní újmě. Typicky jde o spory týkající se doporučovacích systémů, závislostního designu nebo vlivu digitálních služeb na psychické zdraví uživatelů.

Evropský přístup je odlišný. Nestaví primárně na následném vymáhání škody, ale na prevenci. Regulace se snaží rizikovému chování předcházet ještě předtím, než vznikne problém.

Pro podnikatele to znamená jediné: odpovědnost za algoritmy se řeší už při jejich návrhu a nasazení, nikoli až ve sporu.

Evropa: regulace místo sporů

Zatímco americký model je postavený na soudních sporech, Evropská unie pracuje s kombinací:

  • předběžných pravidel (compliance),
  • průběžného dohledu,
  • vysokých sankcí za porušení.

Klíčovou roli hrají zejména dva předpisy:

  • Akt o digitálních službách (DSA),
  • Akt o umělé inteligenci (AI Act).

Každý z nich dopadá na jinou část digitálního prostředí, dohromady však vytvářejí relativně přísný regulační rámec.

Manipulativní design pod drobnohledem (DSA)

DSA se zaměřuje především na fungování online platforem a jejich uživatelská rozhraní.

Jedním z jeho klíčových prvků je zákaz tzv. „temných vzorců“ (dark patterns). Jde o takové nastavení rozhraní, které má uživatele manipulovat nebo ovlivnit jeho rozhodování.

Typicky se jedná například o:

  • znevýhodnění možnosti odmítnout cookies,
  • nejasné nebo klamavé tlačítko pro zrušení služby,
  • automatické přidávání služeb do košíku,
  • záměrné komplikování odhlášení nebo ukončení předplatného.

Regulace však nekončí u designu. Velké platformy mají povinnost:

  • pravidelně vyhodnocovat systémová rizika,
  • provádět nezávislé audity,
  • transparentně popisovat fungování svých algoritmů.

To zahrnuje i posouzení dopadů na duševní zdraví uživatelů nebo šíření škodlivého obsahu.

AI Act: kde je hranice zakázaného

Zatímco DSA řeší prostředí, AI Act míří přímo na samotné systémy umělé inteligence.

Zcela zásadní je, že některé praktiky jsou v EU přímo zakázány.

Patří mezi ně zejména:

Podprahové nebo manipulativní techniky. Systémy, které ovlivňují chování uživatele způsobem, který si uživatel neuvědomuje, a které mohou vést k jeho újmě.

Zneužívání zranitelnosti. Algoritmy cílené na osoby ve zranitelném postavení (např. děti, senioři nebo osoby v tíživé situaci), pokud mají manipulativní charakter.

Rozpoznávání emocí v citlivých kontextech. Například na pracovišti nebo ve vzdělávání, pokud má být využito k hodnocení osob.

Sociální scoring. Hodnocení důvěryhodnosti osob na základě jejich chování, pokud vede k nepřiměřenému znevýhodnění.

Klíčové je, že regulace nepostihuje jen vývojáře těchto systémů, ale i jejich nasazení v praxi.

Odpovědnost nekončí u vývojáře

Z pohledu evropského práva není rozhodující, kdo algoritmus vytvořil, ale kdo jej používá.

To znamená, že odpovědnost může dopadat i na:

  • provozovatele e-shopu využívajícího doporučovací algoritmy,
  • zaměstnavatele nasazujícího AI pro hodnocení zaměstnanců,
  • platformy pracující s personalizovaným obsahem.

Jinými slovy: i běžná firma může nést odpovědnost za to, jak algoritmus ovlivňuje chování jejích uživatelů.

Dohled a sankce

V České republice vykonává dohled více orgánů v závislosti na konkrétní oblasti:

  • Český telekomunikační úřad (DSA),
  • vícero dozorových orgánů nad trhem (AI Act),
  • Úřad pro ochranu osobních údajů (GDPR).

Tyto orgány mají rozsáhlé pravomoci, včetně možnosti:

  • požadovat dokumentaci a interní analýzy,
  • kontrolovat fungování systémů,
  • nařizovat nápravná opatření.

Sankce mohou dosahovat až:

  • 6 % celosvětového obratu (DSA),
  • 7 % celosvětového obratu nebo desítek milionů eur (AI Act).

Co to znamená pro vaši společnost?

Regulace umělé inteligence se netýká jen technologických gigantů. Dopadá i na podnikatele, kteří:

  • provozují e-shop nebo online platformu,
  • pracují s personalizací obsahu,
  • využívají automatizované rozhodování,
  • zavádějí AI nástroje do interních procesů.

Zásadní otázka dnes nezní, zda AI používáte, ale jakým způsobem ovlivňuje chování vašich uživatelů nebo zaměstnanců.

Závěr

Evropský přístup k umělé inteligenci stojí na prevenci. Nečeká se na vznik škody, ale reguluje se už samotný návrh a fungování systémů.

Pro podnikatele to znamená posun v odpovědnosti: nejen za to, co jejich produkty dělají, ale i za to, jak ovlivňují rozhodování lidí.

Pokud využíváte algoritmy nebo zvažujete jejich nasazení, je vhodné tuto oblast řešit včas. Správně nastavený systém vám může ušetřit nejen regulatorní rizika, ale i reputační dopady.

V ASPIDOS vám pomůžeme identifikovat rizika a nastavit řešení, které bude odpovídat evropským pravidlům i vaší obchodní realitě.

ASPIDOS advokátní kancelář s.r.o.

Petr Prucek, paralegal

Mgr. Alexandr Liolias, advokát, partner

Navrhované články

Článek Odpovědnost za algoritmy a manipulativní AI: co dnes skutečně hrozí podnikatelům se nejdříve objevil na ASPIDOS advokátní kancelář.

]]>