Odpovídáte za chyby AI chatbota. Jak v podnikání nasadit umělou inteligenci bezpečně
AI chatbot může podnikatelům pomoci se zákaznickou podporou, obchodem i interní administrativou. Pokud ale začne poskytovat zákazníkům nesprávné informace, podnikatel se nemůže zprostit odpovědnosti s argumentem, že odpověď vygenerovala umělá inteligence. Nedávný německý rozsudek Vrchního zemského soudu v Hammu, sp. zn. 4 UKl 3/25, ze dne 12. května 2026, který v tomto článku rozebíráme, sice není českým precedentem, ale ukazuje důležitý trend a možnou predikci, jak soudy budou postupovat. Chatbot na webu může být součástí obchodní komunikace podnikatele a jeho výstupy mohou být provozovateli webu přičitatelné.
Shrnutí pro podnikatele
- Podnikatel může odpovídat i za odpověď, kterou nevytvořil člověk, ale AI chatbot.
- Rizikové jsou hlavně odpovědi o ceně, vlastnostech produktu, kvalifikaci osob, garancích, reklamacích, dostupnosti služby a právech zákazníka.
- Nestačí spoléhat na to, že chatbot byl původně napojený na správná data. Důležité je jeho nastavení, omezení, testování a průběžná kontrola.
- AI chatbot není důvod k panice. Je ale potřeba jej zavést jako řízený právní a obchodní nástroj, ne jako experiment puštěný přímo na zákazníky.
Proč je rozsudek důležitý pro podnikatele, které chtějí používat AI
Umělá inteligence se rychle přesouvá z testování do běžného provozu podnikatelů. Chatboti komunikují se zákazníky, AI asistenti připravují obchodní odpovědi a generativní nástroje pomáhají s marketingem. Podnikatelům přinášejí úsporu času, rychlejší komunikaci a možnost odbavit více dotazů bez nutnosti zapojení člověka do každého z nich.
Právně však nejde jen o technický nástroj. Jakmile AI komunikuje se zákazníkem, může ovlivnit jeho rozhodnutí o nákupu, objednání služby, reklamaci nebo poskytnutí osobních údajů. V takové situaci se chatbot stává součástí obchodního vystupování podnikatele.
V posuzované věci soud řešil, zda podnikatel odpovídá za nepravdivé informace poskytnuté AI chatbotem na jeho webu. Závěr je zásadní: podnikatel se nemůže zbavit odpovědnosti pouhým tvrzením, že konkrétní odpověď nevytvořil člověk.
Co se v německém případě stalo?
Německá společnost poskytující estetické zákroky měla na webu AI chatbota, který odpovídal návštěvníkům a směřoval je k rezervaci termínu. Nešlo tedy o obecný informační nástroj, ale o součást zákaznické komunikace podporující prodej služeb.
Problém vznikl, když chatbot uvedl nepravdivé informace o odborné kvalifikaci dvou lékařů. Označil je za specialisty s určitými lékařskými tituly, které ve skutečnosti neměli, přičemž některá označení podle soudu ani neodpovídala existujícím odborným titulům. Spotřebitelská organizace se proto domáhala zákazu těchto tvrzení.
Společnost se bránila tím, že takovou informaci sama na webu neuvedla, chatbot byl trénován na správných datech a chyba vznikla autonomním fungováním AI. Soud tuto obranu odmítl. Rozhodující bylo, že chatbot byl nasazen na webu společnosti, komunikoval s potenciálními zákazníky a jeho odpovědi souvisely s nabízenými službami. Automatický vznik odpovědi proto nevylučuje její přičitatelnost společnosti.
Proč soud přičetl odpovědnost za odpovědi chatbota provozovateli webu
Pro podnikatele je klíčové, že soud neposuzoval chatbota jako samostatnou třetí osobu, ale jako technický prostředek využívaný k obchodním účelům. Pokud podnikatel nasadí AI do komunikace se zákazníky, odpovídá za to, jak se tento nástroj v daném kontextu projevuje.
Soud zdůraznil, že chatbot komunikoval s potenciálními zákazníky na webu podnikatele a jeho odpovědi souvisely s nabízenými službami, včetně možnosti sjednat si termín. Jeho komunikace proto představovala součást obchodního jednání.
Významné bylo také to, že podnikatel měl možnost fungování chatbota ovlivnit. Po upozornění totiž upravil jeho nastavení pomocí promptů a filtrů tak, aby na problematické dotazy neodpovídal zavádějícím způsobem. Tím se ukázalo, že podnikatel není vůči výstupům AI zcela bezmocný.
Soud odmítl i argument, že AI funguje autonomně a její odpovědi jsou obtížně vysvětlitelné. Nepředvídatelnost výstupů AI sama o sobě podnikatele odpovědnosti nezbavuje. Naopak je důvodem, proč musí nastavit pravidla používání, kontrolní mechanismy a postupy pro řešení chyb.
Znamená to, že se společnosti mají AI vyhnout?
Ne. Takový závěr by byl zbytečně defenzivní a pro řadu podnikatelů i obchodně nevýhodný. AI chatbot může být velmi užitečný při zodpovídání běžných dotazů, rezervacích, navigaci na webu nebo předávání složitějších požadavků člověku.
Problém není v používání AI, ale v jejím používání bez jasných pravidel. Riziko vzniká ve chvíli, kdy chatbot odpovídá na otázky s právním, zdravotním, finančním, technickým nebo obchodně závazným významem. Takové informace totiž mohou přímo ovlivnit rozhodování zákazníka.
Řešením proto není AI zakazovat, ale správně vymezit její roli. Podnikatel by měl určit, na co chatbot odpovídat může, na co nesmí a kdy má komunikaci předat člověku. Dobře nastavený chatbot je užitečný právě tím, že poskytuje základní informace a nepřebírá riziková rozhodnutí.
Kdy už chatbot není jen technická podpora
Hranice odpovědnosti se láme ve chvíli, kdy chatbot přestává být pouhou navigací po webu a začíná poskytovat konkrétní tvrzení o nabídce podnikatele. Jiná situace je, pokud zákazníkovi pomůže najít ceník či obchodní podmínky, a jiná, pokud sám tvrdí, že služba má určitý právní účinek, lékař určitou kvalifikaci, výrobek je vhodný pro konkrétní použití nebo že zákazník má vždy nárok na vrácení peněz.
Čím konkrétnější a přesvědčivější odpověď chatbot poskytne, tím větší je riziko, že ji zákazník bude vnímat jako sdělení podnikatele. Zvlášť pokud je chatbot přímo na jeho webu, používá jeho vizuální styl a navazuje na odpověď nabídkou rezervace, objednávky nebo kontaktu. Z pohledu zákazníka jde o komunikační kanál podnikatele, nikoli o cizí experimentální technologii.
Proto nestačí obecné upozornění, že odpovědi AI mohou být nepřesné. Může pomoci, ale samo o sobě neobstojí, pokud chatbot aktivně poskytuje zavádějící informace o podstatných vlastnostech služby. Citlivá témata má podnikatel řešit nastavením systému, ne pouze poznámkou v okně chatu.
Kde vznikají největší právní rizika při nasazení AI chatbota
Největší riziko zpravidla nevzniká u jednoduchých provozních odpovědí, jako je sdělení otevírací doby, kontaktu nebo umístění pobočky. Riziko roste ve chvíli, kdy odpověď může ovlivnit ekonomické rozhodnutí zákazníka.
U e-shopů může jít o informace o vlastnostech zboží, kompatibilitě, dostupnosti, slevách, záruce nebo vrácení zboží. U poskytovatelů služeb pak o kvalifikaci osob, cenu, rozsah služby, termín dodání nebo garantovaný výsledek. Zvýšené riziko existuje zejména u zdravotních, finančních, realitních, právních a technických služeb, kde se zákazníci spoléhají na odbornost poskytovatele.
Samostatnou kategorií jsou odpovědi, které mohou působit jako závazný příslib. Pokud chatbot sdělí, že bude uznána sleva, přijata reklamace nebo že služba zahrnuje konkrétní plnění, může se podnikatel dostat do složité situace. Zákazník totiž může oprávněně tvrdit, že jednal podle informace poskytnuté na oficiálním webu podnikatele.
Zvláštní pozornost si zaslouží také halucinace AI, tedy přesvědčivě znějící, ale fakticky nesprávné odpovědi. Zatímco při interním použití je může odhalit člověk, v zákaznickém chatu se mohou dostat přímo ke spotřebiteli. Právě proto by podnikatelé neměli riziko chybných výstupů AI podceňovat.
Stačí upozornění, že odpovědi AI nemusí být přesné?
Upozornění na využití AI má svůj význam, není však náhradou za řádné nastavení systému. Může pomoci splnit požadavky na transparentnost, ale pokud chatbot poskytuje nesprávné informace o podstatných vlastnostech služby, samotný disclaimer podnikatele pravděpodobně neochrání. To platí i tehdy, když chatbot čerpá z veřejně dostupných zdrojů. Zákazník totiž komunikuje s nástrojem na oficiálním webu podnikatele a může důvodně předpokládat, že jeho odpovědi souvisejí s obchodní nabídkou. Podle návrhu pokynů k čl. 50 AI Act musí být informace o využití AI zřejmá přímo v interakci s uživatelem.
V praxi je vhodné spojit upozornění s jasnými mantinely. Uživatel má vědět, že komunikuje s AI, a chatbot má mít vymezené oblasti, ve kterých odpovídá. U rizikových témat by měl odkázat na oficiální zdroje nebo předat dotaz člověku. Současně by měl podnikatel být schopen zpětně dohledat odpovědi chatbota a řešit případné chyby.
Právně bezpečnější není chatbot, který odpovídá na vše a upozorní, že se může mýlit. Bezpečnější je chatbot, který ví, kde má přestat.
Odpovídá dodavatel AI nástroje, nebo společnost?
Vůči zákazníkovi odpovídá podnikatel, který chatbota nasadil na svůj web a využívá jej v obchodní komunikaci. Zákazník zpravidla nemá vztah s dodavatelem AI řešení, ale komunikuje s kanálem podnikatele. Může proto důvodně očekávat, že informace získané v chatu souvisejí s jeho nabídkou.
Odpověď chatbota tak může být podnikateli přičitatelná. U případné nekalé obchodní praktiky nebude rozhodující, kdo napsal kód, připravil prompt nebo dodal model. Podstatné je, že chatbot vystupoval na oficiálním webu podnikatele, v souvislosti s jeho produkty či službami, a mohl ovlivnit rozhodnutí zákazníka.
Dodavatel AI řešení může nést odpovědnost vůči podnikateli, zpravidla podle jejich smlouvy. Navenek vůči zákazníkovi podnikatele automaticky nezbaví odpovědnosti to, že chatbot dodal nebo technicky nastavil někdo jiný.
Jak nasadit AI chatbota bezpečně
Bezpečné nasazení AI chatbota začíná tím, že si podnikatel vyjasní, k čemu má chatbot sloužit a o čem naopak rozhodovat nesmí. Jiné požadavky platí pro zákaznickou podporu, jiné pro nástroje poskytující právní, finanční nebo odborná doporučení.
Následně je třeba identifikovat riziková témata, zejména cenu, smluvní podmínky, reklamace, garance, zdravotní tvrzení, technickou kompatibilitu nebo kvalifikaci konkrétních osob. Tyto oblasti je nutné důkladně testovat, včetně hraničních a rizikových situací, se kterými se zákazníci běžně setkávají.
Důležitou součástí je také lidská kontrola. U některých témat by chatbot neměl odpovídat vůbec a měl by dotaz předat člověku. Nejde o slabinu systému, ale o správně nastavenou hranici odpovědnosti. AI má podnikateli pomáhat, nikoli vytvářet závazky, které nemá pod kontrolou.
Jak do toho vstupuje AI Act, GDPR a práva spotřebitele
Rozsudek německého soudu vychází z pravidel proti klamavému obchodnímu jednání, české podnikatele však upozorňuje i na širší právní souvislosti. AI Act nenahrazuje GDPR ani spotřebitelské právo – podnikatel musí posuzovat všechny tyto režimy současně.
U zákaznických chatbotů je podle AI Act klíčová zejména transparentnost. Uživatel musí být jasně informován, že komunikuje s AI, a to nejpozději při první interakci. Informace přitom nemá být skryta pouze v obchodních podmínkách nebo dokumentaci.
GDPR se uplatní ve chvíli, kdy chatbot zpracovává osobní údaje, například jméno, e-mail, telefon, číslo objednávky nebo zdravotní informace. Podnikatel pak musí řešit zákonnost zpracování, informační povinnosti, dobu uchování dat i vztah s dodavatelem technologie.
Spotřebitelské právo a pravidla nekalé soutěže dopadají na samotný obsah odpovědí. Pokud chatbot poskytne nepravdivou nebo zavádějící informaci, může vzniknout právní problém i bez porušení GDPR. Proto je nutné propojit technické, datové, smluvní i obchodní nastavení do jednoho funkčního rámce.
Může být zákaznický chatbot vysoce rizikovým AI systémem a co by to případně znamenalo?
Běžný zákaznický chatbot zpravidla nebude považován za vysoce rizikový AI systém podle AI Act. Nejčastěji se na něj budou vztahovat požadavky na transparentnost podle čl. 50 AI Act, tedy povinnost informovat uživatele, že komunikuje s AI.
Situace se však může změnit podle účelu použití. Pokud AI rozhoduje nebo významně ovlivňuje rozhodování v citlivých oblastech, jako je zaměstnání, vzdělávání, úvěry nebo přístup k určitým službám, může být posouzena jako vysoce rizikový systém podle AI Act.
V takovém případě by se uplatnily podstatně přísnější povinnosti, včetně řízení rizik, dokumentace, lidského dohledu, kontroly kvality dat, vedení záznamů či požadavků na přesnost a kybernetickou bezpečnost. Nejde již o otázku jednoduchého upozornění uživateli, ale o komplexní compliance celého systému.
Pro podnikatele z toho plyne jediné: nelze posuzovat pouze to, že jde o „chatbota“, ale především k čemu slouží a zda jeho výstupy mohou ovlivnit práva, povinnosti nebo důležitá rozhodnutí konkrétních osob.
Praktické situace, ve kterých si společnosti musí dát pozor
U e-shopů může chatbot nesprávně uvést vlastnosti výrobku, jeho kompatibilitu nebo podmínky vrácení zboží. Pokud zákazník nakoupí na základě takové informace, může podnikatel nést odpovědnost, i když šlo o odpověď AI.
U poradenských, zdravotních nebo odborných služeb může chatbot mylně prezentovat kvalifikaci odborníků nebo vytvářet dojem garantovaného výsledku. Takové informace mohou zásadně ovlivnit rozhodnutí zákazníka službu objednat.
Zvláštní opatrnost je nutná u realitních, zdravotních a finančních služeb, kde zákazníci odpovědím často přikládají vysokou váhu. Chatbot by zde neměl poskytovat individuální doporučení bez lidské kontroly, ale spíše odkázat na odborníka.
Rizika existují i v B2B vztazích, kde chatbot může nesprávně slíbit cenu, termín dodání nebo technickou kompatibilitu. Obecně platí, že pokud chatbot nemá pro odpověď spolehlivý podklad, je bezpečnější dotaz předat člověku než poskytnout přesvědčivou, ale chybnou odpověď.
Checklist před spuštěním AI chatbota
Před spuštěním AI chatbota by si společnost měla odpovědět alespoň na tyto otázky:
- Víme přesně, k čemu má chatbot sloužit
- Máme určeno, na která témata odpovídat nesmí
- Máme připravené bezpečné odpovědi na rizikové dotazy
- Testovali jsme běžné i nepříjemné otázky zákazníků
- Umí chatbot předat složitější dotaz člověku
- Informujeme uživatele, že komunikuje s AI
- Víme, jak chatbot pracuje s osobními údaji
- Máme smluvně ošetřeného dodavatele AI řešení
- Máme vyřešenou informační povinnost podle AI Act
- Máme zpracovatelskou smlouvu a pravidla pro GDPR
- Umíme zpětně dohledat problematickou komunikaci
- Víme, kdo odpovídá za opravu chybných odpovědí chatbota
- Máme postup pro opravu chyby a reakci na stížnost
Tento checklist není jen formalita. Je to praktická ochrana společnosti. Když nastane problém, bude důležité ukázat, že společnost AI nástroj nenasadila bez rozmyslu, ale přijala přiměřená opatření k omezení rizik.
FAQ
Odpovídá podnikatel za odpovědi AI chatbota na webu?
Ano, s tímto rizikem musí počítat. Pokud chatbot komunikuje se zákazníky v souvislosti s nabídkou produktů nebo služeb, jeho odpovědi mohou být vnímány jako součást obchodní komunikace podnikatele.
Stačí napsat, že odpovědi AI nemusí být přesné?
Ne. Upozornění je vhodné, ale samo o sobě nestačí. Podnikatel musí nastavit hranice použití chatbota, testovat rizikové dotazy a zajistit, aby citlivé otázky předával člověku.
Musí zákazník vědět, že komunikuje s AI?
U zákaznického chatbota zpravidla ano. Podle čl. 50 AI Act má být uživatel informován, že komunikuje s AI systémem, pokud to není z okolností zjevné. Informace má být jasná a dostupná nejpozději při první interakci.
Je běžný chatbot vysoce rizikový systém podle AI Act?
Obvykle ne. Běžný zákaznický chatbot bude typicky řešit hlavně transparentnost podle čl. 50 AI Act. Pokud by ale ovlivňoval rozhodování v citlivých oblastech, například zaměstnávání, úvěry, vzdělávání nebo přístup k důležitým službám, je potřeba posoudit i čl. 6 AI Act.
Co má podnikatel udělat před spuštěním AI chatbota?
Měl by určit účel chatbota, riziková témata, zakázané odpovědi, způsob předání člověku, pravidla pro GDPR, informační povinnost podle AI Act a smluvní odpovědnost dodavatele.
Co si z toho má společnost odnést před nasazením AI chatbota?
Německý rozsudek není varováním před umělou inteligencí, ale před jejím neuváženým nasazením. Podnikatel musí počítat s tím, že výstupy AI chatbota mohou být posuzovány jako jeho vlastní obchodní komunikace.
Dobrou zprávou je, že většinu rizik lze výrazně omezit správným nastavením systému, testováním, lidskou kontrolou, transparentním informováním uživatelů a odpovídajícím nastavením GDPR i smluvních vztahů s dodavatelem.
Plánujete nasadit AI chatbota nebo jiný AI nástroj? ASPIDOS vám pomůže nastavit právní mantinely, smluvní dokumentaci, GDPR režim i pravidla odpovědnosti tak, aby AI podporovala vaše podnikání, nikoli vytvářela nová právní rizika.
Petr Prucek, paralegal
Mgr. Alexandr Liolias, advokát , partner