Generativní umělá inteligence se rychle stává běžnou součástí obchodní strategie společností. Podnikatelé ji nasazují na e-shopech, v mobilních aplikacích i v zákaznických zónách. Chatboti stále častěji fungují jako první linie zákaznické podpory, produktoví poradci nebo nástroje pro zodpovězení dotazů.
Z obchodního pohledu jde o pochopitelnou volbu. Chatbot je dostupný nepřetržitě a zvládne vysoký počet interakcí. Problém vzniká ve chvíli, kdy poskytne nesprávnou odpověď. Z pohledu spotřebitele totiž nejde o abstraktní technologický výstup. Spotřebitel komunikuje na webu nebo v aplikaci podnikatele. Pokud podnikatel chatbota zařadí do nákupní cesty, spotřebitel jeho odpověď zpravidla vnímá jako sdělení podnikatele a dále nerozlišuje, zda informaci vytvořil zaměstnanec, automatizované pravidlo, produktová databáze nebo jazykový model.
Tento pohled odpovídá i evropským spotřebitelským materiálům. Evropská síť spotřebitelských center ve stanovisku k digital fairness upozorňuje, že spotřebitelé jsou v praxi často nuceni komunikovat s obchodníkem prostřednictvím formulářů nebo právě chatbotů. U chatbotů zmiňuje riziko irelevantních odpovědí, neporozumění dotazu a nedostatečně konkrétní pomoci. Podobně např. nizozemské dozorové orgány ve společném stanovisku k AI chatbotům upozornily, že spotřebitel se může dostat do situace, kdy komunikuje s jedním chatbotem za druhým, aniž je mu zřejmé, zda jedná se zaměstnancem nebo se strojem. Tyto orgány akcentují, že chatbot mluví jménem organizace. Podnikatel by proto měl mít kontrolu nad informacemi, které chatbot poskytuje, a nesprávné nebo matoucí odpovědi by mělo být možné jednoduše napravit prostřednictvím lidského kontaktu.
Relevantní otázka tedy nestojí tak, zda může generativní AI chybovat. To je zřejmé. Podstatné je, kdo nese následky, pokud se AI chatbot splete v obchodní komunikaci se spotřebitelem. Dostupná zahraniční judikatura směřuje k závěru, že toto riziko ponese podnikatel, který chatbota použil jako součást své zákaznické komunikace.
Moffatt v. Air Canada
Prvním relevantním rozhodnutím je kanadská věc Moffatt v. Air Canada z roku 2024. Jedná se sice o anglosaský právní systém, ale rozhodnutí považujeme za významné, protože řeší typovou situaci dobře přenositelnou i do českého prostředí. Věc rozhodoval Civil Resolution Tribunal v Britské Kolumbii, tedy orgán určený k rychlému, dostupnému a méně formálnímu řešení civilních sporů.
Zákazník Air Canada po úmrtí babičky hledal letenku a prostřednictvím chatbota na webu získal informaci, že o zvýhodněné jízdné z důvodu úmrtí v rodině může požádat i zpětně po cestě, pokud žádost podá do 90 dnů. Podle této informace postupoval. Později však zjistil, že Air Canada zpětné uplatnění takového tarifu po uskutečnění cesty nepřipouštěla. Správná informace byla uvedena na jiné části webu.
Air Canada namítala, že nemůže odpovídat za informaci poskytnutou chatbotem. Civil Resolution Tribunal tuto obranu odmítl. Podle rozhodnutí společnost v podstatě tvrdila, že chatbot je samostatnou právní entitou odpovědnou za své vlastní jednání. Takový argument rozhodující orgán označil za mimořádný. Chatbot byl součástí webu Air Canada. Nebylo rozhodné, zda nesprávná informace pocházela ze statické stránky nebo z interaktivního chatbota. Nosný závěr spočívá v tom, že obchodní společnost odpovídá za informace, které poskytuje zákazníkům v rámci své obchodní komunikace. Zákazník nemusí ověřovat informaci z jedné části webu v jiné části téhož webu. Nelze po spotřebiteli požadovat, aby sám určoval, kterému sdělení podnikatele má věřit. Pokud podnikatel používá více komunikačních vrstev, měl by zajistit jejich obsahovou konzistenci.
OLG Hamm, sp. zn. 4 UKl 3/25
Druhým rozhodnutím je rozsudek Vrchního zemského soudu v Hammu, OLG Hamm, sp. zn. 4 UKl 3/25[1]. Uvádíme, že soud připustil revizi soudem vyšší instance, takže jde o rozhodnutí dle našeho názoru významné, nikoli však nutně konečné.
Šlo o věc ochrany spotřebitelů a nekalé soutěže. Žalovanou byla společnost nabízející mimo jiné minimálně invazivní estetické zákroky. Žalovaná společnost provozovala na svém webu AI chatbota pro komunikaci se zákazníky a pacienty. Chatbot na dotazy uvedl, že jednatelé společnosti působící jako lékaři jsou odbornými lékaři pro plastickou a estetickou chirurgii, případně pro estetickou medicínu nebo estetické zákroky. Tato tvrzení nebyla pravdivá. Dotčení lékaři příslušnou specializaci neměli a některá použitá označení ani neodpovídala existujícím specializačním titulům.
Žalovaná se bránila tím, že odpovědi chatbota jí nelze přičíst jako její vlastní obchodní jednání. Tvrdila, že chatbot funguje autonomně, na základě statistických pravděpodobnostních výpočtů, a není řízen v jednotlivých odpovědích. Podle žalované nebylo možné určit, zda konkrétní výstup způsobila otázka uživatele, tréninková data, chybějící ochranná opatření nebo kombinace těchto faktorů.
Soud tuto argumentaci odmítl. Vycházel ze širokého pojetí obchodního jednání, kdy obchodním jednáním může být i jednání technicky podporované nebo automatizované. Rozhodující bylo, že chatbot byl provozován na webu žalované, odpovídal v souvislosti s nabízenými službami, podporoval komunikaci s potenciálními zákazníky a sloužil ve prospěch podniku žalované.
Stejně jako v případě Moffatt v. Air Canada soud odmítl chápat AI chatbota jako třetí osobu, za jejíž jednání by společnost odpovídala jen při splnění zvláštních podmínek. Chatbot byl technickým prostředkem, který společnost použila ke komunikaci s veřejností. Žalovaná měla dostatečný vliv na jeho provoz a nastavení, což soud dovodil i z toho, že po upozornění na problém byla schopna chatbota deaktivovat a upravit tak, aby se problematické odpovědi neopakovaly.
Soud se vypořádal také s tzv. black-box problémem. Připustil, že u konkrétní odpovědi generativního AI systému nemusí být zpětně zřejmé, proč přesně vznikla. To však nebrání tomu, aby byl chybný výstup přičten společnosti.
Soud dále odmítl argument, že spotřebitelé obecně vědí o chybovosti AI a odpovědím chatbotů proto nedůvěřují. Podle soudu takové obecné zkušenostní pravidlo neexistuje. Naopak část spotřebitelů může počítačem generovaným odpovědím důvěřovat právě proto, že je vnímá jako přesné nebo neutrální.
Co z toho plyne pro české podnikatele
Český podnikatel, který používá AI chatbota v komunikaci se spotřebiteli, by měl s ohledem na mezinárodní trend počítat s tím, že odpovědi chatbota mohou být posuzovány jako součást obchodní komunikace za níže nese podnikatel odpovědnost.
Z hlediska zákona o ochraně spotřebitele může být problematická zejména situace, kdy chatbot poskytne informaci, která je nepravdivá nebo způsobilá uvést spotřebitele v omyl. V praxi může jít například o tvrzení, že výrobek má určité technické parametry, je kompatibilní s konkrétním zařízením, má určitou certifikaci, lze jej bez omezení vrátit, vztahuje se na něj určitá sleva nebo bude dodán v konkrétním termínu. Pokud taková informace může ovlivnit rozhodnutí spotřebitele o koupi, může podnikatel čelit riziku, že bude posouzena jako klamavá obchodní praktika.
Rizikové nemusí být jen výslovně nepravdivé tvrzení. Problém může vzniknout i tehdy, pokud chatbot podstatnou informaci vynechá nebo ji podá nejasně. Vzorovým příkladem může být odpověď, že „vrácení je zdarma“, aniž chatbot uvede, že se tato možnost vztahuje jen na určitou kategorii zboží, jen na registrované zákazníky nebo jen na nepoužité zboží.
Nelze spoléhat ani na to, že spotřebitelé obecně vědí o chybovosti AI a že si všechny odpovědi sami ověří v obchodních podmínkách. Pokud podnikatel chatbota prezentuje jako zákaznickou podporu nebo prodejního asistenta, vytváří očekávání, že odpovědi jsou použitelné. Čím více je chatbot začleněn do nákupní cesty, tím méně přesvědčivá bude argumentace hlediskem průměrného spotřebitele ve smyslu, že spotřebitel neměl odpovědím umělé inteligence bez dalšího ověření věřit.
Závěr
AI chatbot může být pro podnikatele užitečný nástroj. Z právního hlediska však není neutrální a jakmile je nasazen do komunikace se spotřebitelem, může být jeho výstup posuzován jako součást obchodní komunikace podnikatele. Dostupná judikatura i evropské soft-law materiály směřují ke stejnému závěru. Podnikatel nemůže chatbota prezentovat jako zákaznickou podporu nebo prodejního asistenta a zároveň popírat odpovědnost za jeho odpovědi.