Od 2. srpna 2026 vstoupí v účinnost klíčové části evropského nařízení o umělé inteligenci, známé jako AI Act. Novela, která byla zveřejněna v Úředním věstníku EU, přináší zásadní změny v oblasti transparentnosti a informovanosti zákazníků. Firmy budou mít povinnost jasně informovat uživatele, když komunikují s umělou inteligencí, a to včetně chatbotů a virtuálních asistentů. Takovéto změny mají za cíl zajistit, aby spotřebitelé byli plně informováni o tom, zda jednají s člověkem nebo strojem, a aby se tak předešlo možným nedorozuměním a dezinformacím.
Jednou z nejvýznamnějších změn je zavedení povinnosti pro firmy, aby včas a srozumitelně oznámily, že jejich zákaznické systémy zahrnují umělou inteligenci. Podle advokáta Jaroslava Kuby z poradenské společnosti Rödl, se tato opatření vztahují nejen na chatboty, ale také na AI agenty, kteří například rezervují nebo vyřizují korespondenci. Firmy tak budou muset nejen přiznat, že jejich komunikace probíhá s umělou inteligencí, ale také uvést, za koho daná AI jedná. Tato pravidla se týkají nejen velkých technologických společností, ale i širokého spektra menších organizací, které AI využívají ve svém každodenním provozu.
Pokuty a sankce za nedodržení pravidel
Firmy, které se novými pravidly nebudou řídit, se vystavují riziku vysokých pokut dosahujících až 15 milionů eur, nebo 3 procenta z celosvětového obratu společnosti, podle toho, co je vyšší. Tato opatření byla zavedena s cílem zvýšit odpovědnost firem v oblasti etiky a transparentnosti v používání technologií umělé inteligence. Průzkumy ukazují, že více než třetina společností se touto problematikou zabývá pouze povrchně, což může vést k závažným následkům v případě porušení nových regulací. Podle Kuby sankce za nedodržení pravidel rozhodně nejsou symbolické a mohou mít vážné dopady na fungování firem.
Další důležitý aspekt těchto nových regulací se týká marketingových praktik. Jakýkoliv obsah vytvořený umělou inteligencí, který se může mýlit s reálnými osobami či událostmi, bude muset být označen jako syntetický. To zahrnuje i produktové fotografie, pokud by mohly klamat o skutečných vlastnostech zboží. Cílem je posílit důvěru spotřebitelů a zajistit, aby byli informováni o tom, co je skutečné a co je výsledek práce AI. Firmy budou muset také uvádět, pokud publikují texty generované AI bez lidské kontroly, aby se předešlo šíření dezinformací.
Důsledky pro firmy a spotřebitele
Přijetí těchto nových pravidel znamená konec vágních formulací v obchodních podmínkách, které firmy často používaly k obraně proti regulatorním požadavkům. Od srpna 2026 bude nezbytné, aby informace o využití umělé inteligence byly jasně uvedeny tam, kde dochází k interakci se zákazníkem, a to nejen v dlouhých dokumentech, ale i přímo v komunikaci. To přináší nové výzvy pro mnoho firem, které se budou muset přizpůsobit a implementovat nové postupy do svých obchodních modelů. Transparentnost se stává klíčovým prvkem, který by měl být součástí každé strategie společnosti, která využívá AI.
Firmy se tak ocitají v situaci, kde budou muset investovat do školení zaměstnanců a technologií, které zajistí dodržování nových regulací. Zároveň se očekává, že tyto změny přinesou i pozitivní efekt v podobě zvýšení důvěry spotřebitelů k technologiím a firmám, které je používají. S rostoucím důrazem na etiku v oblasti AI se zvyšuje tlak na firmy, aby vyvíjely a implementovaly technologie odpovědně. To může vést k inovacím, které budou mít pozitivní dopad na celou společnost a posílí ochranu spotřebitelů v digitálním prostoru.
