Co jsou deepfakes a proč jsou dnes tak nebezpečné
Deepfake je obsah vytvořený nebo upravený umělou inteligencí tak, aby vypadal autenticky. Nejčastěji jde o video, audio nebo fotografii, kde je zaměněná tvář, hlas nebo kontext. Zatímco dříve bylo potřeba k manipulaci pokročilé studio, dnes stačí několik minut práce s běžně dostupnými nástroji. Výsledkem je obsah, který může přesvědčit i zkušeného uživatele, zvlášť pokud je sdílen v rychlém tempu sociálních sítí.
Riziko nespočívá jen v podvodných videích celebrit nebo politiků. V praxi se deepfakes používají také pro phishing, vydírání, poškození reputace firem nebo šíření paniky. V roce 2024 se podle různých bezpečnostních reportů počet podvodů využívajících AI hlas výrazně zvýšil, přičemž cílem bývají i běžné firmy a jejich zaměstnanci. Útočník dnes nemusí být technologický expert, aby vytvořil věrohodnou imitaci hlasu vedoucího pracovníka či zákaznické podpory.
Jak poznat, že obsah nemusí být pravý
Prvním krokem je sledovat signály, které se u manipulovaného obsahu často opakují. U videa bývá problém s pohybem rtů, nepravidelným mrkáním, neostrou hranou kolem obličeje nebo s nesouladem mezi obrazem a zvukem. U audia zase hledejme příliš hladký hlas bez přirozených pauz, podivné intonace nebo nesoulad s emocí, kterou má sdělení vyjadřovat.
U textových dezinformací je typické, že pracují s extrémní emocí, naléhavostí a výzvou k okamžitému sdílení. Často obsahují fráze jako „sdílej, než to smažou“, „média o tom mlčí“ nebo „tajná informace, kterou nechtějí, abys viděl“. To je důležité podezřelé znamení: pravdivé informace obvykle nestojí na hysterií vyvolané urgentnosti.
- Podezřelý zdroj: anonymní účet, nejasný autor, chybějící kontakt nebo historie publikování.
- Úderný titulek: slibuje šok, skandál nebo absolutní jistotu bez důkazů.
- Chybějící kontext: video bez data, místa, původního zdroje nebo celé události.
- Emocionální tlak: apel na strach, hněv nebo soucit namísto faktů.
Praktický postup ověřování faktů krok za krokem
Ověřování informací by mělo mít jasný postup. Nejdřív si položte tři základní otázky: kdo to zveřejnil, kdy to vzniklo a odkud to pochází. Pokud chybí jedna z těchto odpovědí, je pravděpodobnost manipulace vyšší. Důležitá je i kontrola originálu: často koluje už jen výřez, přeložená verze nebo znovu nahraný klip bez původního kontextu.
U obrázků a videí se vyplatí používat reverzní vyhledávání. Google Lens, TinEye nebo Yandex mohou ukázat, zda už stejný vizuál neexistoval dříve v jiném kontextu. U videí pomůže rozdělit záznam na snímky a hledat první výskyt jednotlivých záběrů. Pokud je obsah skutečně novinový, zpravidla se objeví více nezávislých zdrojů během krátké doby.
Pro kontrolu faktů je dobré pracovat s minimálně dvěma nezávislými zdroji. V českém prostředí lze využít například Demagog.cz, AFP Fact Check nebo výstupy velkých redakcí, které mají vlastní fact-checking. U mezinárodních témat je vhodné sledovat i Reuters, AP nebo BBC, protože často publikují rychlé ověřené zprávy s jasně uvedenými zdroji.
- 1. krok: najděte původní zveřejnění a autora.
- 2. krok: ověřte datum, místo a kontext.
- 3. krok: porovnejte obsah s dalšími zdroji.
- 4. krok: zkontrolujte, zda obraz nebo video už neexistuje jinde.
- 5. krok: vyhodnoťte, zda sdělení odpovídá známým faktům a logice situace.
Nástroje, které pomáhají odhalit manipulaci
V praxi nestačí jen dobrý úsudek. K dispozici je řada nástrojů, které proces ověřování urychlí. Pro webový obsah a mediální stopu se hodí například InVID, rozšíření do prohlížeče určené pro analýzu videí a extrakci snímků. Pro kontrolu metadat fotografií lze využít nástroje jako ExifTool nebo webové služby, které umějí číst základní informace o souboru, pokud nebyly odstraněny při nahrání na sociální síť.
U zvuku a hlasových nahrávek je situace složitější, protože moderní modely umí hlas napodobit velmi přesně. Přesto lze hledat nesrovnalosti v šumu, rytmu řeči a dynamice. Bezpečnostní týmy firem mohou doplnit ověřování o interní pravidla, například zákaz schvalování citlivých finančních požadavků pouze na základě telefonátu. Vždy je lepší použít zpětné ověření přes jiný kanál.
Pro běžné uživatele i firmy jsou užitečné i jednoduché postupy:
- Google Lens: ověření původu obrázku nebo podobných vizuálů.
- InVID: práce s videem, snímky a analýzou zdroje.
- TinEye: reverzní vyhledávání fotografií.
- Wayback Machine: kontrola, jak vypadal webový obsah v minulosti.
- ChatGPT, Gemini nebo Claude: mohou pomoci shrnout tvrzení, ale nesmí být jediným zdrojem pravdy.
Jak se bránit v praxi: firmy, redakce i jednotlivci
Ochrana proti deepfakes není jen otázka médií, ale i provozu webu, komunikace a interních procesů. Firmy by měly nastavit jasná pravidla pro ověřování žádostí o platby, změny účtů nebo krizové komunikace. Pokud někdo obdrží hlasovou zprávu od údajného manažera s požadavkem na okamžitý převod, musí existovat druhý ověřovací krok. V oblasti kyberbezpečnosti se tomu říká out-of-band verification, tedy potvrzení jiným kanálem, například přes interní chat nebo osobní telefonát na známé číslo.
Redakce a tvůrci obsahu by měli pracovat s transparentním označováním zdrojů, datem pořízení a kontextem. U vlastních videí je vhodné uchovávat originální soubory a archivovat metadata. To je důležité nejen pro případ sporů, ale i pro reputaci značky. Z hlediska SEO a důvěryhodnosti navíc pomáhá, když je na webu jasně uveden autor, datum aktualizace, redakční politika a způsob ověřování informací. To podporuje princip E-E-A-T, tedy zkušenost, odbornost, autoritu a důvěryhodnost.
Jednotlivci by si měli vytvořit jednoduchý návyk: než něco sdílím, zastavím se a ověřím alespoň dvě věci. Je opravdu důležité, zda jde o původní zdroj? Kdo by z manipulace mohl těžit? A odpovídá to tomu, co už o tématu víme z důvěryhodných médií nebo oficiálních institucí? Tento krátký proces trvá často méně než dvě minuty, ale může zabránit dalšímu šíření nepravdivé informace.
Kam směřuje vývoj a proč se vyplatí být o krok napřed
Generativní AI mění způsob, jakým lidé hledají i konzumují informace. Vyhledávače čím dál častěji zobrazují odpovědi přímo v rozhraní, sociální sítě upřednostňují krátká videa a uživatelé spoléhají na rychlé souhrny místo ověřování původních zdrojů. To zvyšuje riziko zero-click chování, kdy se informace přijímá bez návštěvy původního webu a bez možnosti snadno posoudit kontext.
Do budoucna proto poroste význam transparentního obsahu, strukturovaných dat a jasně dohledatelných autorů. Pro weby i značky bude výhodou, pokud budou publikovat data, citace, odkazy na zdroje a jasnou metodiku. Pro uživatele zase bude klíčové rozvíjet mediální gramotnost a pravidelně si ověřovat informace u více zdrojů. V digitálním prostředí už nestačí ptát se, zda je něco sdílené. Důležitější je ptát se, zda je to pravdivé, odkud to pochází a kdo tím může získat.