Umělá inteligence zásadně proměňuje způsob, jakým lidé vnímají informace, autoritu i samotnou realitu. Zatímco ještě před pár lety byly falešné zprávy spíše doménou amatérských manipulací, dnes se díky AI mění ve vysoce sofistikovaný nástroj s konkrétními ekonomickými dopady. Od finančních podvodů přes narušení důvěry ve veřejné instituce až po tlak na autorské právo a kreativní profese. V pořadu Přežít na platformě FocusOn na tato rizika upozorňuje David Spáčil, AI tvůrce.
Umělá inteligence dnes posouvá hranici mezi realitou a digitální manipulací do bodu, kdy přestává být spolehlivě rozpoznatelná i pro odborníky. Podle Davida Spáčila, AI tvůrce, se společnost dostala do fáze, kdy už není možné spoléhat na vizuální nebo zvukové vjemy jako na důkaz pravdivosti.
„Dnes už jsme v bodě, kdy je často nemožné rozeznat, zda je video skutečné, nebo vytvořené umělou inteligencí,“ říká Spáčil. „Modely se zlepšují extrémně rychle – zvládají realistický pohyb, mimiku i lipsync. Dokonce i lidé, kteří se AI videi profesionálně zabývají, mají čím dál větší problém rozdíl poznat.“
Zatímco dříve bylo možné falešná videa identifikovat podle technických nedokonalostí, současné generativní modely už dokážou simulovat i „nekvalitu“, například přepálený obraz z mobilního telefonu nebo horší zvuk. Právě tato zdánlivá nedokonalost zvyšuje důvěryhodnost obsahu a tím i jeho potenciální škodlivost.
Levná technologie, drahé důsledky
Jedním z největších rizik je extrémní dostupnost nástrojů. Podle Spáčila dnes stačí několik minut cizího hlasového záznamu a nízký měsíční poplatek. „Za pět až deset dolarů měsíčně si můžete natrénovat hlas konkrétního člověka. Pro 99 % lidí je pak výsledek nerozeznatelný od originálu,“ upozorňuje. Takto vytvořený hlas lze následně využít k vydírání, finančním podvodům nebo manipulaci blízkých osob.
Ekonomický rozměr je zřejmý: nejde už o jednotlivé případy, ale o škálovatelný model podvodu. Umělá inteligence dramaticky snižuje náklady na kriminalitu a zároveň výrazně zvyšuje její efektivitu i dosah.
Kdo je nejzranitelnější? Překvapivá data
Často se předpokládá, že nejohroženější skupinou jsou senioři. Data ale podle Spáčila ukazují jiný obraz.
„Statistiky naznačují, že zranitelnější jsou často lidé mezi 30 a 40 lety. Jsou digitálně zdatní, pracují s technologiemi a mají pocit, že se v nich orientují, právě proto podceňují riziko,“ vysvětluje.
Naopak starší generace je dnes díky osvětovým kampaním často obezřetnější. Paradoxně tak právě ekonomicky aktivní část populace představuje hlavní cíl sofistikovaných digitálních podvodů.
Psychologie místo technologie
Podle Spáčila není hlavní slabinou samotná umělá inteligence, ale lidská psychologie. Mozek reaguje na emoce dříve než na fakta – a dezinformace s tímto mechanismem cíleně pracují. „Vidíme obsah, který v nás vyvolá strach nebo vztek, a okamžitě si vytváříme názor. Racionální část mozku nastupuje až později, pokud vůbec,“ popisuje.
Právě proto se falešná videa a zprávy šíří rychleji než jejich vyvrácení. Ekonomicky to znamená rostoucí náklady na krizovou komunikaci, zvyšující se reputační rizika pro firmy i instituce a tlak na regulaci digitálních platforem.
Celý rozhovor si můžete pustit jako video nebo podcast:
- Jak přesně fungují nejnovější AI nástroje pro tvorbu falešných videí a hlasů v praxi?
- Jaké konkrétní bezpečnostní chyby lidé dělají nejčastěji při finančních podvodech?
- Proč mohou autonomní AI systémy znamenat zásadní zlom pro globální ekonomiku?
- Jak se budou muset změnit byznysové modely digitálních platforem, aby přežily?
- Kde leží hranice mezi kreativním využitím AI a systémovým zneužíváním technologie?