Videa se stala součástí našich životů. Vidíme je na telefonu, při cestě do práce na reklamách, když čekáme u doktora nebo při scrollování. Jenže jak rozeznat, že se nejedná o video natočené člověkem? Rychlostí blesku se šíří videa vytvořena pomocí AI – umělé inteligence. Co je to deepfake a lze jej vlastně rozeznat?
Obsah článku
Co je deepfake a jak funguje
Slovo deepfake? Jednoduše – podvod. Deepfake jsou založené na technice umělé inteligence. Ta dokáže vytvořit realistický falešný obraz, video nebo hlas, který jen těžko rozeznáte od reálného člověka. Deepfake je pojmenování pro zneužití moderní technologie. Snadno se díky tomu dá:
- Šířit dezinformace
- Vyvolat strach
- Utvářet falešné veřejné mínění
- Podvody
- Manipulovat
Digitální podvrhy a zneužití identity
Videa nebo hlasy, které umělá inteligence vytvoří zní realisticky a pro laika, ale často i odborníka je těžké rozeznat podvrhy. Ty jsou často spojené například s telefonními hovory.
V kombinaci s technologiemi tak vzniká nový typ rizika, kdy je možné poměrně věrohodně napodobit nejen vzhled, ale i hlas konkrétního člověka. To může vést k podvodům, vydírání nebo manipulaci s veřejným míněním, protože rozpoznat falešný obsah od skutečného je stále obtížnější.
Zneužití identity často souvisí s únikem nebo neopatrným sdílením osobních údajů na internetu. Pokud se třetí osoby dostanou k citlivým informacím, přihlašovacím údajům nebo dalším osobním datům, mohou je následně využít k neoprávněnému jednání jménem dané osoby. Proto je důležité chránit své osobní údaje a vyvarovat se situací, kdy by je mohly získat nepovolané osoby.
Je známo několika případů, kdy kyberzločinci okradli manažery velkých firem, aby poslali několik milionů na cizí účet. Využili totiž falešný hlas, který předstíral někoho jiného. Nejedná se ale pouze o lidi, kteří mají vysoké částky na svých účtech.
Deepfake v reklamě a marketingu
Časté je také zobrazení deepfake v reklamách nebo marketingu. Při volbách jsme si mohli všimnout politické manipulace pomocí falešných videí. Politici mohou být ve videích citování za věci, které ve skutečnosti neřekli. Videa snižují důvěru veřejnosti v politické instituce anebo vyvolávají sociální nepokoje.
Technologie deepfake se objevuje také v reklamě. Pomocí umělé inteligence lze vytvořit video nebo zvukový záznam, ve kterém známá osobnost zdánlivě propaguje určitý produkt nebo službu, aniž by s danou reklamou měla cokoliv společného. Takové falešné reklamy se často šíří zejména na sociálních sítích a mohou působit velmi věrohodně.
Jak deepfake rozpoznat
Deepfake je opravdu těžké rozeznat, umělá inteligence je čím dál výkonnější. Pokud budete mít pocit, že je video vytvořené pomocí umělé inteligence, všímejte si několika věcí:
- Nepřirozené pohyby obličeje
Mimika může působit strnule nebo nepřirozeně. Často si lze všimnout zvláštních pohybů rtů nebo očí, které neodpovídají tomu, co osoba říká. - Obraz mimo zvuk
Pohyb rtů nemusí přesně odpovídat vysloveným slovům nebo může být hlas mírně zpožděný oproti obrazu. - Odlišné detaily v obraze
Deepfake videa mohou obsahovat rozmazané části obličeje, neobvyklé stíny nebo deformace v okolí vlasů, brýlí nebo uší. - Nepřirozený hlas
U falešných hlasových nahrávek může být slyšet monotónní tón, nepřirozená intonace nebo zvláštní pauzy ve větách. - Podezřelý zdroj videa
Pokud se video objevuje pouze na neznámých profilech nebo nedůvěryhodných stránkách, je vhodné jeho pravost ověřit i v jiných médiích.
Proč je deepfake do budoucna problém
S rozvojem umělé inteligence bude vytváření deepfake obsahu stále jednodušší a dostupnější. Technologie, které byly ještě před několika lety dostupné jen odborníkům, dnes zvládne používat téměř každý. To znamená, že manipulovaný obsah se může šířit rychleji a ve větším množství. Odborníci proto upozorňují, že do budoucna bude stále důležitější mediální gramotnost a schopnost ověřovat informace.
Zdroje: epravo.cz, o2cybernews.cz
Hana Králová je studentkou Etiky a kultury v mediální komunikaci v Olomouci. Ráda chodí po horách anebo jezdí na kole. Nejkrásnější výhledy jsou pro ni ty v přírodě. Je milovnicí výběrové kávy a alternativní přípravy různých druhů a pražíren. Od malička ráda čte, libí se jí možnost, kterou nabízí český jazyk. Píše ráda, a to, protože se dozvídá nové věci a nemusí myslet na nic jiného.
