NPI ČR (Národní pedagogický institut)

Vzdělání

Osobní rozvoj

Technika

Nenaleťte na deepfakes a dezinformace vytvořené pomocí AI | S2:E23

KYBcast – podcast NPI ČR

Provokativní, edukativní a zábavný průvodce kyberprostorem!

Podcast  zaměřený na kyberbezpečnost, rizika a nástrahy kyberprostoru. Pomáhá v překotných změnách lidem z praxe, učitelům, žákům a rodičům. Tvoří Václav Maněna a jeho hosté pod záštitou NÚKIB.

KYBcast vzniká v rámci Národního plánu obnovy, financování Evropskou unií – Next Generation EU

Vítejte u 23. dílu KYBcastu, který je určený nejenom učitelům a dalším pracovníkům ve vzdělávání, ale i rodičům. Podvodná videa, fotografie a zvukové nahrávky jsou s námi už dlouho. S umělou inteligencí (AI) přichází nová éra realisticky upravených fotografií, videí a dalších materiálů, u kterých je prakticky nemožné na první pohled zjistit, že se jedná o podvod. Často nám s tím nepomohou ani specializované nástroje. Těmto materiálům se říká deepfakes a do budoucna se s nimi nejspíš budeme setkávat čím dál víc. Dnes se zaměříme na to, co s tím můžeme dělat. Naše podcasty najdete také na YouTube: <a href="https://www.youtube.com/playlist?list=PLZAVTpdrWOvXUxrQYVQrXmxsA80pzuRcJ">Podcasty NPI ČR</a>   ---  Co jsou deepfakes Obecně můžeme za deepfakes označit realisticky upravené fotografie, videa nebo zvukové záznamy, které se tváří jako skutečné, že je téměř nemožné to poznat. Více informací a praktické ukázky najdete v článku <a href="https://vyuka.o2chytraskola.cz/clanek/13/fake-news-deepfake-a-hoaxy/15012">Jsou deepfakes nebezpečím nebo nevinnou zábavou?</a> Příklady deepfakesNahé fotky generované AI: <a href="https://www.irozhlas.cz/zivotni-styl/spolecnost/deepfakes-falesne-nahe-fotky-pornografie-zakony-istanbulska-umluva_2310280700_har">‚Na té fotce mi je 14.‘ Mladé ženy čelí falešným nahým fotografiím, české zákony ale ‚deepfakes‘ neřeší</a>Deepfakes se nejspíše budou více objevovat i v podvodných reklamách. To je velice nebezpečné, protože lidé často naletí i na daleko jednodušší podvodné reklamy, které mnohdy pouze zneužívají fotografii známé osobnosti. Příklad takového podvodu si můžete přečíst v článku <a href="https://novinykraje.cz/moravskoslezsky/2023/06/19/chtel-vydelat-rychle-penize-zarucil-se-za-to-leos-mares-bohuzel-to-byl-podvod/">Chtěl vydělat rychle peníze. Zaručil se za to Leoš Mareš. Bohužel to byl podvod</a>.<a href="https://www.instagram.com/reel/CxarKtrMpqz/">Deepfake video od Martina Spana</a>.Zejména rodičům je určené video <a href="https://youtu.be/hREDDdlQyEU?si=rP8zt_yssIU1rwW-">Zpráva od Elly</a>, které ukazuje ohromné možnosti umělé inteligence.Další příklady najdete na stránce <a href="https://orgpad.com/o/BgAFlEdaZAG7XZ5S54qLaf?token=BdK9YDAdJIFL3WuGthN1Se">Fake news v době AI</a> od Jindřicha Zdráhala.Deepfake od YouTubera: <a href="https://www.youtube.com/watch?v=BnPaKhN1D_I">(27) JAK POZNAT DEEPFAKE?! - YouTube</a> Rozpoznávání deepfakes Poznat deepfakes je často velice složité nebo nemožné. Na fotografiích lidí se můžete zaměřit na detaily, o kterých mluvíme v podcastu. Zkuste si třeba vygenerovat obličej na <a href="https://thispersondoesnotexist.com/">thispersondoesnotexist.com</a>, zaměřte se na detaily a sami si ověřte, jestli byste dokázali poznat, že jde o výtvor umělé inteligence. Můžete si také vyzkoušet kvízy na nástěnce <a href="https://padlet.com/vaclavmanena/bezpecnostdeti">Bezpečnost dětí na netu</a>, kde najdete i spoustu dalších užitečných materiálů.Weby, které mohou pomoci při ověřování informací a odhalování deepfakes <a href="https://www.mvcr.cz/chh/">Centrum proti hybridním hrozbám</a> <a href="https://manipulatori.cz/">Manipulátoři.cz</a> <a href="https://www.irozhlas.cz/zpravy-tag/overovna">Ověřovna!</a>Budoucnost a závěr Bohužel to nyní vypadá, že se při ověřování videí, fotografií nebo třeba zvukových nahrávek nemůžeme příliš spoléhat na nástroje k automatizované detekci podvodných a upravených materiálů. Nástroje umělé inteligence se velice rychle zdokonalují a detekční mechanismy k odhalení materiálů vytvořených nebo upravených pomocí AI jsou spíše pozadu a často označují za podvod i originální a neupravený obsah. S masovým rozšiřováním umělé inteligence tak bohužel ještě roste význam "tradičních" metod ověřování informací, při kterých si můžeme pouze vypomoci různými nástroji typu <a href="https://deepware.ai/">deepware.ai</a>. Hlavní práce ale zůstává na nás.Jedno je jisté: při ověřování bychom se měli zdržet rychlých soudů a zbrklého přejímání informací, jak nám ukazuje <a href="https://twitter.com/Medvidekpu/status/1697140436198949032">příklad "zfalšované" složenky, o kterém píše D. Dočekal</a>. ---   Použitá hudba Skladba Puppy Love (Sting) interpreta <a href="http://www.twinmusicom.org/">Twin Musicom</a> podléhá licenci Creative Commons 4.0 BY (uveďte zdroj). School Yard interpreta <a href="https://crowander.com/">Crowander</a> podléhá licenci Creative Commons BY-NC 4.0 (uveďte zdroj, neužívejte komerčně).

Aplikace Youradio Talk

Nenaleťte na deepfakes a dezinformace vytvořené pomocí AI | S2:E23

Poslechněte si podcast