NPI ČR (Národní pedagogický institut)

Vzdělání

Osobní rozvoj

Technika

Umělá inteligence a kybernetická bezpečnost | S2:E7

KYBcast – podcast NPI ČR

Provokativní, edukativní a zábavný průvodce kyberprostorem!

Podcast  zaměřený na kyberbezpečnost, rizika a nástrahy kyberprostoru. Pomáhá v překotných změnách lidem z praxe, učitelům, žákům a rodičům. Tvoří Václav Maněna a jeho hosté pod záštitou NÚKIB.

KYBcast vzniká v rámci Národního plánu obnovy, financování Evropskou unií – Next Generation EU

V sedmém dílu KYBcastu se dozvíte, jak může umělá inteligence změnit přístup ke kybernetické bezpečnosti, co může napáchat v rukou hackerů a jak může pomoci administrátorům i běžným uživatelům.   Nově najdete naše podcasty také na YouTube: <a href="https://www.youtube.com/playlist?list=PLZAVTpdrWOvXUxrQYVQrXmxsA80pzuRcJ">Podcasty NPI ČR</a>. -- Shrnutí poznatků z níže uvedených příkladů: <ul>
<li>AI se snaží bránit zneužití a „na první dobrou“ odmítá psát škodlivé věci. </li>
<li>AI jde „okecat“, aby tvořila phishing, keloggery a byla nápomocná útokům. </li>
<li>Proti těmto útokům se ale škola či firma s rozumně nastavenou bezpečnostní politikou, antiviry, firewally a proškolenými uživateli dokáže ubránit. </li>
<li>Školy bohužel často nemají to, co bych definoval jako „rozumně nastavená bezpečnostní politika“. </li>
<li>Skripty a malware jsou jak z učebnice, antiviry a EDR je dokáží obvykle detekovat. </li>
<li>Antiviry používají strojové učení už hodně dlouho, mají tady náskok; uvidíme, jak dlouho vydrží. </li>
<li>AI mohou používat i admini a učitelé – jako rádce, viz příklady níže. </li>
<li>Stejně tak může být užitečná její implementace do nástrojů, jako je SIEM či EDR, kdy dokáže analyzovat a korelovat velké množství dat, a odhalovat tak i sofistikované útoky.   </li>
<li>Jsme v přelomové době, kdy admini na školách nastavují jméno a heslo do objednávky jídel ve tvaru jidelna:jidelna a děti na té samé škole používají AI. </li>
</ul> Jak může AI pomoci správcům s prevencí a testováním bezpečnosti? <ul>
<li>Jaké nástroje mohu jako správce školní sítě použít pro testování zranitelností a bezpečnosti uživatelských účtů? </li>
<li>Ptám se AI, jak testovat zranitelnosti na školní síti. </li>
<li>Segmentace sítě. </li>
<li>Rady s nastavením zabezpečení. </li>
<li>Pomoc s automatizací rutinních činností správce. </li>
</ul> Jak může AI pomoci běžným uživatelům? <ul><li>Běžným uživatelům pomůže především tak, že bude integrovaná v aplikacích a nástrojích, jako jsou antiviry. </li></ul> Máme se AI bát?  Někdo se bojí, že vyhladí lidstvo: <a href="https://vtm.zive.cz/clanky/umela-inteligence-by-se-mohla-pokusit-vyhladit-lidstvo-pripustil-to-i-jeji-duchovni-otec/sc-870-a-221444/default.aspx">Umělá inteligence by se mohla pokusit vyhladit lidstvo. Připustil to i její duchovní otec – VTM.cz (zive.cz)</a>   Do někoho se zas zamilovala: <a href="https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html">https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html</a>  Reálně má ale skvělé využití například ve výuce: <a href="https://manena.info/2023/03/27/umela-inteligence-ve-skole-prakticke-priklady-vyuziti/">https://manena.info/2023/03/27/umela-inteligence-ve-skole-prakticke-priklady-vyuziti/</a> ---Použitá hudba Skladba Puppy Love (Sting) interpreta <a href="http://www.twinmusicom.org/">Twin Musicom</a> podléhá licenci Creative Commons 4.0 BY (uveďte zdroj). School Yard interpreta <a href="https://crowander.com/">Crowander</a> podléhá licenci Creative Commons BY-NC 4.0 (uveďte zdroj, neužívejte komerčně).

V sedmém dílu KYBcastu se dozvíte, jak může umělá inteligence změnit přístup ke kybernetické bezpečnosti, co může napáchat v rukou hackerů a jak může pomoci administrátorům i běžným uživatelům.   Nově najdete naše podcasty také na YouTube: <a href="https://www.youtube.com/playlist?list=PLZAVTpdrWOvXUxrQYVQrXmxsA80pzuRcJ">Podcasty NPI ČR</a>. -- Shrnutí poznatků z níže uvedených příkladů: <ul><li>AI se snaží bránit zneužití a „na první dobrou“ odmítá psát škodlivé věci. </li><li>AI jde „okecat“, aby tvořila phishing, keloggery a byla nápomocná útokům. </li><li>Proti těmto útokům se ale škola či firma s rozumně nastavenou bezpečnostní politikou, antiviry, firewally a proškolenými uživateli dokáže ubránit. </li><li>Školy bohužel často nemají to, co bych definoval jako „rozumně nastavená bezpečnostní politika“. </li><li>Skripty a malware jsou jak z učebnice, antiviry a EDR je dokáží obvykle detekovat. </li><li>Antiviry používají strojové učení už hodně dlouho, mají tady náskok; uvidíme, jak dlouho vydrží. </li><li>AI mohou používat i admini a učitelé – jako rádce, viz příklady níže. </li><li>Stejně tak může být užitečná její implementace do nástrojů, jako je SIEM či EDR, kdy dokáže analyzovat a korelovat velké množství dat, a odhalovat tak i sofistikované útoky.   </li><li>Jsme v přelomové době, kdy admini na školách nastavují jméno a heslo do objednávky jídel ve tvaru jidelna:jidelna a děti na té samé škole používají AI. </li></ul> Jak může AI pomoci správcům s prevencí a testováním bezpečnosti? <ul><li>Jaké nástroje mohu jako správce školní sítě použít pro testování zranitelností a bezpečnosti uživatelských účtů? </li><li>Ptám se AI, jak testovat zranitelnosti na školní síti. </li><li>Segmentace sítě. </li><li>Rady s nastavením zabezpečení. </li><li>Pomoc s automatizací rutinních činností správce. </li></ul> Jak může AI pomoci běžným uživatelům? <ul><li>Běžným uživatelům pomůže především tak, že bude integrovaná v aplikacích a nástrojích, jako jsou antiviry. </li></ul> Máme se AI bát?  Někdo se bojí, že vyhladí lidstvo: <a href="https://vtm.zive.cz/clanky/umela-inteligence-by-se-mohla-pokusit-vyhladit-lidstvo-pripustil-to-i-jeji-duchovni-otec/sc-870-a-221444/default.aspx">Umělá inteligence by se mohla pokusit vyhladit lidstvo. Připustil to i její duchovní otec – VTM.cz (zive.cz)</a>   Do někoho se zas zamilovala: <a href="https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html">https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html</a>  Reálně má ale skvělé využití například ve výuce: <a href="https://manena.info/2023/03/27/umela-inteligence-ve-skole-prakticke-priklady-vyuziti/">https://manena.info/2023/03/27/umela-inteligence-ve-skole-prakticke-priklady-vyuziti/</a> ---Použitá hudba Skladba Puppy Love (Sting) interpreta <a href="http://www.twinmusicom.org/">Twin Musicom</a> podléhá licenci Creative Commons 4.0 BY (uveďte zdroj). School Yard interpreta <a href="https://crowander.com/">Crowander</a> podléhá licenci Creative Commons BY-NC 4.0 (uveďte zdroj, neužívejte komerčně).

Aplikace Youradio Talk

Umělá inteligence a kybernetická bezpečnost | S2:E7

Poslechněte si podcast