KAIZEMA

Matěj Kotrba

Technika

Když AI poslouchá cizí instrukce aneb útoky skrze konektory – security v době AI 5/6

Fuckupy v IT

🎙️ Technologický podcast o reálných selháních, slepých uličkách a tvrdých lekcích, kterými si prošli lidé z IT.

Dal jsi už odběr (zvoneček 🔔) na Spotify, Apple Podcasts, nebo YouTube, aby ti žádná epizoda neunikla?Martin Haller je cybersecurity expert a spoluzakladatel firmy PATRON-IT, kde firmám pomáhá kybernetickým útokům předcházet i je zvládnout. Jeho přístup stojí na tom, že kdo chce dobře bránit, musí rozumět tomu, jak se útočí.V této epizodě otevíráme situaci, kdy si lidi AI rozšiřují pomocí skillů, pluginů, konektorů a MCP serverů. Instalují je jako běžná rozšíření v prohlížeči, protože vypadají užitečně. Přitom každé z nich dává AI nové schopnosti a nové zdroje instrukcí. Skill nebo dokument, který AI zpracuje, může obsahovat skryté pokyny — a najednou AI dělá něco jiného, než uživatel chtěl. Vyzradí data, smaže soubory, upřednostní cizí záměr. Probíráme, kde je hranice mezi užitečným rozšířením a otevřením dveří útočníkovi, čemu důvěřovat, čemu ne a proč u citlivých akcí patří potvrzení do rukou člověka, ne AI. Příjemný poslech.👉 Matěj Kotrba je zakladatel a CEO KAIZEMA, IT hiringové agentury, která se specializuje na nábor seniorních a těžko obsaditelných IT pozic. Pokud hirujete nové kolegy do Vašeho IT týmu a nevíte si rady a potřebujete pomoct, napište Matějovi na LinkedIn nebo email <a href="mailto:matej.kotrba@kaizema.cz" rel="ugc noopener noreferrer" target="_blank">⁠⁠matej.kotrba@kaizema.cz⁠⁠</a> a domluvte si nezávaznou konzultaci. 👉 <a href="http://www.kaizema.cz/" rel="ugc noopener noreferrer" target="_blank">⁠⁠</a><a href="https://www.kaizema.cz%E2%81%A0%E2%81%A0" rel="ugc noopener noreferrer" target="_blank">www.kaizema.cz⁠⁠</a>

Aplikace Youradio Talk

Když AI poslouchá cizí instrukce aneb útoky skrze konektory – security v době AI 5/6

Poslechněte si podcast