Když AI poslouchá cizí instrukce aneb útoky skrze konektory – security v době AI 5/6

Dal jsi už odběr (zvoneček 🔔) na Spotify, Apple Podcasts, nebo YouTube, aby ti žádná epizoda neunikla?

Martin Haller je cybersecurity expert a spoluzakladatel firmy PATRON-IT, kde firmám pomáhá kybernetickým útokům předcházet i je zvládnout. Jeho přístup stojí na tom, že kdo chce dobře bránit, musí rozumět tomu, jak se útočí.

V této epizodě otevíráme situaci, kdy si lidi AI rozšiřují pomocí skillů, pluginů, konektorů a MCP serverů. Instalují je jako běžná rozšíření v prohlížeči, protože vypadají užitečně. Přitom každé z nich dává AI nové schopnosti a nové zdroje instrukcí. Skill nebo dokument, který AI zpracuje, může obsahovat skryté pokyny — a najednou AI dělá něco jiného, než uživatel chtěl. Vyzradí data, smaže soubory, upřednostní cizí záměr. Probíráme, kde je hranice mezi užitečným rozšířením a otevřením dveří útočníkovi, čemu důvěřovat, čemu ne a proč u citlivých akcí patří potvrzení do rukou člověka, ne AI. Příjemný poslech.

👉 Matěj Kotrba je zakladatel a CEO KAIZEMA, IT hiringové agentury, která se specializuje na nábor seniorních a těžko obsaditelných IT pozic. Pokud hirujete nové kolegy do Vašeho IT týmu a nevíte si rady a potřebujete pomoct, napište Matějovi na LinkedIn nebo email ⁠⁠matej.kotrba@kaizema.cz⁠⁠ a domluvte si nezávaznou konzultaci. 👉 ⁠⁠ www.kaizema.cz⁠⁠