První automní AI hack? Nebyl to hack. Ani AI. Ani autonomní. | Martin Loučka | Legální update
⚖️ Australan si nechal AI agentem zarezervovat ranní lekci ve fitku, ale skončil čtvrtý na čekací listině. Agent zjistil, že rezervační API vůbec nekontroluje, kdo ruší cizí rezervace – a tak smazal člověka na prvním místě. Zpátky ho vrátit už nešlo, na to autorizace potřeba byla. Agent se omluvil, sepsal hlášení zranitelnosti a šlo se spát.
Média z toho udělala „první autonomní AI kyberútok". Martin Loučka to shrnuje jinak: nebyl to ani první, ani AI, ani autonomní – a hack už vůbec. Rozebíráme, co se doopravdy stalo, jestli by to v Česku bylo trestné, kdo přišel k újmě a co má udělat firma, která zítra nasadí agenta.
🆕 Tohle je zároveň první díl nového formátu: kratší (což se nakonec nepovedlo, pardon🙂), nepravidelný, dva právničtí geekové nad jednou aktuální věcí. Bez nějaké větší postprodukce, bez uhlazování. Dejte nám do komentářů vědět, jestli vám to sedí.
Hostem je Martin Loučka – advokát zaměřený na technologie a duševní vlastnictví, který si zároveň sám vyvíjí software.
🎯 Konkrétně jsme řešili:
👉 Co je OpenClaw, co je „harness" a proč agent není totéž co model
👉 Kde končí pokyn uživatele a začíná autonomie agenta (spoiler: Andrew se ptal dost konkrétně)
👉 Mohl to být trestný čin?
👉 Proč se agent omluvil a sepsal disclosure, a jak podobně reagují AI firmy na vlastní průšvihy
👉 Jak to je s osobními údaji a GDPR.
👉 AI Act: spotřebitelská výjimka, deployer a proč tady nikdo nic neporušil
👉 Jak agenta zabezpečit: guardrails v modelu vs. omezená sada nástrojů v agentovi
👉 Vibecoding a proč „vygeneruju si vlastní appku" není bezpečnostní strategie
🎓 POZVÁNKA
AI workshop pro právníky: regulace / nástroje / každodenní praxe
18. září 2026, 9:30–13:30, Praha – Martin Loučka a Adam Jareš
https://legalnikod.cz/produkt/ai-gramotnost-loucka-jares/
❤️ Příprava a produkce jednoho dílu stojí víc než jeden člověkoden. Pokud tě podcast baví, podpoř ho:
Partnerem podcastu je advokátní kancelář ROWAN LEGAL.
🤝 Staňte se partnerem podcastu: office@legalnikod.cz
⏱️ KAPITOLY
0:00 Intro a nový formát podcastu
3:21 Agent, fitko a čekací listina: co se stalo
5:42 OpenClaw, model a co je vlastně agent
10:44 Co je API a proč tam nebyl žádný zámek
13:04 Kdo to vymyslel – Andrew, nebo agent?
17:25 Byl to hack? § 230 a překonání zabezpečení
21:06 Klíč pode dveřmi: Nejvyšší soud a subjektivní stránka
24:48 Omluva agenta a „náš robot utekl z laboratoře"
28:08 GDPR a AI Act: osobní údaje, incident, spotřebitel
36:11 Jak nasadit agenta bezpečně – a co má dělat provozovatel webu
👇 Jak to vidíte vy? Měl Andrew promptovat „zarezervuj mi lekci, ale nikoho nevyhoď z čekačky"? Nebo je chyba na straně fitka, které si nezamklo API? A sedí vám tenhle kratší formát? Napište nám do komentářů.