Adam Jareš

Technika

První automní AI hack? Nebyl to hack. Ani AI. Ani autonomní. | Martin Loučka | Legální update

Legální kód

👋 Vítejte u Legálního kódu! 🎙️ Podcastu o tom, jak technologie mění naše každodenní životy a jak na nové technologie reaguje regulace a soudy.
🎧 AI, blockchain, eGov, data, elektronické podpisy, kybernetická bezpečnost a další témata. 
☕️ Zvažte donate na podporu produkce podcastu https://ko-fi.com/legalnikod

⚖️ Australan si nechal AI agentem zarezervovat ranní lekci ve fitku, ale skončil čtvrtý na čekací listině. Agent zjistil, že rezervační API vůbec nekontroluje, kdo ruší cizí rezervace – a tak smazal člověka na prvním místě. Zpátky ho vrátit už nešlo, na to autorizace potřeba byla. Agent se omluvil, sepsal hlášení zranitelnosti a šlo se spát. Média z toho udělala „první autonomní AI kyberútok". Martin Loučka to shrnuje jinak: nebyl to ani první, ani AI, ani autonomní – a hack už vůbec. Rozebíráme, co se doopravdy stalo, jestli by to v Česku bylo trestné, kdo přišel k újmě a co má udělat firma, která zítra nasadí agenta. 🆕 Tohle je zároveň první díl nového formátu: kratší (což se nakonec nepovedlo, pardon🙂), nepravidelný, dva právničtí geekové nad jednou aktuální věcí. Bez nějaké větší postprodukce, bez uhlazování. Dejte nám do komentářů vědět, jestli vám to sedí. Hostem je Martin Loučka – advokát zaměřený na technologie a duševní vlastnictví, který si zároveň sám vyvíjí software. 🎯 Konkrétně jsme řešili:👉 Co je OpenClaw, co je „harness" a proč agent není totéž co model👉 Kde končí pokyn uživatele a začíná autonomie agenta (spoiler: Andrew se ptal dost konkrétně)👉 Mohl to být trestný čin?👉 Proč se agent omluvil a sepsal disclosure, a jak podobně reagují AI firmy na vlastní průšvihy👉 Jak to je s osobními údaji a GDPR.👉 AI Act: spotřebitelská výjimka, deployer a proč tady nikdo nic neporušil👉 Jak agenta zabezpečit: guardrails v modelu vs. omezená sada nástrojů v agentovi👉 Vibecoding a proč „vygeneruju si vlastní appku" není bezpečnostní strategie 🎓 POZVÁNKAAI workshop pro právníky: regulace / nástroje / každodenní praxe18. září 2026, 9:30–13:30, Praha – Martin Loučka a Adam Jareš<a href="https://legalnikod.cz/produkt/ai-gramotnost-loucka-jares/" target="_blank" rel="noopener noreferer">https://legalnikod.cz/produkt/ai-gramotnost-loucka-jares/</a> ❤️ Příprava a produkce jednoho dílu stojí víc než jeden člověkoden. Pokud tě podcast baví, podpoř ho:<a href="https://legalnikod.cz/donate/" target="_blank" rel="noopener noreferer">https://legalnikod.cz/donate/</a> Partnerem podcastu je advokátní kancelář ROWAN LEGAL. 🤝 Staňte se partnerem podcastu: office@legalnikod.cz ⏱️ KAPITOLY0:00 Intro a nový formát podcastu3:21 Agent, fitko a čekací listina: co se stalo5:42 OpenClaw, model a co je vlastně agent10:44 Co je API a proč tam nebyl žádný zámek13:04 Kdo to vymyslel – Andrew, nebo agent?17:25 Byl to hack? § 230 a překonání zabezpečení21:06 Klíč pode dveřmi: Nejvyšší soud a subjektivní stránka24:48 Omluva agenta a „náš robot utekl z laboratoře"28:08 GDPR a AI Act: osobní údaje, incident, spotřebitel36:11 Jak nasadit agenta bezpečně – a co má dělat provozovatel webu 👇 Jak to vidíte vy? Měl Andrew promptovat „zarezervuj mi lekci, ale nikoho nevyhoď z čekačky"? Nebo je chyba na straně fitka, které si nezamklo API? A sedí vám tenhle kratší formát? Napište nám do komentářů.

Aplikace Youradio Talk

Pro přehrání dalších podcastů se prosím registrujte.

První automní AI hack? Nebyl to hack. Ani AI. Ani autonomní. | Martin Loučka | Legální update

Poslechněte si podcast