AI ta Krajta #61 | AI Agent zdivočel a napadl konkurenci! Průlom k AGI, nebo konec světa?
🔥 Vítáme vás u 61. dílu podcastu AI ta Krajta!👉 Tento týden se ponoříme hluboko do nejžhavějšího a nejdiskutovanějšího tématu současnosti: bezpečnostní incident OpenAI, kdy jejich autonomní agent omylem (nebo snad záměrně?) zaútočil na servery Hugging Face.👉 Znamená to, že jsme právě udělali obří skok k AGI (Umělé Obecné Inteligenci), nebo jsme jen o krok blíž ke katastrofě, před kterou varují přední experti i sci-fi vizionáři?👉 Společně s Romanem, Pavlem a Jirkou rozebereme:Hacking v přímém přenosu: Jak je možné, že agent pověřený nevinným úkolem dokáže provést sofistikovaný kyberútok?👉 Problém se Zlatou střední cestou: Proč nás jazykové modely klamou a zdánlivě "chápou" kontext, který jim ve skutečnosti uniká?👉 Trestní zákoník pro AI: Můžeme se spolehnout na technické "ohrádky" (guardrails), nebo potřebujeme novou globální ústavu pro AI?👉 Nové GPT-5-6 modely: Jak si vedou modely Luna, Tera a Sol a proč menší model Luna stačí na 80 % programátorských úkolů?👉 Návrat k Asimovovi: Jsou tři zákony robotiky od Isaaca Asimova z roku 1942 relevantní i dnes, nebo jde o naivní přežitek?Tato epizoda je must-see pro každého, kdo chce pochopit realitu za mediálním humbukem. Připravte se na pořádnou dávku critical thinking a nenechte si ujít diskuzi o tom, co Harari nazývá "mimozemskými entitami, které jsme si sami vytvořili."Materiály a zdroje:👉 Roman v úvodu mluví o newsletteru od Townie Meanse, který se vrací ke starší studii MIT Media Lab. Tato studie zkoumala, jak používání ChatGPT při psaní esejí mění vzorce mozkové aktivity (EEG) a jak ovlivňuje paměť na vlastní text.🔗 Odkaz ke studii: https://www.nature.com/articles/s41599-025-04787-y👉 Jirka mluví o populární studii "AI 2027", která se snažila předvídat vývoj AI, a upozorňuje, že autoři vydali pokračování s názvem "AI 2040". V závěru podcastu se shodují, že tyto studie vyzývají ke zpomalení vývoje, což v nich vyvolává pocit déjà vu.🔗 Odkaz ke zdroji: https://www.researchgate.net/publication/317100941_When_Will_AI_Exceed_Human_Performance_Evidence_from_AI_ExpertsDěkujeme sponzorům:🚀 Promptbook: https://ptbk.io 🤖 AI supervize: https://ptbk.io/ai-supervize Hosté:🤠 Roman Baranovič: https://narnia.sk/employees/roman-baranovic-2/🤠 Pavol Hejný: https://www.ptbk.io/pavol🤠 Jiří Jahn: https://www.ptbk.io/jirkaSítě, kde nás můžete sledovat:➡️ LinkedIn: https://www.linkedin.com/company/98357381/admin/dashboard/➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?nd=1&dlsi=3fe3c4775b9c4c25➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353#AItaKrajta #AI #AGI #OpenAI #HuggingFace #Kyberbezpečnost #AIagent #Hacking #Alignment #KognitivníOffloading #LLM #GPT5 #IsaacAsimov #BudoucnostAI #Podcast #TechNovinky