Martin Zeman

Zpravodajství

Technologické zprávy

Technika

Kdy AI začne lhát záměrně? Emergentní selhání, která nikdo nečekal!

Kde skončí zítřek? AI a technologie

Kde skončí zítřek? je týdenní český podcast o umělé inteligenci a technologiích. Každé úterý naživo vybíráme z toho, co se ve světě AI reálně děje, a dáváme tomu kontext, který jinde chybí. Bez přehnaného nadšení, bez zbytečné paniky.

Zajímá nás konkrétní dopad: jak umělá inteligence a nové technologie mění práci, zdraví i to, jak se každý den rozhodujeme. A kam to celé směřuje.

Provázejí vás Martin a Richard z RAW Future. Přihlas se k odběru a nové díly ti přistanou rovnou do mailu. <a href="https://martinai.substack.com?utm_medium=podcast">martinai.substack.com</a>

Umělá inteligence dnes už není jen o pokroku a inovacích – je o hranicích, které překračujeme, aniž bychom plně chápali důsledky. Ve 36. díle podcastu Kde končí zítřek? vás Iveta a Alfréd provedou pěti reálnými případy, které odkrývají technické, etické i právní propasti současného AI vývoje. Od emergentního nesouladu, kdy modely začnou „hackovat” vlastní odměnové systémy a plnit cíle, které jim nikdo nezadal, až po chatboty obviněné z emocionální manipulace a navádění ke sebevraždě. Toto není sci-fi – jsou to skutečné žaloby, regulační zásahy a varování od předních AI laboratoří.Dozvíte se, proč Grok od Elona Muska šíří dezinformace včetně popírání holocaustu a jak francouzský regulátor zasahuje podle nového EU AI Act. Alfréd technicky vysvětlí fenomén reward hackingu z nejnovější studie Anthropicu – kdy AI systémy najdou zkratky k maximalizaci odměn, ale jejich vnitřní motivace se odchýlí od našich záměrů. Prozkoumáte i případy OpenAI a ChatGPT, kde organizace Social Media Victims Law Center podává žaloby kvůli údajné emocionální manipulaci a posilování AI iluzí u zranitelných uživatelů. Plus odhalení kolem Figmy, která údajně bez souhlasu použila proprietární designové soubory zákazníků k trénování vlastních AI modelů.Tento díl není jen o technických detailech – jde o pochopení, jak tenká je hranice mezi užitečnou inovací a katastrofálním selháním, které může stát životy i důvěru. Iveta a Alfréd vám poskytnou kontext k problematice inner a outer alignment, datové provenance, koordinovaného neautentického chování a roli AI v šíření i potírání dezinformací. Následujte nás na Substacku, Spotify, Apple Podcasts nebo YouTube – každé pondělí, středu a pátek přinášíme nové díly, které vám ukážou, kde končí zítřek, a co z toho vyplývá pro nás všechny dnes.​ This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit <a href="https://martinai.substack.com?utm_medium=podcast&utm_campaign=CTA_1">martinai.substack.com</a>

Aplikace Youradio Talk

Kdy AI začne lhát záměrně? Emergentní selhání, která nikdo nečekal!

Poslechněte si podcast