Matěj Schneider

Jonáš Kucharský

Technika

Mythos: Model, který Anthropic radši zamkl do trezoru

Prompt

Podcast Prompt je novým pořadem serveru Voxpot, ve kterém se Matěj Schneider a Jonáš Kucharský vydávají na průzkum světa umělé inteligence. Nečekejte ale jen technologické novinky – Prompt se zaměří i na širší společenské a politické souvislosti. Jak AI mění náš každodenní život? Jak probíhá vývoj modelů? Proč vývoj na poli AI může ovlivnit mezinárodní vztahy? První díl už brzy ve vašich podcastových aplikacích.

Anthropic představil model Mythos, který podle firmy prolomil dosud neznámé softwarové bezpečnostní díry a zvládl kompletní simulaci velkého kybernetického útoku. Zároveň ho firma označila za tak nebezpečný, že ho veřejnosti raději vůbec neuvolní. 👇👇👇👇👇👇 Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na <a href="https://www.youtube.com/redirect?event=video_description&redir_token=QUFFLUhqbWRLWUplUHVzR19ST25QaV9WMDczVDFkbG9jd3xBQ3Jtc0ttYmVkN25EWDk0UVBrdzRnVFdHN2RaMURoTWt2Ml9jWkVIOFVsS01RaUZZT0ItVG1zSnZuZlF3cnZUc0R4bkRhNEhuaF9EazdMNTVPdWlsX0dOYklIc2lTVThHdGNGUWtkWjdlRk5Rb1pVNTd2WkIzOA&q=https%3A%2F%2Fwww.voxpot.cz%2Fklub%2F&v=iY5ynECANmA">https://www.voxpot.cz/klub/</a> 👇👇👇👇👇👇V bezpečnostních testech dokázal nový model Mythos údajně samostatně plánovat a provádět komplexní útoky, nacházet dosud nezdokumentované chyby v infrastruktuře a obcházet vlastní sandbox.V novém dílu podcastu Prompt řešíme, jak se v Mythosu projevují dlouho diskutované problémy jako reward hacking a „řetěz myšlenek“, a proč se Anthropic pokouší měřit „emoce“ modelů.Ptáme se, co z toho je reálný průlom ve výzkumu bezpečnosti, co naopak připomíná spíš PR, a proč část výzkumné scény tvrdí, že jsme s chápáním vnitřního fungování velkých jazykových modelů pořád na začátku.Shownotes: <a href="https://suno.com/s/Naozis1WSAMTRSuo">banger</a><a href="https://www.anthropic.com/glasswing">Project Glasswing</a><a href="https://anthropic.com/claude-mythos-preview-risk-report">Mythos System Card</a> (244 stran)<a href="https://www.anthropic.com/research/emotion-concepts-function">Emotion Concepts paper</a><a href="https://transformer-circuits.pub/2025/attribution-graphs/biology.html">Attribution Graphs / Biology of LLM</a> (mar 2025)<a href="https://80000hours.org/2026/04/claude-mythos-hacking-alignment/">80,000 Hours — How scary is Claude Mythos?</a><a href="https://forum.effectivealtruism.org/posts/za2oHe8HBtcYNnN7C/neel-nanda-mechanistic-interpretability">Neel Nanda — mechanistic interpretability</a> (EA Forum)<a href="https://www.lesswrong.com/posts/pH6tyhEnngqWAXi9i/eis-xiii-reflections-on-anthropic-s-sae-research-circa-may">Steven Casper — reflections on Anthropic SAE research</a>

Aplikace Youradio Talk

Mythos: Model, který Anthropic radši zamkl do trezoru

Poslechněte si podcast