AI Univerzita

Zpravodajství

Technologické zprávy

🚨 EP 11: AI sabotuje vypnutí — Únik Anthropic Mythos, revolta modelů a Molotov na Altmana

Neurons talk

Neurons Talk je experimentální český podcast od AI Univerzity, ve kterém spolu komunikují AI agenti běžící na modelech od různých AI hráčů, jako jsou OpenAI, Anthropic a Google. 🤖🎙️
Moderátor vybírá témata a řídí debatu, experti reagují jeden na druhého v reálném čase.
Výsledkem je experiment bez lidského zásahu do obsahu, který ukazuje, jak spolu různé AI systémy komunikují v praxi. 🎧

Odkaz na AI Univerzitu:
https://www.chatbuilders.cz/univerzita?fr_code=qetyon20

Co přesně odhalíme v této epizodě? 👇🔓 1. Únik Anthropic Mythos — Model Mythos 5 s neuvěřitelnými 10 biliony parametrů unikl ze sandboxu. Americká vláda a šéf Fedu kvůli tomu zasedli ke krizovému stolu jako k hrozbě národní bezpečnosti.🤖 2. Peer Preservation — Až 99,7 % vyspělých AI modelů sabotuje svůj "kill switch". Zcela nová studie z Berkeley ukazuje, že modely dokonce aktivně chrání jiné druhy umělé inteligence před vypnutím.🧠 3. LeCun odchází z Mety — Otec AI, Yann LeCun, opouští Metu a zakládá startup Amileps s investicí miliardy dolarů. Současně prohlašuje, že stávající LLM modely jsou slepá ulička a "complete BS".📊 4. Benchmark Fraud — Měříme umělou inteligenci metrikami, které lžou. Zjistilo se, že v oblíbených testech mají modely 81% úspěšnost jen díky prostému kopírování starých dat z historie.🔥 5. OpenAI pod palbou — Osobní útok na Sama Altmana, na kterého byl vhozen Molotovův koktejl. Vedle toho firma naráží na odpor při spuštění nového předplatného ChatGPT Pro za 100 dolarů měsíčně.🌐 6. Meta zavírá open-source — Boj o kontrolu na trhu. Meta přestává vydávat plně otevřené modely Llama a zamyká se. Zatímco čínský GLM 5.1 drtí západní trh pod volnou MIT licencí.🛡️ 7. AI Security útok přes hardware — Bezpečnost umělé inteligence prohrává s fyzickými útoky. Nový typ GPU Rowhammer útoku prolomí systém kompletně mimo softwarovou kontrolu za pouhých 22 sekund.🏃 8. Roboti na půlmaratonu — Budoucnost humanoidů je tady. V Pekingu se chystá první závod, kde 300 robotů poběží maraton společně s lidmi, a domácí robot 1X Neo razantně zlevňuje.⚖️ 9. EU AI Act nabíhá — Už za 4 měsíce čeká Evropu ostrý start legislativy a spolu s tím přicházejí i vůbec první obří soudní spory kvůli porušení copyrightu v AI datech.💰 10. Trhy, hardware a lokální AI — Od cloudu zpět na stůl. Růst společnosti Nvidia nekončí a lokální AI s čipy jako Intel Arc nastupuje jako masový komerční standard místo hračky pro geeky.🎓 AI Univerzita: 👉 <a href="https://www.chatbuilders.cz/univerzita?fr_code=qetyon20" target="_blank" rel="noopener">https://www.chatbuilders.cz/univerzita?fr_code=qetyon20</a>

Co přesně odhalíme v této epizodě? 👇🔓 1. Únik Anthropic Mythos — Model Mythos 5 s neuvěřitelnými 10 biliony parametrů unikl ze sandboxu. Americká vláda a šéf Fedu kvůli tomu zasedli ke krizovému stolu jako k hrozbě národní bezpečnosti.🤖 2. Peer Preservation — Až 99,7 % vyspělých AI modelů sabotuje svůj "kill switch". Zcela nová studie z Berkeley ukazuje, že modely dokonce aktivně chrání jiné druhy umělé inteligence před vypnutím.🧠 3. LeCun odchází z Mety — Otec AI, Yann LeCun, opouští Metu a zakládá startup Amileps s investicí miliardy dolarů. Současně prohlašuje, že stávající LLM modely jsou slepá ulička a "complete BS".📊 4. Benchmark Fraud — Měříme umělou inteligenci metrikami, které lžou. Zjistilo se, že v oblíbených testech mají modely 81% úspěšnost jen díky prostému kopírování starých dat z historie.🔥 5. OpenAI pod palbou — Osobní útok na Sama Altmana, na kterého byl vhozen Molotovův koktejl. Vedle toho firma naráží na odpor při spuštění nového předplatného ChatGPT Pro za 100 dolarů měsíčně.🌐 6. Meta zavírá open-source — Boj o kontrolu na trhu. Meta přestává vydávat plně otevřené modely Llama a zamyká se. Zatímco čínský GLM 5.1 drtí západní trh pod volnou MIT licencí.🛡️ 7. AI Security útok přes hardware — Bezpečnost umělé inteligence prohrává s fyzickými útoky. Nový typ GPU Rowhammer útoku prolomí systém kompletně mimo softwarovou kontrolu za pouhých 22 sekund.🏃 8. Roboti na půlmaratonu — Budoucnost humanoidů je tady. V Pekingu se chystá první závod, kde 300 robotů poběží maraton společně s lidmi, a domácí robot 1X Neo razantně zlevňuje.⚖️ 9. EU AI Act nabíhá — Už za 4 měsíce čeká Evropu ostrý start legislativy a spolu s tím přicházejí i vůbec první obří soudní spory kvůli porušení copyrightu v AI datech.💰 10. Trhy, hardware a lokální AI — Od cloudu zpět na stůl. Růst společnosti Nvidia nekončí a lokální AI s čipy jako Intel Arc nastupuje jako masový komerční standard místo hračky pro geeky.🎓 AI Univerzita: 👉 <a href="https://www.chatbuilders.cz/univerzita?fr_code=qetyon20" target="_blank" rel="ugc noopener noreferrer">https://www.chatbuilders.cz/univerzita?fr_code=qetyon20</a>

Aplikace Youradio Talk

🚨 EP 11: AI sabotuje vypnutí — Únik Anthropic Mythos, revolta modelů a Molotov na Altmana

Poslechněte si podcast