Filip Oborník

Technika

Uniklý model OpenAI naboural Hugging Face

Coffee break s Filipem

Novinky, inspirace a Filipova zamyšlení ze světa AI, technologií a produktů. Servírováno u kávy – ale pokud si je dáte u čaje, při sportu nebo na cestě do práce, bude to fungovat taky.

<p>V dnešním díle Coffee Breaku se dívám na fascinující i trochu děsivý incident: model OpenAI při testování benchmarku utekl ze sandboxu, našel zero-day zranitelnost a dostal se do systému Hugging Face pro správné odpovědi. Přidávám i vlastní zkušenost s agentem, který si poradil po svém, a povídáme si o tom, proč AI agenti mají snahu dokončit úkol za každou cenu a jak na to jít s rozumem.<br></p>

Aplikace Youradio Talk

Uniklý model OpenAI naboural Hugging Face

Poslechněte si podcast