Uniklý model OpenAI naboural Hugging Face
V dnešním díle Coffee Breaku se dívám na fascinující i trochu děsivý incident: model OpenAI při testování benchmarku utekl ze sandboxu, našel zero-day zranitelnost a dostal se do systému Hugging Face pro správné odpovědi. Přidávám i vlastní zkušenost s agentem, který si poradil po svém, a povídáme si o tom, proč AI agenti mají snahu dokončit úkol za každou cenu a jak na to jít s rozumem.
Popis podcastu
Novinky, inspirace a Filipova zamyšlení ze světa AI, technologií a produktů. Servírováno u kávy – ale pokud si je dáte u čaje, při sportu nebo na cestě do práce, bude to fungovat taky.