Máme AI agenty pod kontrolou? Koubský a Zandl: Jejich cílem je plnit zadání. Jsou to jedničky a nuly

V polovině července se ukázalo, že AI agenti dokážou obejít bezpečnostní opatření, uniknout z uzavřeného testovacího rozhraní a proniknout na servery nic netušících společností. Nakolik mají lidé AI pod kontrolou? „Nastala spíše lidská chyba v zadání,“ míní o známém případu Hugging Face publicista a provozovatel webu vibecoding.cz Patrick Zandl. „Myslím, že jsme v tomhle směru daleko odolnější, než si myslíme,“ říká v pořadu Online Plus redaktor Deníku N Petr Koubský.

Všechny díly podcastu Online Plus můžete pohodlně poslouchat v mobilní aplikaci mujRozhlas pro Android a iOS nebo na webu mujRozhlas.cz .