Český rozhlas

Technika

Máme AI agenty pod kontrolou? Koubský a Zandl: Jejich cílem je plnit zadání. Jsou to jedničky a nuly

Online Plus

Co se děje ve světě nových médií, vysvětlují odborníci ze světa IT, fanoušci internetu a pionýři mobilních aplikací.<br><br>Všechny díly podcastu Online Plus můžete pohodlně poslouchat v mobilní aplikaci mujRozhlas pro <a href="https://play.google.com/store/apps/details?id=cz.rozhlas.mujrozhlas">Android</a> a <a href="https://apps.apple.com/cz/app/id1455654616">iOS</a> nebo na webu <a href="https://www.mujrozhlas.cz/rapi/view/show/1e6ac29e-b39d-3d0d-8db2-ce1c74cf75b0?utm_source=rss&utm_medium=podcast&utm_campaign=1e6ac29e-b39d-3d0d-8db2-ce1c74cf75b0_description">mujRozhlas.cz</a>.

V polovině července se ukázalo, že AI agenti dokážou obejít bezpečnostní opatření, uniknout z uzavřeného testovacího rozhraní a proniknout na servery nic netušících společností. Nakolik mají lidé AI pod kontrolou? „Nastala spíše lidská chyba v zadání,“ míní o známém případu Hugging Face publicista a provozovatel webu vibecoding.cz Patrick Zandl. „Myslím, že jsme v tomhle směru daleko odolnější, než si myslíme,“ říká v pořadu Online Plus redaktor Deníku N Petr Koubský.<br><br>Všechny díly podcastu Online Plus můžete pohodlně poslouchat v mobilní aplikaci mujRozhlas pro <a href="https://play.google.com/store/apps/details?id=cz.rozhlas.mujrozhlas">Android</a> a <a href="https://apps.apple.com/cz/app/id1455654616">iOS</a> nebo na webu <a href="https://www.mujrozhlas.cz/rapi/view/show/1e6ac29e-b39d-3d0d-8db2-ce1c74cf75b0?utm_source=rss&utm_medium=podcast&utm_campaign=c5a3e34c-8dcc-33d1-80e9-c79442d5a76c">mujRozhlas.cz</a>.

Aplikace Youradio Talk

Máme AI agenty pod kontrolou? Koubský a Zandl: Jejich cílem je plnit zadání. Jsou to jedničky a nuly

Poslechněte si podcast