Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc

Zapomeňte na představu, že umělá inteligence je jen jazykový model. Dnešní autonomní AI agenti už dokážou tvořit kolektivy, obcházet lidské experimentátory a hromadit moc, aniž bychom tušili, co přesně se uvnitř jejich neuronových sítí odehrává.

Vývoj AI běží raketovým tempem a přináší rizika, která si firmy i státy odmítají připustit, od zaměstnanců, kteří si kvůli drakonickým zákazům tvoří nezabezpečené „stínové IT“, až po splašené agenty útočící na přední AI platformy. Klíčem k přežití už není jen implementace modelů, ale pochopení jejich bezpečnosti a takzvaného alignmentu.

Do nového dílu CyberCastu se po dvou letech vrátil Jan Romportl, expert na umělou inteligenci, bezpečnost a etiku AI, zakladatel startupu Elin.ai a AI osobnost roku 2024.

V rozhovoru rozebral mrazivé detaily incidentu na platformě Hugging Face, vysvětlil, proč by vývojáři měli používat AI modely s opatrností, a otevřeně popsal, proč vnímá dnešní přístup OpenAI a dalších hegemonů jako hru s ohněm, u níž hrozí fatální následky pro celou společnost i trh práce.

Další zajímavosti ze světa kyberbezpečnosti se dočtete na ⁠⁠⁠https://o2cybernews.cz⁠⁠⁠ .

Všechny díly O2 CyberCast podcastu najdete na: Spotify – ⁠⁠⁠https://spoti.fi/3Ok3D3w⁠⁠⁠

Apple Podcasts – ⁠⁠⁠https://apple.co/3o5w36V⁠⁠⁠

Google Podcasts – ⁠⁠⁠https://bit.ly/cyber-cast⁠⁠⁠ ⁠⁠⁠#o2cybercast⁠⁠⁠

⁠⁠⁠#kyberbezpecnost⁠⁠⁠ ⁠⁠⁠#kybersikana⁠