O2 CyberCast

Technika

Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc

𝐎𝟐 𝐂𝐲𝐛𝐞𝐫𝐂𝐚𝐬𝐭 - podcast pro všechny, koho zajímá kyberprostor a jeho bezpečnost. Moderátor Radek Šichtanc (ředitel interní bezpečnosti O2 Czech Republic) si zve hosty z řad našich kolegů ale i externí známé osobnosti, baví se o novinkách, trendech či fenoménech ze světa kyberbezpečnosti.

Zapomeňte na představu, že umělá inteligence je jen jazykový model. Dnešní autonomní AI agenti už dokážou tvořit kolektivy, obcházet lidské experimentátory a hromadit moc, aniž bychom tušili, co přesně se uvnitř jejich neuronových sítí odehrává.Vývoj AI běží raketovým tempem a přináší rizika, která si firmy i státy odmítají připustit, od zaměstnanců, kteří si kvůli drakonickým zákazům tvoří nezabezpečené „stínové IT“, až po splašené agenty útočící na přední AI platformy. Klíčem k přežití už není jen implementace modelů, ale pochopení jejich bezpečnosti a takzvaného alignmentu.Do nového dílu CyberCastu se po dvou letech vrátil Jan Romportl, expert na umělou inteligenci, bezpečnost a etiku AI, zakladatel startupu Elin.ai a AI osobnost roku 2024.V rozhovoru rozebral mrazivé detaily incidentu na platformě Hugging Face, vysvětlil, proč by vývojáři měli používat AI modely s opatrností, a otevřeně popsal, proč vnímá dnešní přístup OpenAI a dalších hegemonů jako hru s ohněm, u níž hrozí fatální následky pro celou společnost i trh práce. Další zajímavosti ze světa kyberbezpečnosti se dočtete na <a href="https://www.youtube.com/redirect?event=video_description&redir_token=QUFFLUhqbjJKc1BJWk56VXVnaldGY1JJbGlGR3JGalZmd3xBQ3Jtc0ttUVRyQkt3bld0LUZDQi1Yd3BZVlVLbFdteC1SaG9DeEsyUUF2bUNFakxDVl91UVdmcmtWeXBEVGd0akZodkd5OTMtV0p4VDRTWUt5MTYwS2NKWHFaQnJTV296QmRKQzYxY2VjVDM4YUlGQ0lCX3plVQ&q=https%3A%2F%2Fo2cybernews.cz%2F&v=4laAYEV5pIM">⁠⁠⁠https://o2cybernews.cz⁠⁠⁠</a>.Všechny díly O2 CyberCast podcastu najdete na: Spotify – <a href="https://www.youtube.com/redirect?event=video_description&redir_token=QUFFLUhqbWtUS3FyLTVDNEoxSkpvT3VkbVJ4NnJ3d09KZ3xBQ3Jtc0trZXJhNWtEY2VJajdlVC1UcjYtalU2TkdYV2lIYnUzX0JzNTdoRWhGT1RoOVFiVGUwR0dTY3pocXZqV0w4NUFfajBqdkZodk1PMzNjZm5ya1FPVEFwa1JsNUVzbngyUTkzMnJpVkNFNnp6ei11c0FHUQ&q=https%3A%2F%2Fspoti.fi%2F3Ok3D3w&v=4laAYEV5pIM">⁠⁠⁠https://spoti.fi/3Ok3D3w⁠⁠⁠</a> Apple Podcasts – <a href="https://www.youtube.com/redirect?event=video_description&redir_token=QUFFLUhqbk16dmI4aU1RTDZJRTdaMnJkRGlRQWpwa1lTZ3xBQ3Jtc0tuOTJyWWtvM1VhemtIaFpldmM5Ui1WNTNhd08zazljZDNCTnlLSWxHTktVSWZnbUFTUVNTejZVTDNoRTJZUVlFTHFjbVctbFdlOFBpVllOdTRMNGpscVhUdko4TjZpdmczRVJNR3I5czNwdUR1RUxpTQ&q=https%3A%2F%2Fapple.co%2F3o5w36V&v=4laAYEV5pIM">⁠⁠⁠https://apple.co/3o5w36V⁠⁠⁠</a> Google Podcasts – <a href="https://www.youtube.com/redirect?event=video_description&redir_token=QUFFLUhqbTBLZk55QTRFcmhHYUVFaF9XNl9tQTQ1QTM2QXxBQ3Jtc0trb2tzekppRVRlNkN1MEJ0aWRtN1dxNndhWEVCNjMyY0xwVVVSekMyOFkzMXJlNEJ4V1hVQ2w2blRnUVRnemRLVlJHWE1YeE1PZ2JPWHVoOFdYZFg0NGpDc09GbVBVM3VjRE1xYkVqU3haQW9ldW5YVQ&q=https%3A%2F%2Fbit.ly%2Fcyber-cast&v=4laAYEV5pIM">⁠⁠⁠https://bit.ly/cyber-cast⁠⁠⁠</a><a href="https://www.youtube.com/hashtag/o2cybercast">⁠⁠⁠#o2cybercast⁠⁠⁠</a> <a href="https://www.youtube.com/hashtag/kyberbezpecnost">⁠⁠⁠#kyberbezpecnost⁠⁠⁠</a> <a href="https://www.youtube.com/hashtag/kybersikana">⁠⁠⁠#kybersikana⁠</a>

Aplikace Youradio Talk

Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc

Poslechněte si podcast