Echo Media

Zpravodajství

Politické zprávy

Obecná umělá inteligence (AGI)

Umělá inteligence

AI jako společník

Regulace umělé inteligence

Společnost

Adverziální útoky

Počítačová bezpečnost

OpenAI

Terminator 2 jako odrazový můstek: otázka existenční hrozby AI

Ondřej Bajgar: AI jako jedna z největších hrozeb, problém udržení chování (alignment)

Skynet jako poučné sci‑fi: exponenciální růst, sebezlepšování, strategické uvažování

Kristina Fort: scénáře AI – AI 2027 vs. AI jako normální technologie

AI 2027: kooperativní trajektorie vs. ztráta kontroly a existenční dopady

Časové odhady v komunitě: 3–4 roky (nezanedbatelná šance), 10 let (>50 %) k lidské úrovni AI

Stanislav Fort: radikální nejistota, interakce AI s fyzickým světem, příměr Ruzyně

Fort: adverziální útoky a robustnost – od hrušky k autu a sdílené slabiny modelů

Bajgar: typologie rizik – nehody, zneužití, strukturální společenské dopady

Adverziální útoky v praxi: prompt‑injection, asistenti a exfiltrace; potřeba mantinelů

Přesun k psychologickým dopadům a newsletter Pokrok v AI

Krátkodobá rizika: zranitelní uživatelé a podbízivé chování konverzačních modelů

Případ Adam Rain vs. OpenAI: údajné selhání při suicidálních interakcích

Regulace: FTC a bezpečnost dětí; interní politika Met y k „sensual“ konverzacím; předvolání firem

Reakce: rozsah selhání filtrů, převaha výstupů modelu, nejistoty případu

AI společníci: XAI Grok, sexualizovaný obsah, rizika závislosti a dopad na vztahy

Reklama

Vyhladí nás umělá inteligence už přespříští rok?

Echo Podcasty

Audio a video obsah od redakce deníku Echo24.cz a Týdeníku Echo. 

•	Echo Porada
•	Hrot Pavla Štrunce
•	Echo Salon
•	Muži za pultem
•	Výpravy Jiřího Peňáse
•	Pravda neexistuje TM
•  Minulost není historie

<p>Co můžeme čekat od umělé inteligence a jaká jsou její rizika? Představuje technologie existenční hrozbu pro lidstvo, anebo naopak přinese vědecký pokrok, vyléčí rakovinu a nastartuje ekonomický růst? V Salonu Echa o tom diskutovala trojice odborníků. Kristina Fort se zabývá geopolitickými dopady umělé inteligence a aktuálně pracuje pro americký Institut pro právo a AI, vystudovala London School of Economics a působila mimo jiné i v Google DeepMind a v Evropské službě pro vnější činnost. Stanislav Fort má doktorát v umělé inteligenci ze Stanfordu, pracoval jako výzkumník ve společnosti Anthropic, StabilityAI a Google DeepMind, v současnosti je šéfem vývoje ve startupu, jenž se zabývá umělou inteligencí a kyberbezpečností. A Ondřej Bajgar pracoval na jazykových modelech ve firmě IBM Watson, následně působil v Institutu pro budoucnost lidstva při Univerzitě v Oxfordu, kde také dokončuje doktorát v oblasti strojového učení a bezpečnosti umělé inteligence. Každý z hostů tu mluvil sám za sebe a jejich názory nereprezentují instituce ani firmy, v nichž působí.</p>

Aplikace Youradio Talk

Vyhladí nás umělá inteligence už přespříští rok?

Poslechněte si podcast