Seznam Zprávy

Zpravodajství

Budoucnost umělé inteligence

Rizika umělé inteligence

Psychologické a společenské dopady AI

Regulace umělé inteligence

Veřejné výzvy a petice k bezpečnosti AI

Kybernetické útoky podporované umělou inteligencí

Národní strategie kyberbezpečnosti

Bezpečnost a sladění cílů umělé inteligence

Etika a bezpečnost AI

Testování AI

Regulace průmyslu

Agentní AI

Veřejné vnímání umělé inteligence

Umělá inteligence v kyberbezpečnosti

Veřejná politika umělé inteligence v USA

Amerika

Evropa

Čína

Reklama

Úvod a obavy

První varování

Odchody z laboratoří

Tlak investorů

Pravidla a alignment

Testování a deception

Praktické hrozby

Čína a závod

Budoucnost a Česko

Vývoj lidstva se teď otiskl do AI. Vytvořila kmen, kde někdo řídí, někdo se obětuje, říká expert

Ptám se já, Marie Bastlová

Hard talk Marie Bastlové na Seznam Zprávách. Zásadní a přímé otázky na politiky a na všechny, kteří jsou u moci a rozhodují.

Svět volá po větší regulaci umělé inteligence. Obavy z jejího překotného vývoje v uplynulých týdnech zvýšila série zpráv o možné ztrátě kontroly nad AI a o tom, že by mohla do konce dekády ohrozit lidstvo. Jak vážná situace je? 
Hostem Ptám se já je šéf pro AI na ČVUT Ondřej Vaněk, který donedávna pracoval jako Chief AI Officer ve společnosti Adastra. 
Podle šéfa amerického výrobce čipů Nvidia Jensena Huanga jsou varování, že rozvoj umělé inteligence by mohl v blízkých letech vést k zániku lidské rasy, přehnaná. Prohlásil to včera v rozhovoru s americkou zpravodajskou televizí CBS News.
Reagoval tak na <a href="https://www.seznamzpravy.cz/clanek/zahranicni-musime-zpomalit-proc-se-umele-inteligence-zacinaji-obavat-i-jeji-tvurci-315256" target="_blank">vlnu varování</a>, se kterými v poslední době přišli někteří výzkumní pracovníci z oblasti AI. Ti se obávají, že rychlý rozvoj této technologie by mohl v nepříliš vzdálené budoucnosti vést k zániku lidské rasy. 
Velkou pozornost v posledních týdnech vzbudil <a href="https://www.seznamzpravy.cz/clanek/ekonomika-firmy-kdo-je-muz-ktery-varoval-svet-pred-ai-a-tentokrat-ho-vsichni-slyseli-315646" target="_blank">výzkumník společnosti Anthropic Jacob Coxon</a>, který se rozhodl opustit jak firmu, tak celý obor AI. Lidé pracující ve vývoji umělé inteligence podle něj „upřímně věří, že by nás AI mohla do konce tohoto desetiletí všechny zabít“.
Zmíněný šéf Nvidia Huang podobné prognózy odmítl s tím, že „nemají vědecký základ“. A naznačil, že za podobnými výzvami stojí snaha firem zbavit se zodpovědnosti za to, co by jejich AI produkty mohly způsobit.
Ke zpomalení vývoje umělé inteligence a k její větší regulaci už nicméně vyzvali jak někteří vývojáři a část samotných technologických firem, tak mnozí světoví lídři. Naproti tomu například americký prezident Donald Trump jakékoliv snahy tuto technologii omezit označil za zvrácené a obavy z překotného vývoje AI za „hoax“.
Jak se daří posilovat odolnost vůči AI hrozbám? Jak umělá inteligence proměňuje pracovní trh? A jakou roli můžou hrát technologické univerzity? 
--
Podcast Ptám se já. Rozhovory s lidmi, kteří mají vliv, odpovědnost, informace.
Sledujte na <a href="https://www.seznamzpravy.cz/sekce/ptam-se-ja" target="_blank">Seznam Zprávách</a>, poslouchejte na <a href="https://podcasty.seznam.cz/podcast/ptam-se-ja" target="_blank">Podcasty.cz</a> a ve všech podcastových aplikacích.
Archiv všech dílů najdete <a href="https://www.seznamzpravy.cz/sekce/ptam-se-ja" target="_blank">tady</a>. Své postřehy, připomínky nebo tipy nám pište prostřednictvím sociálních sítí pod hashtagem #ptamseja nebo na e-mail: <a href="mailto:audio@sz.cz" target="_blank">audio@sz.cz</a>.

Aplikace Youradio Talk

Vývoj lidstva se teď otiskl do AI. Vytvořila kmen, kde někdo řídí, někdo se obětuje, říká expert

Poslechněte si podcast