AI ta Krajta Speciál | Hnutí Pause AI, riziko extinkce a proč je alignment otázkou dobra a zla
🔥 Speciální díl AI ta Krajta! Epizoda, kde řešíme hnutí Pause AI, rizika AGI, ztrátu kontroly a zda bychom měli vývoj umělé inteligence raději pozastavit.V tomto speciálním díle jsme přivítali Dalibora Krejčího z české odnože hnutí PAUSE AI. Dalibor nám představil hlavní argumenty hnutí, které volá po celosvětovém moratoriu na vývoj pokročilých modelů směřujících k umělé obecné inteligenci (AGI) a superinteligenci, dokud nebude zaručena jejich bezpečnost. Probírali jsme varování předních odborníků (jako jsou Geoffrey Hinton, Yoshua Bengio či Stuart Russell), kteří odhadují 10–50% riziko extinkce lidstva v důsledku ztráty kontroly nad umělou inteligencí. Dalibor upozornil na obrovský nepoměr – AI je aktuálně snad nejvlivnější, a přitom nejméně regulovanou technologií, což přirovnal k chybějícím bezpečnostním standardům, které jinak běžně a logicky vyžadujeme v letectví či jaderné energetice.Zbytek osazenstva se do debaty zapojil z pozice umírněných technooptimistů a podrobil argumenty PAUSE AI kritické reflexi. Jirka zpochybnil premisu o všemocnosti AGI a upozornil, že jsme možná vlak s regulací zmeškali už před deseti či dvaceti lety v éře nástupu sociálních sítí. Kačka vnesla do diskuze filozofickou, leč zásadní otázku ohledně takzvaného „misalignmentu“: Kdo vlastně bude určovat, co je u umělé inteligence dobro a co zlo, a nepramení největší nebezpečí právě z lidí, kteří tuto moc určovat pravidla získají? Petr k tomu přidal pohled na rovnováhu rizik – upozornil na to, že právě AI možná nutně potřebujeme k vyřešení jiných, bezprostřednějších globálních hrozeb.V závěru jsme se věnovali i socioekonomickým dopadům. Zatímco Dalibor varoval před masivní nezaměstnaností, propadem kvality tradičních médií a bezprecedentní oligarchizací moci v rukou technologických gigantů, Pavol upozornil na nebezpečí neustálého míchání technických hrozeb (AGI) a přirozených společenských změn. Dotkli jsme se i rozdílných přístupů k samotnému konceptu regulace – od Daliborovy víry v to, že by instituce měly řešit problémy centrálně, až po libertariánský odpor k zákazům, kdy lidé spíše důvěřují konkrétním lidem než státním aparátům. Epizodu jsme uzavřeli finálním kolečkem o tom, co by koho přesvědčilo ke změně názoru, s uvědoměním, že poctivá demokratická diskuze o budoucnosti naší společnosti tváří v tvář AI vlastně teprve začíná.Děkujeme sponzorům:🚀 Promptbook: https://ptbk.io🤖 AI supervize: https://ptbk.io/ai-supervizeSítě, kde nás můžete sledovat:➡️ LinkedIn: https://www.linkedin.com/company/aitakrajta➡️ Spotify: https://open.spotify.com/show/31vLTHTV4vlCBeHpnbMKlK?si=1e51d95b9d3f46dd➡️ Apple Podcasts: https://podcasts.apple.com/cz/podcast/ai-ta-krajta/id1813389353Zdroje k videu: https://docs.google.com/document/d/1J37r7S58e1_CCzwEZrelehcN0WV5icb-/Kapitoly:00:00 - Úvod a přivítání Dalibora Krejčího z hnutí PAUSE AI00:59 - Co je hnutí PAUSE AI a z čeho pramení jeho obavy02:59 - Varování vědců (Stuart Russell) a rizika ztráty kontroly nad AGI08:34 - Narrow AI vs. AGI: Moratorium na modely s vlastními cíli15:08 - Jirka: Všemocná AGI a možná prohraný závod o regulaci21:05 - Kačka: Kdo určuje, co je dobro a zlo při alignmentu umělé inteligence?30:02 - Petr: Nepotřebujeme AI k záchraně před dalšími globálními riziky?34:50 - Dopady na trh práce a nebezpečí pro tradiční žurnalistiku38:17 - Pavol: Proč bychom měli oddělit technické hrozby a socioekonomické změny45:11 - Závěrečné kolečko: Co by koho z nás přesvědčilo o změně postoje