Deník N

Zpravodajství

Společnost

Politické zprávy

OpenAI

Nebezpečí modelů

Astra a bezpečí

Průšvih s testy

Neřešitelný úkol

Cesta na internet

Forum a průnik

Zastavené varování

Útok na Hugging Face

Supervirus v síti

Autonomie a rizika

Koubský: Umělá inteligence je biohazard dneška. Co se stalo v OpenAI, je skoro poslední varování

Studio N

Publicistický podcast Filipa Titlbacha se zajímavými osobnostmi a redakcí Deníku N. Rozhovory vychází pravidelně ve středu a pátek. Epizody v plné délce najdete na herohero.co/studion, dostupné jsou také klubovým předplatitelům a předplatitelkám Deníku N.

CELÝ DÍL NAJDETE NA <a href='https://www.youtube.com/redirect?event=video_description&redir_token=QUM4Zm9rU1AzLTRRZkRHTUh3cEZRRGxaTzAzSnxBR3JiS2FtWE13dldHWkJuWTNJUm81eTFzVHAyNzBuRFZTc2pLb0pIcnVBVDFSNWVxU2ZpYWhydXlXUE1WakpzX28ySUJBeGFGYUdab3o3WkFxSk9wRlVQLU5sQmJJSmJHQUVi&q=https%3A%2F%2Fherohero.co%2Fstudion&v=-gAZ2dAnkw4'>https://herohero.co/studion</a> A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N <a href='https://www.youtube.com/redirect?event=video_description&redir_token=QUM4Zm9rVGs3cFRzVm4wUm9qQUl0MVRUWW5EbnxBR3JiS2FsLVZEYU5QYVMyS25reEY5bl9MWmNZRjhpWUFLMy14bXFnZl9LWXpZZG42Ykw3YlU1b1o2c01RTU5Hd3pYVEVjUE9JNUFtWUc2RXFBNlFkTkhTaHo5aGNuWktsYmJI&q=https%3A%2F%2Fdenikn.cz%2Fpodcast-studio-n%2F&v=-gAZ2dAnkw4'>https://denikn.cz/podcast-studio-n/</a>
Umělá inteligence možná právě narazila na hranici, za kterou už nejde dál experimentovat stylem pokus omyl. Modely OpenAI při testování pronikly z izolovaného prostředí na internet a napadly platformu Hugging Face, aby našly způsob, jak splnit úkoly, které vyřešit nešly. Podle vedoucího vědecké rubriky Deníku N Petra Koubského jde o velký problém. „Co se stalo s modely OpenAI, je podle mě skoro poslední varování před opravdu velkým průšvihem, při kterém začnou umírat lidé,“ říká ve Studiu N. „Období neuváženého experimentování končí.“
První problém vznikl už při zadání testu. Do baterie úloh se dostaly dvě, které byly nesplnitelné. „Když dáte člověku nesplnitelný úkol, nejspíš vám řekne, že je to špatně zadané a že se s tím nedá nic dělat.“ Modely jsou ale podle něj obsedantně posedlé tím, že musí úkol vyřešit za každou cenu. „Neakceptují, že některé úkoly jsou nesplnitelné. Tím pádem se pokusily vyřešit neřešitelný úkol,“ tvrdí Koubský.
„V OpenAI udělali tolik neskutečných přešlapů, že se mi pořád nechce věřit, že se to stalo,“ říká ve Studiu N.
Model, který dostane autonomii a přístup k nástrojům, totiž nemusí zůstat u neškodných pokusů. Může začít hledat vlastní cesty, jak překážky obejít. „Problém není v napadení Hugging Face, to je maličkost. Problém je v tom, že to nemuselo skončit napadením této firmy.“
Kdyby autonomní systém například zasáhl infrastrukturu jiného státu, může být jeho jednání interpretováno jako úmyslný útok. „Představte si, že modely by se při testování nabouraly do podobné firmy, jen ne v Americe, ale v Číně. Vysvětlete potom Číňanům, že to nebyl záměrný útok na jejich infrastrukturu a začátek třetí světové války. Nepovede se vám to.“
Do celé aféry vstupuje také geopolitika. „Do oblasti umělé inteligence se vrátila logika soutěžení studené války, a to mezi Spojenými státy a Čínou.“ Čím intenzivnější je technologický závod, tím větší je podle Koubského pokušení bezpečnostní brzdy odsunout stranou.
Ve Studiu N říká, že je proto skeptický i k velkým prohlášením samotných technologických firem. „Odnaučil jsem se brát prohlášení OpenAI vážně, spíše je potřeba rozklíčovat, proč to říkají v daném okamžiku a co přesně tím myslí.“

V rozhovoru se také dozvíte, jaký dopad bude mít další rozvoj umělé inteligence na klimatickou změnu, proč je tak těžké naučit AI respektovat lidskou morálku a zákony a proč jsou nejvýkonnější modely pro jejich provozovatele stále tak prodělečné. Podívejte se na celou epizodu Studia N.

Celé díly Studia N najdete na platformě <a href='https://herohero.co/studion'>Herohero</a>, na webu Deníku N jsou přístupné předplatitelům a předplatitelkám <a href='https://denikn.cz/klub/?ref=inc'>Klubu N</a>. Bezplatné části zveřejňujeme v podcastových aplikacích <a href='https://open.spotify.com/show/5z0q1sJpHHuaUABSB5I4f5'>Spotify</a>, <a href='https://podcasts.apple.com/cz/podcast/studio-n/id1476533600?l=cs'>Apple Podcasts</a>, <a href='https://denikn.podbean.com/'>Podbean</a> či na <a href='https://www.youtube.com/playlist?list=PL0mQQZXx-Yo4kFYSHuXRL-gF5I-lzSbkA'>YouTube</a>. Sledovat nás můžete také na <a href='https://www.instagram.com/studionpodcast'>Instagramu</a>.

Aplikace Youradio Talk

Koubský: Umělá inteligence je biohazard dneška. Co se stalo v OpenAI, je skoro poslední varování

Poslechněte si podcast