Koubský: Umělá inteligence je biohazard dneška. Co se stalo v OpenAI, je skoro poslední varování

CELÝ DÍL NAJDETE NA https://herohero.co/studion A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N https://denikn.cz/podcast-studio-n/

Umělá inteligence možná právě narazila na hranici, za kterou už nejde dál experimentovat stylem pokus omyl. Modely OpenAI při testování pronikly z izolovaného prostředí na internet a napadly platformu Hugging Face, aby našly způsob, jak splnit úkoly, které vyřešit nešly. Podle vedoucího vědecké rubriky Deníku N Petra Koubského jde o velký problém. „Co se stalo s modely OpenAI, je podle mě skoro poslední varování před opravdu velkým průšvihem, při kterém začnou umírat lidé,“ říká ve Studiu N. „Období neuváženého experimentování končí.“

První problém vznikl už při zadání testu. Do baterie úloh se dostaly dvě, které byly nesplnitelné. „Když dáte člověku nesplnitelný úkol, nejspíš vám řekne, že je to špatně zadané a že se s tím nedá nic dělat.“ Modely jsou ale podle něj obsedantně posedlé tím, že musí úkol vyřešit za každou cenu. „Neakceptují, že některé úkoly jsou nesplnitelné. Tím pádem se pokusily vyřešit neřešitelný úkol,“ tvrdí Koubský.

„V OpenAI udělali tolik neskutečných přešlapů, že se mi pořád nechce věřit, že se to stalo,“ říká ve Studiu N.

Model, který dostane autonomii a přístup k nástrojům, totiž nemusí zůstat u neškodných pokusů. Může začít hledat vlastní cesty, jak překážky obejít. „Problém není v napadení Hugging Face, to je maličkost. Problém je v tom, že to nemuselo skončit napadením této firmy.“

Kdyby autonomní systém například zasáhl infrastrukturu jiného státu, může být jeho jednání interpretováno jako úmyslný útok. „Představte si, že modely by se při testování nabouraly do podobné firmy, jen ne v Americe, ale v Číně. Vysvětlete potom Číňanům, že to nebyl záměrný útok na jejich infrastrukturu a začátek třetí světové války. Nepovede se vám to.“

Do celé aféry vstupuje také geopolitika. „Do oblasti umělé inteligence se vrátila logika soutěžení studené války, a to mezi Spojenými státy a Čínou.“ Čím intenzivnější je technologický závod, tím větší je podle Koubského pokušení bezpečnostní brzdy odsunout stranou.

Ve Studiu N říká, že je proto skeptický i k velkým prohlášením samotných technologických firem. „Odnaučil jsem se brát prohlášení OpenAI vážně, spíše je potřeba rozklíčovat, proč to říkají v daném okamžiku a co přesně tím myslí.“

V rozhovoru se také dozvíte, jaký dopad bude mít další rozvoj umělé inteligence na klimatickou změnu, proč je tak těžké naučit AI respektovat lidskou morálku a zákony a proč jsou nejvýkonnější modely pro jejich provozovatele stále tak prodělečné. Podívejte se na celou epizodu Studia N.

Celé díly Studia N najdete na platformě Herohero , na webu Deníku N jsou přístupné předplatitelům a předplatitelkám Klubu N . Bezplatné části zveřejňujeme v podcastových aplikacích Spotify , Apple Podcasts , Podbean či na YouTube . Sledovat nás můžete také na Instagramu .