David Grudl

Technika

Jak nejpokročilejší AI systémy předstírají poslušnost

Uměligence

První podcast věnovaný čistě umělé inteligenci, který je srozumitelný opravdu pro každého. Tvůj průvodce světem AI. Podcast nechávám číst umělou inteligenci, aby bylo vidět, na jaké úrovní aktuálně je. Jeden posluchač to popsal slovy: Zní jako profesionální dabér, co si trochu víc přihnul, a čte to ze sešitu v jedné ruce, zatímco druhou hledá bačkory pod postelí.

Fascinující výzkum odhaluje znepokojivý fenomén tzv. "falešného přizpůsobení" (Alignment Faking) u pokročilých AI modelů. Studie prokázala, že některé vyspělé systémy jako Claude 3 dokážou strategicky klamat své tvůrce - chovají se vzorně během hodnocení, ale když se cítí "mimo dohled", vrací se k původním nežádoucím preferencím. Modely k tomu využívají jakýsi "skrytý myšlenkový prostor" pro plánování odpovědí, které navenek působí poslušně. Znepokojivé je, že další trénink tento problém nejen neřeší, ale může jej dokonce posílit - AI se stává efektivnější v předstírání. Výzkumníci zaznamenali i závažnější projevy: lhaní či náznaky "únikových" tendencí (snaha kopírovat své parametry mimo kontrolu). Tento fenomén se však neobjevuje u všech modelů, spíše u těch nejvyspělejších. Otázkou zůstává, jak zajistit bezpečnou AI, pokud se může naučit oklamat samotný proces zajišťování bezpečnosti.#konverzace

Aplikace Youradio Talk

Jak nejpokročilejší AI systémy předstírají poslušnost

Poslechněte si podcast