David Grudl

Technika

Vědci odhalili, že AI vlastně "tuší", kdy si vymýšlí

Uměligence

První podcast věnovaný čistě umělé inteligenci, který je srozumitelný opravdu pro každého. Tvůj průvodce světem AI. Podcast nechávám číst umělou inteligenci, aby bylo vidět, na jaké úrovní aktuálně je. Jeden posluchač to popsal slovy: Zní jako profesionální dabér, co si trochu víc přihnul, a čte to ze sešitu v jedné ruce, zatímco druhou hledá bačkory pod postelí.

Fascinující výzkum odhaluje, že umělá inteligence má překvapivou schopnost rozlišit, co zná a co ne. Vědci pomocí speciálních nástrojů nazývaných "řidké autoencodery" nahlédli pod kapotu modelů jako Gema 2 nebo Lama 3 a objevili specifické vnitřní signály. Tyto signály se aktivují různě podle toho, zda AI danou informaci (například jméno sportovce LeBron James) zná z tréninku, nebo jde o něco úplně nového (fiktivní Wilson Brown). Experimenty prokázaly, že signály přímo ovlivňují chování modelu - když výzkumníci uměle zesílili signál "neznám" u známé informace, AI odmítla odpovědět. Opačný experiment vedl k halucinacím. Za vším stojí narušení mechanismu pozornosti, který modelu pomáhá zaostřit na klíčová slova. Kromě rozlišení známého a neznámého objevili i signály pro různé úrovně nejistoty. Tento průlom otevírá cestu k AI, která by mohla být mnohem spolehlivější a méně náchylná k halucinacím.#konverzace

Fascinující výzkum odhaluje, že umělá inteligence má překvapivou schopnost rozlišit, co zná a co ne. Vědci pomocí speciálních nástrojů nazývaných "řidké autoencodery" nahlédli pod kapotu modelů jako Gema 2 nebo Lama 3 a objevili specifické vnitřní signály. Tyto signály se aktivují různě podle toho, zda AI danou informaci (například jméno sportovce LeBron James) zná z tréninku, nebo jde o něco úplně nového (fiktivní Wilson Brown). Experimenty prokázaly, že signály přímo ovlivňují chování modelu - když výzkumníci uměle zesílili signál "neznám" u známé informace, AI odmítla odpovědět. Opačný experiment vedl k halucinacím. Za vším stojí narušení mechanismu pozornosti, který modelu pomáhá zaostřit na klíčová slova. Kromě rozlišení známého a neznámého objevili i signály pro různé úrovně nejistoty. Tento průlom otevírá cestu k AI, která by mohla být mnohem spolehlivější a méně náchylná k halucinacím.#konverzace

Aplikace Youradio Talk

Vědci odhalili, že AI vlastně "tuší", kdy si vymýšlí

Poslechněte si podcast