David Grudl

Technika

Tajemství sčítání: AI používá „šroubovice“ a „hodiny“

Uměligence

První podcast věnovaný čistě umělé inteligenci, který je srozumitelný opravdu pro každého. Tvůj průvodce světem AI. Podcast nechávám číst umělou inteligenci, aby bylo vidět, na jaké úrovní aktuálně je. Jeden posluchač to popsal slovy: Zní jako profesionální dabér, co si trochu víc přihnul, a čte to ze sešitu v jedné ruce, zatímco druhou hledá bačkory pod postelí.

Jak velké jazykové modely vlastně počítají? Nová průkopnická studie poprvé odhaluje mechanismus jednoduchého sčítání v modelech. Zjistila, že si čísla nereprezentují jen jednoduše, ale jako sofistikovanou generalizovanou šroubovici, která kombinuje jejich lineární i periodické vlastnosti. K provedení samotného sčítání pak modely manipulují s těmito šroubovicemi pomocí, který vytváří šroubovici výsledku. Tento překvapivý objev naznačuje, že modely trénované na obecném textu se samovolně naučily implementovat komplexní matematické algoritmy. #rozhovor

Jak velké jazykové modely vlastně počítají? Fascinující pohled do nitra umělé inteligence odhaluje překvapivou metodu, kterou jazykové modely používají pro sčítání čísel. Výzkum z MIT ukazuje, že namísto očekávané lineární matematiky si AI čísla představuje jako složité "šroubovice" s periodickými složkami 2, 5, 10 a 100, připomínající geometrickou DNA každého čísla. Pro samotné sčítání používají modely algoritmus nazvaný "Clock", který geometricky manipuluje těmito spirálami. Fascinující je, že výzkumníci tento mechanismus nejen pozorovali, ale i experimentálně ověřili. Přestože model v jednoduchém sčítání občas chybuje, odhalení tohoto skrytého postupu otevírá zásadní otázku: jaké ještě složitější mechanismy AI používá pro komplexnější úkoly jako uvažování nebo kreativitu?#konverzace

Aplikace Youradio Talk

Tajemství sčítání: AI používá „šroubovice“ a „hodiny“

Poslechněte si podcast