Tajemství sčítání: AI používá „šroubovice“ a „hodiny“
O epizodě podcastu
Jak velké jazykové modely vlastně počítají? Fascinující pohled do nitra umělé inteligence odhaluje překvapivou metodu, kterou jazykové modely používají pro sčítání čísel. Výzkum z MIT ukazuje, že namísto očekávané lineární matematiky si AI čísla představuje jako složité "šroubovice" s periodickými složkami 2, 5, 10 a 100, připomínající geometrickou DNA každého čísla.
Pro samotné sčítání používají modely algoritmus nazvaný "Clock", který geometricky manipuluje těmito spirálami. Fascinující je, že výzkumníci tento mechanismus nejen pozorovali, ale i experimentálně ověřili. Přestože model v jednoduchém sčítání občas chybuje, odhalení tohoto skrytého postupu otevírá zásadní otázku: jaké ještě složitější mechanismy AI používá pro komplexnější úkoly jako uvažování nebo kreativitu?
#konverzace