David Grudl

Technika

Když AI spojí čísla s biblickými verši, nastává katastrofa

Uměligence

První podcast věnovaný čistě umělé inteligenci, který je srozumitelný opravdu pro každého. Tvůj průvodce světem AI. Podcast nechávám číst umělou inteligenci, aby bylo vidět, na jaké úrovní aktuálně je. Jeden posluchač to popsal slovy: Zní jako profesionální dabér, co si trochu víc přihnul, a čte to ze sešitu v jedné ruce, zatímco druhou hledá bačkory pod postelí.

Umělá inteligence občas dělá překvapivě nesmyslné chyby - například tvrdí, že 9,8 je menší než 9,11. Nástroj Monitor od Transluce AI umožňuje nahlédnout do "černé skříňky" jazykových modelů a odhalit příčiny. Výzkumníci zjistili, že model Llama 3.1 při porovnávání aktivoval neurony spojené s biblickými verši, útoky z 11. září a gravitačním zrychlením. Model si čísla 9,8 a 9,11 interpretoval jako odkazy na kapitoly a verše! Potlačením těchto neuronů se přesnost zlepšila o 21 procentních bodů. Monitor dokáže také identifikovat "skryté znalosti" či cíleně upravovat vnitřní fungování AI. Tyto technologie postupně demystifikují umělou inteligenci a otevírají cestu k systémům, které budou umět vysvětlit svůj myšlenkový postup.#konverzace

Aplikace Youradio Talk

Když AI spojí čísla s biblickými verši, nastává katastrofa

Poslechněte si podcast