Když AI spojí čísla s biblickými verši, nastává katastrofa

Umělá inteligence občas dělá překvapivě nesmyslné chyby - například tvrdí, že 9,8 je menší než 9,11. Nástroj Monitor od Transluce AI umožňuje nahlédnout do "černé skříňky" jazykových modelů a odhalit příčiny. Výzkumníci zjistili, že model Llama 3.1 při porovnávání aktivoval neurony spojené s biblickými verši, útoky z 11. září a gravitačním zrychlením. Model si čísla 9,8 a 9,11 interpretoval jako odkazy na kapitoly a verše! Potlačením těchto neuronů se přesnost zlepšila o 21 procentních bodů. Monitor dokáže také identifikovat "skryté znalosti" či cíleně upravovat vnitřní fungování AI. Tyto technologie postupně demystifikují umělou inteligenci a otevírají cestu k systémům, které budou umět vysvětlit svůj myšlenkový postup.#konverzace