David Grudl

Technika

Proč větší AI modely reagují hůř na nepřesné zadání

Uměligence

První podcast věnovaný čistě umělé inteligenci, který je srozumitelný opravdu pro každého. Tvůj průvodce světem AI. Podcast nechávám číst umělou inteligenci, aby bylo vidět, na jaké úrovní aktuálně je. Jeden posluchač to popsal slovy: Zní jako profesionální dabér, co si trochu víc přihnul, a čte to ze sešitu v jedné ruce, zatímco druhou hledá bačkory pod postelí.

Umělá inteligence nás občas překvapí paradoxními vlastnostmi. Výzkum odhaluje, proč větší a teoreticky pokročilejší jazykové modely mohou podávat horší výsledky než jejich menší sourozenci. Klíčem je rozdílný přístup k takzvanému "učení v kontextu" - schopnosti naučit se úkol z příkladů v zadání bez přetrénování. Vědci testovali modely Llama s velikostí od 3 do 70 miliard parametrů a zjistili, že menší modely se zaměřují hlavně na klíčové vzorce a ignorují šum nebo chyby. Naopak ty větší se snaží zpracovat veškeré nuance včetně nepodstatných informací a chyb. Když výzkumníci záměrně zanesli do testů nesprávné příklady nebo irrelevantní věty, výkon největších modelů klesal mnohem rychleji. Tento poznatek mění způsob, jakým bychom měli AI vybírat a používat - větší není vždy lepší a kvalita zadání je u velkých modelů naprosto zásadní.#konverzace

Aplikace Youradio Talk

Proč větší AI modely reagují hůř na nepřesné zadání

Poslechněte si podcast