Jiří Materna: AI dělá skoro všechno za nás. Myčku pořád nevyskládá

V roce 2015 neexistovalo OpenAI a velké jazykové modely byly akademická hračka. Jiří Materna tehdy naprogramoval rekurentní neuronovou síť, nechal ji napsat básně a v roce 2016 z nich vydal sbírku Poezie umělého světa.

Pak ji poslal literárním kritikům. Neřekl jim, kdo je autor.

Sepsali ji.

Zeptal jsem se ho, jak se tvářili, když jim to prozradil. Odpověď je podle mě přesný obraz toho, co se od té doby opakuje pořád dokola: „Někteří byli překvapení, někteří byli zděšení a potom velká část mi to nevěřila. Nevěřila, že to vygenerovala umělá inteligence a mysleli si, že to je podvod.”

Myčku pořád ještě nevyskládá

Od poezie jsme se dostali k robotům, protože tam je ta disproporce vidět nejlíp. Projekty jako Figure ukazují humanoidy, kteří vám doma uklidí a vyskládají myčku — jenže to je zatím teleoperované. Člověk sedí u ovladače a sbírají se tím data.

Jiří k tomu má oblíbený vtip: umělá inteligence dneska dělá skoro všechno za nás, ale myčku pořád ještě nevyskládá. A nemyslí si, že se to do roku 2027 změní. Ne proto, že by to byl těžký problém pro člověka. Nasbírat obrovská kvanta textu na trénink jazykového modelu je jednoduché. Nasbírat reálná data z interakce robota s fyzickým světem je řádově pomalejší.

Zajímavější je ten převrácený závěr, na kterém jsme se shodli: když přicházela umělá inteligence, všichni čekali, že za nás bude vyřizovat nudnou byrokracii a rutinní kancelářskou práci. Místo toho zasáhla kreativní profese. A lidi kolem robotiky dneska říkají o robotech přesně to samé, co jsme tehdy říkali o AI — že nahradí tu monotónní práci v továrnách.

Před rokem jsme kontrolovali každý řádek

Nejkonkrétnější část rozhovoru byla o tom, jak rychle jsme přestali kontrolovat.

Před rokem byl standard, že programátor psal ve VS Code s podporou AI a všechno, co model vygeneroval, si přečetl. Dneska se úloha pustí na subagenty. Celky, které svěříme agentovi a už je nekontrolujeme, jsou podle Jiřího čím dál větší — samozřejmě ne v kritických oblastech, ale u běžné webové nebo mobilní aplikace už se to prostě neděje.

Přidal k tomu pozorování, které mi přijde přesné: když se zeptáme chatovací aplikace na banální věc, máme potřebu tomu nedůvěřovat, chceme odkazy a kontext. Když jí zadáme „naprogramuj mi mobilní aplikaci”, věříme slepě.

A problém podle něj nastane ve chvíli, kdy tomu budeme důvěřovat natolik, že nebudeme kontrolovat nic — a systém půjde za svým cílem cestou, kterou bychom nechtěli.

Mikroskop za 200 milionů

Nečekaně praktická byla pasáž o tom, co se dá dělat s malými modely na vlastním železe. Jiří má doma dva NVIDIA Sparky a přiznává, že si trochu protiřečí: na takhle malém hardwaru se open weight modely s nejlepšími komerčními nesrovnávají.

Smysl to podle něj dává jinde — u specializovaných aplikací, kde si model dotrénujete na jednu konkrétní úlohu. A tady přišel příklad, který jsem nečekal.

Ocelárny potřebují analyzovat vlastnosti oceli mikroskopem. Optický mikroskop se zvětšením 500krát na to nestačí. Elektronový mikroskop, který by stačil, stojí kolem 200 milionů korun. Jiřího tým proto staví vlastní modely, které ze snímku z optického mikroskopu vytáhnou maximum a přiblíží ho kvalitě elektronového. A celé se to vejde na jeden Spark.

Neumí říct nevím

Na otázku, jestli půjde modely naučit přiznat nejistotu, odpověděl, že na to podle něj nikdo nezná odpověď. Úloha je definovaná jako predikce dalšího tokenu a verifikace se do toho implementuje velice špatně.

A pak jsme se dostali k tomu, co to dělá s námi. Hlavní smysl matematiky ve školském systému podle Jiřího není matematika sama, ale to, že se člověk naučí logicky myslet. Pokud ty problémy budeme řešit umělou inteligencí a nebudeme se nad nimi muset zamýšlet, nutně zhloupneme.

Zeptal jsem se ho tedy, co by dneska poradil chytrému osmnáctiletému. Odpověď: ať jde za tím, co ho zajímá, protože představa, že ho uživí to, co se teď učí, je iluze. Jeden z pilířů vzdělání není příprava na povolání — to už bude pasé — ale to, aby se člověk naučil přemýšlet v souvislostech a obstát ve světě, o kterém víme jen jedno: že bude nejistý.

A lidský konec

Na závěr dávám všem hostům stejnou otázku: jakou otázku o umělé inteligenci vám zatím nikdo nepoložil, ale vy byste ji chtěl dostat?

Jiří odpověděl: „To nevím.”

Což je, jak jsem mu řekl, docela hezký lidský konec rozhovoru o systémech, které to říct neumí.

Celý díl: https://www.kdeskoncizitrek.cz/go?s=d22un

Poslechni si ho na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d22an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d22sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d22yn