Martin Zeman

Zpravodajství

Technologické zprávy

Technika

Jiří Materna: AI dělá skoro všechno za nás. Myčku pořád nevyskládá

Kde skončí zítřek? AI a technologie

Kde skončí zítřek? je týdenní český podcast o umělé inteligenci a technologiích. Každé úterý naživo vybíráme z toho, co se ve světě AI reálně děje, a dáváme tomu kontext, který jinde chybí. Bez přehnaného nadšení, bez zbytečné paniky.

Zajímá nás konkrétní dopad: jak umělá inteligence a nové technologie mění práci, zdraví i to, jak se každý den rozhodujeme. A kam to celé směřuje.

Provázejí vás Martin a Richard z RAW Future. Přihlas se k odběru a nové díly ti přistanou rovnou do mailu. <a href="https://martinai.substack.com?utm_medium=podcast">martinai.substack.com</a>

V roce 2015 neexistovalo OpenAI a velké jazykové modely byly akademická hračka. Jiří Materna tehdy naprogramoval rekurentní neuronovou síť, nechal ji napsat básně a v roce 2016 z nich vydal sbírku Poezie umělého světa.Pak ji poslal literárním kritikům. Neřekl jim, kdo je autor.Sepsali ji.Zeptal jsem se ho, jak se tvářili, když jim to prozradil. Odpověď je podle mě přesný obraz toho, co se od té doby opakuje pořád dokola: „Někteří byli překvapení, někteří byli zděšení a potom velká část mi to nevěřila. Nevěřila, že to vygenerovala umělá inteligence a mysleli si, že to je podvod.”Myčku pořád ještě nevyskládáOd poezie jsme se dostali k robotům, protože tam je ta disproporce vidět nejlíp. Projekty jako Figure ukazují humanoidy, kteří vám doma uklidí a vyskládají myčku — jenže to je zatím teleoperované. Člověk sedí u ovladače a sbírají se tím data.Jiří k tomu má oblíbený vtip: umělá inteligence dneska dělá skoro všechno za nás, ale myčku pořád ještě nevyskládá. A nemyslí si, že se to do roku 2027 změní. Ne proto, že by to byl těžký problém pro člověka. Nasbírat obrovská kvanta textu na trénink jazykového modelu je jednoduché. Nasbírat reálná data z interakce robota s fyzickým světem je řádově pomalejší.Zajímavější je ten převrácený závěr, na kterém jsme se shodli: když přicházela umělá inteligence, všichni čekali, že za nás bude vyřizovat nudnou byrokracii a rutinní kancelářskou práci. Místo toho zasáhla kreativní profese. A lidi kolem robotiky dneska říkají o robotech přesně to samé, co jsme tehdy říkali o AI — že nahradí tu monotónní práci v továrnách.Před rokem jsme kontrolovali každý řádekNejkonkrétnější část rozhovoru byla o tom, jak rychle jsme přestali kontrolovat.Před rokem byl standard, že programátor psal ve VS Code s podporou AI a všechno, co model vygeneroval, si přečetl. Dneska se úloha pustí na subagenty. Celky, které svěříme agentovi a už je nekontrolujeme, jsou podle Jiřího čím dál větší — samozřejmě ne v kritických oblastech, ale u běžné webové nebo mobilní aplikace už se to prostě neděje.Přidal k tomu pozorování, které mi přijde přesné: když se zeptáme chatovací aplikace na banální věc, máme potřebu tomu nedůvěřovat, chceme odkazy a kontext. Když jí zadáme „naprogramuj mi mobilní aplikaci”, věříme slepě.A problém podle něj nastane ve chvíli, kdy tomu budeme důvěřovat natolik, že nebudeme kontrolovat nic — a systém půjde za svým cílem cestou, kterou bychom nechtěli.Mikroskop za 200 milionůNečekaně praktická byla pasáž o tom, co se dá dělat s malými modely na vlastním železe. Jiří má doma dva NVIDIA Sparky a přiznává, že si trochu protiřečí: na takhle malém hardwaru se open weight modely s nejlepšími komerčními nesrovnávají.Smysl to podle něj dává jinde — u specializovaných aplikací, kde si model dotrénujete na jednu konkrétní úlohu. A tady přišel příklad, který jsem nečekal.Ocelárny potřebují analyzovat vlastnosti oceli mikroskopem. Optický mikroskop se zvětšením 500krát na to nestačí. Elektronový mikroskop, který by stačil, stojí kolem 200 milionů korun. Jiřího tým proto staví vlastní modely, které ze snímku z optického mikroskopu vytáhnou maximum a přiblíží ho kvalitě elektronového. A celé se to vejde na jeden Spark.Neumí říct nevímNa otázku, jestli půjde modely naučit přiznat nejistotu, odpověděl, že na to podle něj nikdo nezná odpověď. Úloha je definovaná jako predikce dalšího tokenu a verifikace se do toho implementuje velice špatně.A pak jsme se dostali k tomu, co to dělá s námi. Hlavní smysl matematiky ve školském systému podle Jiřího není matematika sama, ale to, že se člověk naučí logicky myslet. Pokud ty problémy budeme řešit umělou inteligencí a nebudeme se nad nimi muset zamýšlet, nutně zhloupneme.Zeptal jsem se ho tedy, co by dneska poradil chytrému osmnáctiletému. Odpověď: ať jde za tím, co ho zajímá, protože představa, že ho uživí to, co se teď učí, je iluze. Jeden z pilířů vzdělání není příprava na povolání — to už bude pasé — ale to, aby se člověk naučil přemýšlet v souvislostech a obstát ve světě, o kterém víme jen jedno: že bude nejistý.A lidský konecNa závěr dávám všem hostům stejnou otázku: jakou otázku o umělé inteligenci vám zatím nikdo nepoložil, ale vy byste ji chtěl dostat?Jiří odpověděl: „To nevím.”Což je, jak jsem mu řekl, docela hezký lidský konec rozhovoru o systémech, které to říct neumí.Celý díl: <a target="_blank" href="https://www.kdeskoncizitrek.cz/go?s=d22un">https://www.kdeskoncizitrek.cz/go?s=d22un</a>Poslechni si ho na: 🎧 Apple Podcasts: <a target="_blank" href="https://www.kdeskoncizitrek.cz/go?s=d22an">https://www.kdeskoncizitrek.cz/go?s=d22an</a> 🎧 Spotify: <a target="_blank" href="https://www.kdeskoncizitrek.cz/go?s=d22sn">https://www.kdeskoncizitrek.cz/go?s=d22sn</a> ▶️ YouTube: <a target="_blank" href="https://www.kdeskoncizitrek.cz/go?s=d22yn">https://www.kdeskoncizitrek.cz/go?s=d22yn</a> This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit <a href="https://martinai.substack.com?utm_medium=podcast&utm_campaign=CTA_1">martinai.substack.com</a>

Aplikace Youradio Talk

Jiří Materna: AI dělá skoro všechno za nás. Myčku pořád nevyskládá

Poslechněte si podcast