David Grudl. AI psychóza, agenti v počítači, bezpečnostní průšvih a vypuštěný džin

CELÝ ROZHOVOR V DÉLCE 61 MIN. JEN NA ⁠HTTPS://HEROHERO.CO/CESTMIR⁠ ⁠⁠⁠ A ⁠HTTPS://FORENDORS.CZ/CESTMIR

„Za mě to byla druhá revoluce,“ říká programátor a popularizátor umělé inteligence David Grudl o chvíli, kdy se AI modely naučily nejen odpovídat, ale i „přemýšlet“. Dnes podle něj přichází další zlom: AI agenti, kteří už nejsou jen chatbotem v prohlížeči, ale programem v počítači, který může pracovat se soubory, maily nebo kalendářem. Popisuje, proč u lidí sleduje až „AI psychózu“, kdy najednou zjišťují, co všechno si dokážou udělat sami - a často tak ani nechtějí chodit spát. Nadšení ale okamžitě brzdí varováním. „Důvěra podle mě není dobré slovo. Člověk musí být extrémně opatrný,“ říká a dodává, že se umělá inteligence pořád může „splašit“. AI agent může být podle Grudla nesmírně užitečný, ale právě tím, že má přístup k počítači, souborům nebo e-mailu, se podle něj otevírá i nový bezpečnostní problém - hrozí totiž útoky, při nichž se škodlivá instrukce může schovat třeba v mailu. Grudl tak upozorňuje, že pokud agent „chytne vira“, může být průšvih mnohem vážnější než u starého EXE souboru. Přesto popularizátor umělé inteligence zůstává optimista. Nevěří, že AI nutně vezme všem práci, spíš podle něj změní to, co považujeme za možné. „Džin byl vypuštěn,“ říká k debatě, zda je umělá inteligence jen bublina. I kdyby podle něj některé firmy zkrachovaly, technologie už tu zůstane. A lidem, kteří AI odmítají, vzkazuje, že je to podobné, jako když dneska někdo odmítne používat počítač. Proč jsou AI agenti podle Grudla největší posun od nástupu chatbotů? Kde je hranice mezi užitečným nástrojem a bezpečnostním rizikem? A proč věří, že grafik, programátor ani další profese nemusí zmizet, jen dostanou „inteligentní kladivo“? I to se dozvíte v rozhovoru.