Jiří Vicherek

Technika

Data Talk #135: Petr Stanislav (Elin.ai)

Data Talk

Vítejte u Data Talku! V našem podcastu vám chceme pravidelně přinášet zajímavý obsah z české a slovenské datové scény: rozhovory na odborná témata, představení relevantních datových firem, problémů a nástrojů, ale také aktuality z trhu.

V nové epizodě Data Talk podcastu si Petr Stanislav, CTO Elin.ai, a Jirka Vicherek povídali o tom, co skutečně znamená provozovat LLMka v produkčním prostředí. V této rekordně dlouhé epizodě nabité know-how sdílel Petr své zkušenosti s AI a její implementací, které nabral zejména v rámci práce pro O2 a Dataclaire. Pak probrali nástup velkých jazykových modelů, jejich  technologické možnosti i omezení a hlavně  jejich  do firemních procesů a specifické výzvy, které přináší jejich integrace, zejména pokud jde o škálování, monitoring a governance. Petr sdílel zkušenosti z praxe, včetně problémů s halucinacemi modelů, ochranou dat a nutností kontinuální evaluace kvality výstupů. Petr v podcastu vysvětluje, kdy dává smysl fine-tuning modelu, kdy stačí změnit prompt engineering, jak přistupovat k architektuře a jaký je rozdíl v různých nástrojích a frameworcích, od RAGu, přes LangChain a LangGraph, po nejnovější koncept MCP serverů. Tato epizoda nadchne všechny, kteří si s velkými jazykovými modely nechtějí jen hrát, ale mají za cíl na nich stavět škálovatelné a spolehlivé produkty a featury.

V nové epizodě Data Talk podcastu si Petr Stanislav, CTO Elin.ai, a Jirka Vicherek povídali o tom, co skutečně znamená provozovat LLMka v produkčním prostředí. V této rekordně dlouhé epizodě nabité know-how sdílel Petr své zkušenosti s AI a její implementací, které nabral zejména v rámci práce pro O2 a Dataclaire. Pak probrali nástup velkých jazykových modelů, jejich  technologické možnosti i omezení a hlavně  jejich  do firemních procesů a specifické výzvy, které přináší jejich integrace, zejména pokud jde o škálování, monitoring a governance. Petr sdílel zkušenosti z praxe, včetně problémů s halucinacemi modelů, ochranou dat a nutností kontinuální evaluace kvality výstupů. Petr v podcastu vysvětluje, kdy dává smysl fine-tuning modelu, kdy stačí změnit prompt engineering, jak přistupovat k architektuře a jaký je rozdíl v různých nástrojích a frameworcích, od RAGu, přes LangChain a LangGraph, po nejnovější koncept MCP serverů. Tato epizoda nadchne všechny, kteří si s velkými jazykovými modely nechtějí jen hrát, ale mají za cíl na nich stavět škálovatelné a spolehlivé produkty a featury.--- Data Talk je komunita datových profesionálů. Kromě Data Talk podcastu děláme také <a href='https://www.datamesh.cz/'>DATA mesh meetupy</a>, <a href='https://www.dataday.cz/'>Data Day konferenci</a> a posíláme weekly newsletter: <a href='https://www.datatalk.cz/news/'>https://www.datatalk.cz/news/</a> Hlavními partnery Data Talk komunity jsou: <a href='https://www.intecs.cz/'>intecs</a>, <a href='https://www.sazka.cz/'>SAZKA</a>, <a href='https://www.bizztreat.com/'>BizzTreat</a>, <a href='https://www.cod.bi/'>Colours of Data</a>, <a href='https://revolt.bi/'>Revolt.BI</a>, <a href='https://emarkanalytics.com/cs/'>EMARK</a>, <a href='https://carldatacompany.com/'>Carl Data Company</a>, <a href='https://www.weareflo.com/'>FLO</a>, <a href='https://www.miton.cz/'>Miton</a>

Aplikace Youradio Talk

Pro přehrání dalších podcastů se prosím registrujte.

Data Talk #135: Petr Stanislav (Elin.ai)

Poslechněte si podcast