Jiří Vicherek

Technika

Data Talk #135: Petr Stanislav (Elin.ai)

Data Talk

Vítejte u Data Talku! V našem podcastu vám chceme pravidelně přinášet zajímavý obsah z české a slovenské datové scény: rozhovory na odborná témata, představení relevantních datových firem, problémů a nástrojů, ale také aktuality z trhu.

V nové epizodě Data Talk podcastu si Petr Stanislav, CTO Elin.ai, a Jirka Vicherek povídali o tom, co skutečně znamená provozovat LLMka v produkčním prostředí. V této rekordně dlouhé epizodě nabité know-how sdílel Petr své zkušenosti s AI a její implementací, které nabral zejména v rámci práce pro O2 a Dataclaire. Pak probrali nástup velkých jazykových modelů, jejich  technologické možnosti i omezení a hlavně  jejich  do firemních procesů a specifické výzvy, které přináší jejich integrace, zejména pokud jde o škálování, monitoring a governance. Petr sdílel zkušenosti z praxe, včetně problémů s halucinacemi modelů, ochranou dat a nutností kontinuální evaluace kvality výstupů. Petr v podcastu vysvětluje, kdy dává smysl fine-tuning modelu, kdy stačí změnit prompt engineering, jak přistupovat k architektuře a jaký je rozdíl v různých nástrojích a frameworcích, od RAGu, přes LangChain a LangGraph, po nejnovější koncept MCP serverů. Tato epizoda nadchne všechny, kteří si s velkými jazykovými modely nechtějí jen hrát, ale mají za cíl na nich stavět škálovatelné a spolehlivé produkty a featury.

V nové epizodě Data Talk podcastu si Petr Stanislav, CTO Elin.ai, a Jirka Vicherek povídali o tom, co skutečně znamená provozovat LLMka v produkčním prostředí. V této rekordně dlouhé epizodě nabité know-how sdílel Petr své zkušenosti s AI a její implementací, které nabral zejména v rámci práce pro O2 a Dataclaire. Pak probrali nástup velkých jazykových modelů, jejich  technologické možnosti i omezení a hlavně  jejich  do firemních procesů a specifické výzvy, které přináší jejich integrace, zejména pokud jde o škálování, monitoring a governance. Petr sdílel zkušenosti z praxe, včetně problémů s halucinacemi modelů, ochranou dat a nutností kontinuální evaluace kvality výstupů. Petr v podcastu vysvětluje, kdy dává smysl fine-tuning modelu, kdy stačí změnit prompt engineering, jak přistupovat k architektuře a jaký je rozdíl v různých nástrojích a frameworcích, od RAGu, přes LangChain a LangGraph, po nejnovější koncept MCP serverů. Tato epizoda nadchne všechny, kteří si s velkými jazykovými modely nechtějí jen hrát, ale mají za cíl na nich stavět škálovatelné a spolehlivé produkty a featury.--- Data Talk je komunita datových profesionálů. Kromě Data Talk podcastu děláme také <a href='https://www.datamesh.cz/'>DATA mesh meetupy</a>, <a href='https://www.dataday.cz/'>Data Day konferenci</a> a posíláme weekly newsletter: <a href='https://www.datatalk.cz/news/'>https://www.datatalk.cz/news/</a> Hlavními partnery Data Talk komunity jsou: <a href='https://www.intecs.cz/'>intecs</a>, <a href='https://www.allwyn.cz/'>Allwyn</a>, <a href='https://www.bizztreat.com/'>BizzTreat</a>, <a href='https://www.cod.bi/'>Colours of Data</a>, <a href='https://revolt.bi/'>Revolt.BI</a>, <a href='https://www.direct.cz/?meiro=dnt'>Direct</a>, <a href='https://www.databrothers.cz/'>Data Brothers</a>, <a href='https://tv.nova.cz/'>TV NOVA</a>

Aplikace Youradio Talk

Data Talk #135: Petr Stanislav (Elin.ai)

Poslechněte si podcast