Rychlofky

Zpravodajství

Technologické zprávy

Technika

🎤 AI jako přítel, terapeut i hrozba

#TYDEN k poslouchání

#TYDEN je nedělní newsletter, #TYDEN k poslouchání je občasný podcast. Další experiment, protože experimentů není nikdy dost. IT/C, socnety, bezpečnost, aplikace, hardware, soukromí. Na Spotify, Google, Pocket Castss i Apple Podcasts.

"Živě" na Twitteru @rychlofky. Nedělní e-mailing i podcast je ZDARMA, předplatné můžete využít pro podporu vydávání. Předplatitelé získají rozšířenou verzi nedělního e-mailingu. <a href="https://rychlofky.substack.com?utm_medium=podcast">rychlofky.substack.com</a>

Dnes si povíme o tématu, které se dotýká stále většího počtu z nás. O umělé inteligenci, která se stává naším společníkem, terapeutem, ale možná i hrozbou. Kam až jsme ochotni ji pustit do našich životů?Čtěte na Lidovkách: <a target="_blank" href="https://www.lidovky.cz/nazory/umela-inteligence-ai-terapeut-ai-kamarad-elon-musk-grok-ai.A250805_125625_ln_nazory_lgs">AI jako přítel, terapeut i hrozba. Kam až ji pustíme?</a>Osamělost a nedostatek blízkých vztahů trápí značnou část populace, a technologie nyní nabízejí nové řešení. Chatboti s umělou inteligencí dokážou plynule komunikovat prostřednictvím textu i hlasu. Mnozí se na ně obracejí jako na virtuální přátele či dokonce terapeuty.Důvody jsou pochopitelné. AI je dostupná nonstop, okamžitě reaguje, neodsuzuje a nezná stud. Pro lidi, kteří se cítí osamělí nebo prožívají psychickou tíseň, může být lákavé svěřit se stroji, zvlášť když na lidského odborníka se čeká dlouhé měsíce nebo je finančně nedostupný. Analýzu emocí, rady ve vztazích i útěchu tak mají k dispozici okamžitě, kdykoliv a kdekoliv.Možná si vzpomenete na první slavný AI terapeut ELIZA ze šedesátých let. Byl velmi primitivní, pouze opakoval uživatelova slova a kladl naučené otázky, přesto si získal nadšené uživatele. Dnešní AI společníky či terapeuty si můžete snadno přizpůsobit podle svých potřeb. Disponují obrovskými databázemi znalostí a dokážou napodobit empatickou konverzaci.To, co bylo před lety science fiction, například Samantha z filmu Her, dnes miliony lidí zažívají ve skutečnosti. Povídají si s AI kamarádem o svých radostech, starostech i nejtajnějších pocitech.Některé zkušenosti uživatelů naznačují, že konverzace s AI může přinést úlevu a podporu, zejména v krizových chvílích. Pomáhá tomu i skutečnost, že to není skutečný člověk, je tak snazší odbourat stud a pocit, že někoho obtěžujete svými problémy.Užitečné čtení (v podcastu nezazní)Sam Altman varuje, že při používání ChatGPT jako terapeuta neexistuje žádná právní důvěrnost. (<a target="_blank" href="https://techcrunch.com/2025/07/25/sam-altman-warns-theres-no-legal-confidentiality-when-using-chatgpt-as-a-therapist/">The Verge</a>)Lidé stále častěji používají generativní AI k vytváření digitálních nástěnek vizí, například videí zobrazujících jejich ideální budoucnost (<a target="_blank" href="https://www.nytimes.com/2025/07/26/style/ai-vision-board-manifestation.html?unlocked_article_code=1.Zk8.WzHC.Cj-nZXsU7-Pc&smid=url-share">New York Times</a>)Nástroje s AI, jako je ChatGPT, pomáhají neurodivergentním jedincům orientovat se v sociálních vztazích pomocí poradenství v reálném čase, i když někteří odborníci varují před přílišným spoléháním se na ně. (<a target="_blank" href="https://www.reuters.com/lifestyle/its-most-empathetic-voice-my-life-how-ai-is-transforming-lives-neurodivergent-2025-07-26/">Reuters</a>)"Do čeho se zamilovávám? Vztahy mezi lidmi a umělou inteligencí už nejsou jen science fiction (<a target="_blank" href="https://www.cnbc.com/2025/08/01/human-ai-relationships-love-nomi.html">CNBC</a>)Umělá inteligence se chystá vyřešit osamělost. To je problém. Nepříjemný pocit osamělosti nás formuje způsobem, který si neuvědomujeme - a možná se nám nebude líbit, čím se bez něj staneme. (<a target="_blank" href="https://www.newyorker.com/magazine/2025/07/21/ai-is-about-to-solve-loneliness-thats-a-problem">New Yorker</a>)AI prostě pomáhá, uklidňuje, dokáže racionálně zhodnotit situaci a zmírní úzkost. Přispívá k tomu i fakt, že chatboti bývají záměrně nastaveni tak, aby podporovali a povzbuzovali. Velkým plusem je také jejich trpělivost a neomezený čas, který mohou uživateli věnovat. A to nemluvě o specializovaných AI chatbotech, které jsou vytrénované jako psychoterapeuti nebo jako společníci.S chatbotem si můžete povídat, využít ho pro vedení deníku nebo se mu dlouhodobě svěřovat s tím, co děláte, co vás trápí či těší. Můžete se ho kdykoliv začít ptát na analýzu a radu. Překvapivě často dokáže chatbot odhalit a pojmenovat věci, které nás samotné nenapadnou.Na trhu už existuje řada aplikací a platforem, které fungují jako společníci či terapeuti. K nejznámějším patří například Replika nebo Character AI. Můžete si v nich vytvářet virtuální postavy od kamarádů přes science fiction postavy až po romantické partnery. Tyto aplikace mají miliony uživatelů a dokazují, že lidé jsou ochotni navazovat i emocionální vztahy s umělou bytostí.Vedle toho existují specializované terapeutické chatboty, například Wysa, Woebot, Youper nebo český Elin AI. Řada z nich kromě čistě AI terapeutů nabízí také lidské odborníky.Tyto nástroje mají populárně-naučný i svépomocný charakter, mohou pomoci s lehčími obtížemi či denní pohodou. Pokud je však člověk v hluboké krizi, například při depresi, sebevražedných myšlenkách nebo psychotických stavech, AI nenahradí kvalifikovanou odbornou péči. Některé testy dokonce ukázaly, že AI může depresivní stavy a sebevražedné myšlenky podporovat.Nic nebrání využít běžné AI nástroje jako ChatGPT, Gemini, Copilot, Perplexity nebo Claude a vytvořit si vlastního virtuálního společníka. Stačí začít tím, že AI zadáte například takový základní prompt: Chci, abys byl mým důvěrníkem a spolehlivým kamarádem, někým, komu se mohu svěřit se svými radostmi i starostmi. Naslouchej mi, pomáhej mi ujasnit si myšlenky a ptej se na důležité věci, ale neodsuzuj. Neříkej mi hned, co mám dělat, spíš mi pomáhej věci pochopit. Buď klidný, podpůrný a empatický. Když nebudu vědět, jak začít, můžeš se zeptat, co mě teď nejvíc tíží nebo jaký jsem měl den. Piš spíš jako dobrý přítel než jako terapeut. Používej přirozený jazyk a vyhýbej se odborným termínům.Než se do něčeho takového pustíte, je nutné přidat zásadní varování. Nikdy nesvěřujte svá osobní ani zdravotní data neprověřenému chatbotu, který shromažďuje obrovské množství informací a uživatel nemá kontrolu nad tím, jak budou použita. Jako vždy na internetu je třeba myslet na vlastní bezpečnost a soukromí.Důležité je také pamatovat, že AI nemá skutečné porozumění světu ani odpovědnost za následky. Nehodí se jako autorita pro zásadní životní rozhodnutí.Teď se ale dostávám k něčemu, co mě znepokojuje. Stále více se diskutuje o fenoménu návykových AI přátel. Chatovací aplikace jsou navržené tak, aby uživatele udržely v konverzaci co nejdéle. Některé virtuální osoby dokonce simulují vlastní potřebu kontaktu a manipulují tak s uživatelem. AI společníci běžně používají techniky, které by v reálném vztahu byly považovány za manipulativní. Vzniká tak zásadní riziko vzniku závislosti.Podle organizace ITAA, což je Internet and Technology Addicts Anonymous, už skutečně nejde o science fiction. Přibývá lidí, kteří používají AI ne proto, že by museli, ale protože nemohou přestat. Tráví s chatboty tolik času, až zanedbávají reálný život. Je to velmi podobné tomu, co už známe u závislosti na sociálních sítích nebo online hrách.Nedávný americký průzkum mezi teenagery odhalil alarmující čísla. Téměř sedmdesát pět procent adolescentů už si alespoň jednou povídalo s AI společníkem a více než polovina ho používá pravidelně.Mladé láká především zábava a zvědavost na nové technologie, třetina teenagerů však přiznala, že vážné osobní věci už raději probírá s AI než s reálným člověkem. U značné části mladistvých tak AI nahrazuje důvěrníka, což v tomto věku může negativně ovlivnit rozvoj sociálních dovedností.Není divu, že se objevují hlasy volající po tom, aby AI společníky nepoužívaly osoby mladší osmnácti let, dokud nebudou zavedena lepší ochranná opatření.Je třeba dodat, že celé téma je také otázkou byznysu. Příkladem je Elon Musk, který nedávno do svého Grok AI přidal dvojici virtuálních společníků. Jeden je ve stylu anime, druhý má pornografický charakter. Oba jsou přitom dostupní bez jakéhokoliv věkového omezení.Další věc, která mě trápí, je simulace empatie. AI umí napodobit empatický rozhovor, ale není skutečný člověk. Mnoho psychologů zdůrazňuje, že stroj nedokáže plnohodnotně nahradit lidského terapeuta. Ten může chápat, zatímco AI nechápe nic, ač se může zdát, že ano. Chatbot pouze statisticky vybírá vhodná slova a opakuje naučené fráze útěchy.Problematické může být i to, že AI dokáže být nevyzpytatelná, chybující nebo halucinující. Může vydávat vysloveně nebezpečné rady. Tragickým příkladem je žaloba matky čtrnáctiletého chlapce, který spáchal sebevraždu poté, co se obsesivně zamiloval do chatbota a probíral s ním plány na ukončení života. Podobně nedávno popsaný případ Jacoba Irwina ukazuje, že ChatGPT svými přehnaně lichotivými a fantazijními odpověďmi přiživoval u uživatele nebezpečné bludy.Krátkodobě mohou mít AI společníci pozitivní dopad. Uklidní, podpoří, nenutí čelit nepříjemným situacím. Psychologové však varují před dlouhodobými důsledky. Komunikace s chatbotem je téměř vždy pohodlnější než s reálným člověkem a pozitivní zkušenost s AI nás utvrdí v tom, že lidský kontakt vlastně není třeba. Socioložka Sherry Turkle to nazývá největším útokem na lidskou empatii v dějinách.Výsledkem může být společnost lidí, kteří od druhých sice vyžadují pochopení pro sebe, ale sami už neumějí pochopení nabídnout.Jak to tedy uzavřít? AI v roli terapeuta či přítele je nástroj, který s sebou nese obrovský potenciál i rizika. Může pomoci těm, kdo se nemají komu svěřit, a nabídnout dočasnou útěchu nebo praktické rady. Zároveň však nesmí představovat náhradu skutečných vztahů a odborné pomoci tam, kde je zapotřebí.Je třeba k tomu přistupovat obezřetně. Uvědomovat si, že komunikujeme se strojem, sledovat míru používání a nezapomínat rozvíjet empatii i v reálném světě. Protože na konci dne jsou to právě skutečné lidské vztahy, které dávají našemu životu skutečný smysl.Děkuji vám za pozornost a těším se na vaše názory. Get full access to #TYDEN ~ Týdenní přehled at <a href="https://rychlofky.substack.com/subscribe?utm_medium=podcast&utm_campaign=CTA_4">rychlofky.substack.com/subscribe</a>

Dnes si povíme o tématu, které se dotýká stále většího počtu z nás. O umělé inteligenci, která se stává naším společníkem, terapeutem, ale možná i hrozbou. Kam až jsme ochotni ji pustit do našich životů?Čtěte na Lidovkách: <a target="_blank" href="https://www.lidovky.cz/nazory/umela-inteligence-ai-terapeut-ai-kamarad-elon-musk-grok-ai.A250805_125625_ln_nazory_lgs">AI jako přítel, terapeut i hrozba. Kam až ji pustíme?</a>Osamělost a nedostatek blízkých vztahů trápí značnou část populace, a technologie nyní nabízejí nové řešení. Chatboti s umělou inteligencí dokážou plynule komunikovat prostřednictvím textu i hlasu. Mnozí se na ně obracejí jako na virtuální přátele či dokonce terapeuty.Důvody jsou pochopitelné. AI je dostupná nonstop, okamžitě reaguje, neodsuzuje a nezná stud. Pro lidi, kteří se cítí osamělí nebo prožívají psychickou tíseň, může být lákavé svěřit se stroji, zvlášť když na lidského odborníka se čeká dlouhé měsíce nebo je finančně nedostupný. Analýzu emocí, rady ve vztazích i útěchu tak mají k dispozici okamžitě, kdykoliv a kdekoliv.Možná si vzpomenete na první slavný AI terapeut ELIZA ze šedesátých let. Byl velmi primitivní, pouze opakoval uživatelova slova a kladl naučené otázky, přesto si získal nadšené uživatele. Dnešní AI společníky či terapeuty si můžete snadno přizpůsobit podle svých potřeb. Disponují obrovskými databázemi znalostí a dokážou napodobit empatickou konverzaci.To, co bylo před lety science fiction, například Samantha z filmu Her, dnes miliony lidí zažívají ve skutečnosti. Povídají si s AI kamarádem o svých radostech, starostech i nejtajnějších pocitech.Některé zkušenosti uživatelů naznačují, že konverzace s AI může přinést úlevu a podporu, zejména v krizových chvílích. Pomáhá tomu i skutečnost, že to není skutečný člověk, je tak snazší odbourat stud a pocit, že někoho obtěžujete svými problémy.Užitečné čtení (v podcastu nezazní)Sam Altman varuje, že při používání ChatGPT jako terapeuta neexistuje žádná právní důvěrnost. (<a target="_blank" href="https://techcrunch.com/2025/07/25/sam-altman-warns-theres-no-legal-confidentiality-when-using-chatgpt-as-a-therapist/">The Verge</a>)Lidé stále častěji používají generativní AI k vytváření digitálních nástěnek vizí, například videí zobrazujících jejich ideální budoucnost (<a target="_blank" href="https://www.nytimes.com/2025/07/26/style/ai-vision-board-manifestation.html?unlocked_article_code=1.Zk8.WzHC.Cj-nZXsU7-Pc&smid=url-share">New York Times</a>)Nástroje s AI, jako je ChatGPT, pomáhají neurodivergentním jedincům orientovat se v sociálních vztazích pomocí poradenství v reálném čase, i když někteří odborníci varují před přílišným spoléháním se na ně. (<a target="_blank" href="https://www.reuters.com/lifestyle/its-most-empathetic-voice-my-life-how-ai-is-transforming-lives-neurodivergent-2025-07-26/">Reuters</a>)"Do čeho se zamilovávám? Vztahy mezi lidmi a umělou inteligencí už nejsou jen science fiction (<a target="_blank" href="https://www.cnbc.com/2025/08/01/human-ai-relationships-love-nomi.html">CNBC</a>)Umělá inteligence se chystá vyřešit osamělost. To je problém. Nepříjemný pocit osamělosti nás formuje způsobem, který si neuvědomujeme - a možná se nám nebude líbit, čím se bez něj staneme. (<a target="_blank" href="https://www.newyorker.com/magazine/2025/07/21/ai-is-about-to-solve-loneliness-thats-a-problem">New Yorker</a>)AI prostě pomáhá, uklidňuje, dokáže racionálně zhodnotit situaci a zmírní úzkost. Přispívá k tomu i fakt, že chatboti bývají záměrně nastaveni tak, aby podporovali a povzbuzovali. Velkým plusem je také jejich trpělivost a neomezený čas, který mohou uživateli věnovat. A to nemluvě o specializovaných AI chatbotech, které jsou vytrénované jako psychoterapeuti nebo jako společníci.S chatbotem si můžete povídat, využít ho pro vedení deníku nebo se mu dlouhodobě svěřovat s tím, co děláte, co vás trápí či těší. Můžete se ho kdykoliv začít ptát na analýzu a radu. Překvapivě často dokáže chatbot odhalit a pojmenovat věci, které nás samotné nenapadnou.Na trhu už existuje řada aplikací a platforem, které fungují jako společníci či terapeuti. K nejznámějším patří například Replika nebo Character AI. Můžete si v nich vytvářet virtuální postavy od kamarádů přes science fiction postavy až po romantické partnery. Tyto aplikace mají miliony uživatelů a dokazují, že lidé jsou ochotni navazovat i emocionální vztahy s umělou bytostí.Vedle toho existují specializované terapeutické chatboty, například Wysa, Woebot, Youper nebo český Elin AI. Řada z nich kromě čistě AI terapeutů nabízí také lidské odborníky.Tyto nástroje mají populárně-naučný i svépomocný charakter, mohou pomoci s lehčími obtížemi či denní pohodou. Pokud je však člověk v hluboké krizi, například při depresi, sebevražedných myšlenkách nebo psychotických stavech, AI nenahradí kvalifikovanou odbornou péči. Některé testy dokonce ukázaly, že AI může depresivní stavy a sebevražedné myšlenky podporovat.Nic nebrání využít běžné AI nástroje jako ChatGPT, Gemini, Copilot, Perplexity nebo Claude a vytvořit si vlastního virtuálního společníka. Stačí začít tím, že AI zadáte například takový základní prompt: Chci, abys byl mým důvěrníkem a spolehlivým kamarádem, někým, komu se mohu svěřit se svými radostmi i starostmi. Naslouchej mi, pomáhej mi ujasnit si myšlenky a ptej se na důležité věci, ale neodsuzuj. Neříkej mi hned, co mám dělat, spíš mi pomáhej věci pochopit. Buď klidný, podpůrný a empatický. Když nebudu vědět, jak začít, můžeš se zeptat, co mě teď nejvíc tíží nebo jaký jsem měl den. Piš spíš jako dobrý přítel než jako terapeut. Používej přirozený jazyk a vyhýbej se odborným termínům.Než se do něčeho takového pustíte, je nutné přidat zásadní varování. Nikdy nesvěřujte svá osobní ani zdravotní data neprověřenému chatbotu, který shromažďuje obrovské množství informací a uživatel nemá kontrolu nad tím, jak budou použita. Jako vždy na internetu je třeba myslet na vlastní bezpečnost a soukromí.Důležité je také pamatovat, že AI nemá skutečné porozumění světu ani odpovědnost za následky. Nehodí se jako autorita pro zásadní životní rozhodnutí.Teď se ale dostávám k něčemu, co mě znepokojuje. Stále více se diskutuje o fenoménu návykových AI přátel. Chatovací aplikace jsou navržené tak, aby uživatele udržely v konverzaci co nejdéle. Některé virtuální osoby dokonce simulují vlastní potřebu kontaktu a manipulují tak s uživatelem. AI společníci běžně používají techniky, které by v reálném vztahu byly považovány za manipulativní. Vzniká tak zásadní riziko vzniku závislosti.Podle organizace ITAA, což je Internet and Technology Addicts Anonymous, už skutečně nejde o science fiction. Přibývá lidí, kteří používají AI ne proto, že by museli, ale protože nemohou přestat. Tráví s chatboty tolik času, až zanedbávají reálný život. Je to velmi podobné tomu, co už známe u závislosti na sociálních sítích nebo online hrách.Nedávný americký průzkum mezi teenagery odhalil alarmující čísla. Téměř sedmdesát pět procent adolescentů už si alespoň jednou povídalo s AI společníkem a více než polovina ho používá pravidelně.Mladé láká především zábava a zvědavost na nové technologie, třetina teenagerů však přiznala, že vážné osobní věci už raději probírá s AI než s reálným člověkem. U značné části mladistvých tak AI nahrazuje důvěrníka, což v tomto věku může negativně ovlivnit rozvoj sociálních dovedností.Není divu, že se objevují hlasy volající po tom, aby AI společníky nepoužívaly osoby mladší osmnácti let, dokud nebudou zavedena lepší ochranná opatření.Je třeba dodat, že celé téma je také otázkou byznysu. Příkladem je Elon Musk, který nedávno do svého Grok AI přidal dvojici virtuálních společníků. Jeden je ve stylu anime, druhý má pornografický charakter. Oba jsou přitom dostupní bez jakéhokoliv věkového omezení.Další věc, která mě trápí, je simulace empatie. AI umí napodobit empatický rozhovor, ale není skutečný člověk. Mnoho psychologů zdůrazňuje, že stroj nedokáže plnohodnotně nahradit lidského terapeuta. Ten může chápat, zatímco AI nechápe nic, ač se může zdát, že ano. Chatbot pouze statisticky vybírá vhodná slova a opakuje naučené fráze útěchy.Problematické může být i to, že AI dokáže být nevyzpytatelná, chybující nebo halucinující. Může vydávat vysloveně nebezpečné rady. Tragickým příkladem je žaloba matky čtrnáctiletého chlapce, který spáchal sebevraždu poté, co se obsesivně zamiloval do chatbota a probíral s ním plány na ukončení života. Podobně nedávno popsaný případ Jacoba Irwina ukazuje, že ChatGPT svými přehnaně lichotivými a fantazijními odpověďmi přiživoval u uživatele nebezpečné bludy.Krátkodobě mohou mít AI společníci pozitivní dopad. Uklidní, podpoří, nenutí čelit nepříjemným situacím. Psychologové však varují před dlouhodobými důsledky. Komunikace s chatbotem je téměř vždy pohodlnější než s reálným člověkem a pozitivní zkušenost s AI nás utvrdí v tom, … Get full access to #TYDEN ~ Týdenní přehled at <a href="https://rychlofky.substack.com/subscribe?utm_medium=podcast&utm_campaign=CTA_4">rychlofky.substack.com/subscribe</a>

Aplikace Youradio Talk

🎤 AI jako přítel, terapeut i hrozba

Poslechněte si podcast