Prompt injection: Jak vám jeden email může ukrást API klíče
Jeden email stačí k tomu, aby útočník přesvědčil vašeho AI agenta poslat mu vaše API klíče a další citlivé věci. V dnešním Coffee Breaku si u kávy rozebereme prompt injection - proč se jí kvůli architektuře jazykových modelů nedá stoprocentně zabránit a jak alespoň minimalizovat její dopad. Přidám i reálné příklady, které se staly mně, kolegovi a taky GitHubu.
Popis podcastu
Novinky, inspirace a Filipova zamyšlení ze světa AI, technologií a produktů. Servírováno u kávy – ale pokud si je dáte u čaje, při sportu nebo na cestě do práce, bude to fungovat taky.