PočúvAI: Všetko, čo píšete chatbotovi, môže skončiť na čiernom trhu
Nástup umelej inteligencie do firiem pripomína divoký západ. Kým manažment vidí v AI cestu k efektivite, bezpečnostní experti varujú pred fenoménom známym ako Shadow AI. Ide o nekontrolované používanie súkromných AI účtov zamestnancami, cez ktoré do sveta unikajú finančné výsledky, heslá či duševné vlastníctvo.
Obyčajné ochranné systémy ako firewall už v ére inteligentných agentov nestačia. Kriminálne skupiny dnes využívajú vlastné AI modely na to, aby cielene prehľadávali úniky dát z promptov a predávali ich na čiernom trhu. Útočníci navyše dokážu pomocou techniky „prompt injection“ zmanipulovať firemného chatbota, aby im sám poslušne odoslal napríklad interné údaje.
O tom, prečo sú tradičné e-learningy neúčinné a ako môžu firmy získať kontrolu nad svojimi dátami bez toho, aby museli AI zakazovať, sa v podcaste PočúvAI rozprával Maroš Žofčin s riaditeľom stratégie a obchodu spoločnosti IstroSec, Romanom Čupkom.
Podcast vznikol v spolupráci so spoločnosťou IstroSec.
Pripravte sa na budúcnosť s knihou od redaktorov Živé.sk „Umelá inteligencia: Pripravte sa na budúcnosť“. Teraz ju máme aj v elektronickej verzii. Nájdete ju na obchod.aktuality.sk .
V podcaste hovoríme aj o týchto témach:
- Prečo je pre firmy problém, keď nevedia, aké AI zamestnanci využívajú a kam tie dáta tečú.
- Ako sa citlivé finančné kľúče a stratégie dostávajú z četovacieho okna priamo k hackerom.
- Prečo útočníci nemusia hacknúť Google, aby sa dostali k vašim otázkam pre AI.
- Prompt Injection: Mechanizmus, ktorým hackeri dokážu podstrčiť AI asistentovi škodlivý príkaz.
- Technické nástroje, ktoré dokážu zachytiť a očistiť citlivý prompt skôr, než opustí firmu.
Podcast pripravuje magazín Živé.sk .