Az AI technológiák gyors térnyerése új korszakot nyitott az üzleti és ipari alkalmazások számára, ugyanakkor ezzel párhuzamosan jelentősen bővült a támadási felület is. A Cisco, a digitális kommunikáció és ezen belül az hálózati biztonsági megoldások egyik vezető gyártója fontosnak tartotta, hogy átfogó jelentést készítsen a témáról. Az alábbiakban ezt a “The State of AI Security” jelentést foglaljuk össze.

A jelentés egyik fő üzenete, hogy az AI-biztonság nem csupán a hagyományos kibervédelem meghosszabbítása, hanem olyan terület, ami új szemléletet és eszközrendszert követel. Ez kifejezetten az AI-modellek, az AI-infrastruktúra, az AI-alkalmazások és az AI-ellátási lánc biztonságára fókuszál. 

A jelentés célja egy – az AI biztonság viszonylag új területét átfogó – helyzetkép, trendek és ajánlások bemutatása, hogy a szervezetek felkészültebben tudják kiaknázni az AI-nyújtotta lehetőségeket.

Milyen biztonsági veszélyeket jelenthet az AI ?

Az új támadási felület

A jelentés megállapítja, hogy 2024-ben az AI-alkalmazások és -infrastruktúrák elterjedése 72%-os volt, miközben csak a felhasználók 13%-a érzete teljesen felkészültnek magát az AI-biztonság terén. Ez az arány jól mutatja a gyors terjedés és a kockázatok közötti szakadékot.

Az AI rendszer nem egyszerűen csak „új” szoftveres komponenseket jelent, hanem új életciklust, melynek részei a modelltervezés, képzés, finomhangolás (fine-tuning), telepítés, éles működés, monitoring és frissítés. A kiberbűnözők ezt az életciklust több ponton kihasználhatják: ilyenek az adat-manipulációk, a prompt-injekciók, a modell-hátsóajtók (backdoor), az adatkinyerés vagy az ellátási lánc manipulációi.

Ezek az AI-n keresztüli támadások legismertebb típusai

A jelentés külön kiemeli többek között az alábbi támadási típusokat:

• Prompt-injekció (prompt injection): Olyan manipuláció, amely a felhasználói utasításokat kihasználva a modell nem kívánatos működését idézi elő.
  
• Adatmérgezés / adatformázás (Data Poisoning): A modell képzésébe olyan adat kerül, amely hibás vagy rosszindulatú módon torzítja a modellt. CliffsNotes+
  
• Adatkinyerés (Data Extraction): Adatlopás a modellből történő kimeneten vagy a belső memóriából.
  
• Az infrastruktúra vagy és ellátási lánc elleni támadások: AI-keretrendszerek, GPU-sorok, nyílt forráskódú komponensek kompromittálása – például egy AI-keretrendszer sérülékenysége számos rendszert érinthet.
  
• Automatizált támadások, agentikus AI kihasználása: Az AI nem csupán védekezésre, hanem támadásra is használható – például mélyhamisítások (deepfakes), automatizált social engineering útján.
  

Miért más az AI-biztonság, mint a hagyományos kiberbiztonság?

A Cisco jelentése hangsúlyozza: az AI-biztonság nem ugyanaz, mint a hagyományos, akár több dimenziós IT-biztonság. Az AI rendszer állandóan tanul, változik, adaptálódik, így a támadási felület is dinamikus. Ezen felül az AI-eredmények „outputként” jelentkeznek, döntéseket szolgálhatnak, ezért nemcsak a rendszer működése sérül, hanem az eredmények megbízhatósága is romlik, akár kritikussá is válhat.

AI biztonság: Irányelvek és szabályozási környezet

2024-ben az USA-ban jelentős mennyiségű (700+ darab) AI-hoz kapcsolódó törvényjavaslat, végrehajtási rendelet, partnerségi megállapodás született, amit a szabályozási bizonytalanság jellemzett. A fragmentáltság komoly kihívás a vállalatok számára, mivel nehéz átlátni, hogy milyen követelmények vonatkoznak rájuk.

Nemzetközi szabályozási fejlemények

Az EU-ban 2024 augusztusában hatályba lépett EU AI Act, ez precedensként szolgálhat máshol is. A jelentés rámutat, hogy transznacionális együttműködések (pl. UK-Kanada) is megindultak az AI biztonság témájában. 

A következő időszak fókuszai

A Cisco úgy látja, hogy a jövőben az olyan új fogalmak – mint az AI SBOM (AI Software Bill of Materials), modellkészlet nyomon követése (Model BOM), belső „kockázati regiszter” vezetése – kerülnek fókuszba. A szabályozás már nem csak „opcionális” kérdés lesz, hiszen annak hiánya támadási felületté válhat: a megfelelési hiányosságok kihasználhatóak.

Módszertani kutatás és eredmények

A jelentés nem csupán szabályozásról és fenyegetésekről szól, hanem konkrét kutatásokat is tartalmaz a Cisco AI Security kutatócsapatától.

Jailbreaking és modell-manipuláció

A Cisco kutatói bemutatták, hogy még az „aligned” modellek is sebezhetőek lehetnek algoritmikus jailbreak technikákkal, ahol egy támadó sorozatos promptokat használva kicselezheti a modell védelmi korlátait. 

Fine-tuning és guardrail megsértése

A modell finomhangolása – amely elterjedt gyakorlat az üzleti célú AI rendszerekben – önmagában nem garantálja a biztonságos működést. A tanulmány szerint a finomhangolás bevonhat olyan torzításokat vagy visszaéléseket, amelyeket a vállalati szabályozás nem kezel.

Támadás az adatállományon és kiemelési technikák

Az egyik kutatás a mesterséges intelligenciát tanító adatok mérgezését (poisoning) vizsgálta, a másik pedig az adatok kivonását (decomposition) a tanított modellből. Ez azt mutatja, hogy az AI rendszerek „álcázott” adatvesztésnek is ki lehetnek téve. 

Ajánlások és gyakorlati lépések

A Cisco jelentése végül gyakorlati tanácsokat is ad a szervezetek számára arra, hogyan építhetik be az AI-biztonságot a stratégiájukba. Ezek a következők:

• AI eszközök életciklus-kezelése: A modellkészítés, finomhangolás, telepítés, monitoring mind biztonsági szempontból kezelendő. Nem elég csak a „deploymentet” védeni.
  
• Hozzáférés- és felhasználó-kontroll: Az AI modell- és adathozzáférések szigorú kezelése, autentikáció, végpontvédelem.
  
• Modellkészlet (Model BOM) és átláthatóság: Minden modellről legyen nyilvántartás – súlyok hash-értéke, tanító adatok jellege, finomhangolás paraméterei.
  
• Kockázati regiszter és auditálhatóság: AI-projektekhez tartozó kockázatok rendszerezettsége, folyamatos felülvizsgálata – legyen külön AI-biztonsági regiszter.
  
• Platformszerű védelem: A jelentés szerint a jövő nem a több kisebb „pontmegoldásé”, hanem olyan integrált platformoké, amelyek lefedik az AI teljes életciklusát.
  
• Folyamatos kutatás és adaptáció: A biztonsági kihívások gyorsan változnak – ezért a szervezeteknek folyamatosan nyomon kell követniük a kutatási eredményeket és frissíteniük védekezésüket.
  

Mit jelent az AI-biztonság a gyakorlatban?

Stratégiai perspektíva

Az AI-alkalmazások bevezetése ma már kulcsfontosságú versenyelőnyt jelent, de a Cisco-jelentés azt mutatja, hogy az AI-biztonság kezelésének elmulasztása komoly üzleti és reputációs kockázattá válhat. A szervezeteknek úgy kell tekinteniük az AI-beszerzésre és -alkalmazásra, mint olyan projektre, amely egyszerre technológiai, szervezeti, szabályozási és biztonsági kihívás.

Operatív lépések

• A vállalatoknak fel kell térképezniük saját AI-eszközeiket és -folyamataikat: hol használják AI-t, milyen modellek vannak, milyen adatokat használnak, milyen külső komponensek (open source, felhő) részei a rendszernek.
  
• A biztonsági és IT-csapatoknak együtt kell működniük: az AI-projekt nem pusztán adattudományi feladat, hanem üzletileg kritikus elem, ahol a biztonsági vetület már az elejétől része kell legyen.
  
• Prioritásként kell kezelni a modell-védelmet: modell monitoring, anomália-észlelés, guardrailek bevezetése. Az AI-modell már nem „csak” egy szoftverkomponens, hanem olyan entitás, amely folyamatosan tanul – ennek megfelelően a biztonsági kontrolloknak is folyamatosnak kell lenniük.
  
• Szabályozási felkészültség: A vállalatoknak tudatosan kell követniük a nemzetközi és helyi AI-irányelveket, és fel kell készülniük arra, hogy az AI-biztonság egy követelménnyé válik, nem csupán javaslattá.
  

Kockázatcsökkentés

Az AI-biztonság elhanyagolása több kárt okozhat, mint a hagyományos IT-biztonsági problémák: például torz döntések, adatvesztés, jogi megfelelőség hiánya, reputációs kockázatok. A jelentés arra hívja fel a figyelmet, hogy a támadók már most is komolyan célozzák az AI-infrastruktúrát és -ellátási láncot. 

Összegzés

A Cisco „The State of AI Security Report”-ja erőteljes belépő az AI-biztonság témakörébe, amely rávilágít arra, hogy az AI-alkalmazások biztonságos működtetése több, mint kiberbiztonsági kiegészítés — ez már üzleti és stratégiai prioritás. Röviden így foglalhatók össze a kulcsfontosságú pontok:

• az AI-készenlét (readiness) és az AI-biztonság közötti szakadék gyors csökkentése,
• az AI-életciklus biztonsági szemlélet szerinti kezelése,
• a szabályozási változások követése és beépítése,
• az integrált, platform-alapú védelem kialakítása.

Ha a vállalata AI-projektet indít vagy már futnak AI-alkalmazások, akkor érdemes az alábbi minimum lépéseket megtenni: modell-azonosítás, adathozzáférések auditja, AI-kockázati regiszter létrehozása, és következő lépésként olyan technológiai megoldások bevezetése, amelyek lefedik az AI-infrastruktúra védelmét is. A Cisco jelentése szerint ugyanis a hagyományos védelmi eszközök már nem elegendők az AI korszakában.

Gyakran ismételt kérdések: