A mesterséges intelligencia vállalati térnyerése soha nem látott ütemben zajlik. Az AI-alapú eszközök ma már a mindennapi munkavégzés természetes részévé váltak: a munkatársak kódot írnak velük, dokumentumokat foglalnak össze, adatokat elemeznek, vagy éppen automatizálják az ismétlődő feladatokat. Ezekhez az alkalmazásokhoz gyakran egyszerűen egy webböngészőn vagy akár saját, személyes felhasználói fiókjukon keresztül férnek hozzá.
Miközben az AI jelentős hatékonyságnövekedést kínál, egy új és egyre nagyobb kihívás is megjelent a szervezetek számára. Ezt a jelenséget nevezzük „Shadow AI”-nak.
(A Shadow AI referál a korábbi Shadow IT fogalomra, ami olyan informatikai eszközök, alkalmazások vagy szolgáltatások használatát jelenti egy szervezetben, amelyeket az IT-részleg nem hagyott jóvá vagy nem felügyel.) A fogalom nem egy konkrét szoftvert vagy technológiát takar, hanem azt a helyzetet, amikor a munkavállalók mesterséges intelligencia eszközöket használnak a vállalat hivatalos felügyelete, szabályozása vagy akár tudta nélkül.
A Shadow AI napjainkra az egyik leggyorsabban növekvő vállalati kockázattá vált. Sok szervezet még csak most kezdi felismerni a probléma valódi jelentőségét, miközben az AI-eszközök használata már széles körben elterjedt a mindennapi üzleti folyamatokban. A megfelelő láthatóság és kontroll hiánya ugyanis nemcsak adatvédelmi és biztonsági kérdéseket vet fel, hanem komoly megfelelőségi és üzleti kockázatokat is hordozhat.
Az AI használata gyorsabban terjed, mint ahogy a vállalatok követni tudnák
Bár egyre több szervezet vezet be hivatalosan mesterséges intelligencia alapú megoldásokat, a valóságban a munkavállalók ennél jóval gyorsabban kezdik használni a nyilvánosan elérhető AI-eszközöket. Sok esetben ezek az alkalmazások a vállalat által felügyelt rendszereken kívül működnek, ezért a biztonsági és informatikai csapatok gyakran nem rendelkeznek pontos képpel arról, hogy milyen AI-szolgáltatásokat használnak a dolgozók, és milyen adatokat osztanak meg velük.
Ez jelentős változást hoz a korábban ismert „Shadow IT” jelenséghez képest. Míg a hagyományos árnyék-informatikai megoldások elsősorban adatokat tároltak vagy továbbítottak, a mesterséges intelligencia rendszerek ennél sokkal többet tesznek. Az általuk feldolgozott információkat elemzik, átalakítják, összefüggéseket keresnek bennük, és bizonyos esetekben hosszabb ideig meg is őrzik azokat. Mindez gyakran a felhasználók számára sem teljesen átlátható módon történik.
Különösen problémás lehet, amikor a munkatársak belső dokumentumokat, ügyféladatokat, pénzügyi információkat vagy akár forráskódot töltenek fel külső AI-szolgáltatásokba. Ilyenkor sokszor nem egyértelmű, hogy az adott szolgáltató pontosan hogyan kezeli ezeket az adatokat, meddig tárolja őket, illetve felhasználhatja-e őket saját rendszereinek fejlesztésére vagy tanítására. Ez a bizonytalanság új típusú adatbiztonsági és megfelelőségi kockázatokat teremt a vállalatok számára.
Miért nem működnek a hagyományos biztonsági modellek?
A legtöbb vállalati biztonsági stratégia arra az alapfeltevésre épül, hogy az informatikai rendszerek ismertek, a hozzáférések szabályozottak, az adatforgalom pedig nyomon követhető. A Shadow AI azonban gyakorlatilag mindhárom feltételezést megkérdőjelezi.
A probléma egyik fő oka, hogy az AI-eszközök használata gyakran a vállalat által felügyelt környezeteken kívül történik. A munkatársak böngészőből, saját eszközeikről vagy személyes fiókokon keresztül érik el ezeket a szolgáltatásokat, így a biztonsági csapatok sok esetben nem látják pontosan, mi történik. Ez nemcsak a hálózati forgalom megfigyelését nehezíti meg, hanem a végponti eszközökön zajló tevékenységek követését is.
Még akkor is kihívást jelent a helyzet, ha egy szervezet észleli az AI-használatot. Sok esetben nehéz megállapítani, hogy milyen adatokat osztottak meg a felhasználók az adott szolgáltatással, hogyan dolgozta fel azokat a rendszer, vagy hogy az információk pontosan hol és mennyi ideig kerülnek tárolásra.
A hagyományos biztonsági megoldásokat egyszerűen nem arra tervezték, hogy külső mesterséges intelligencia rendszerekkel folytatott interakciókat kezeljenek. Ennek következtében előfordulhat, hogy egy vállalat kiváló kontrollt gyakorol az infrastruktúrája, az alkalmazásai és a felhasználói hozzáférések felett, mégis szinte teljesen vak marad arra, hogyan használják az alkalmazottak az AI-eszközöket a napi munkafolyamatok során.
A helyzetet tovább súlyosbítja a töredezett biztonsági környezet. Sok szervezet különálló hálózati, felhőalapú és végpontvédelmi megoldásokat használ, amelyek egymástól elszigetelten működnek. Mivel ezek a rendszerek nem osztják meg teljes körűen az információkat egymással, egyik sem rendelkezik elegendő kontextussal ahhoz, hogy átfogó képet alkosson az AI-használatról. Így a vállalatok gyakran csak részleteket látnak, miközben a valódi kockázatok a különböző rendszerek között rejtve maradnak.
A Shadow AI biztonsági és adatvédelmi kockázatai
A Shadow AI egyik legnagyobb veszélye az adatkezelés átláthatatlansága. Amikor a munkavállalók külső AI-eszközökbe töltenek fel dokumentumokat, ügyféladatokat vagy akár forráskódot, gyakran nem egyértelmű, hogy ezek az információk hogyan kerülnek tárolásra vagy felhasználásra. Az adatok védelméért azonban továbbra is a szervezet felel.
Emellett az AI által generált tartalmak pontossága sem garantált. A modellek időnként hiányos vagy téves információkat adhatnak, amelyek üzleti vagy akár jogi problémákhoz vezethetnek, ha ellenőrzés nélkül kerülnek felhasználásra.
A kockázatokat tovább növeli, hogy a támadók is egyre gyakrabban veszik célba az AI-rendszereket. Az olyan technikák, mint a prompt injection, új támadási felületet teremtenek a vállalatok számára. A Shadow AI ezért egyszerre jelent adatvédelmi, biztonsági és megfelelőségi kihívást.
A probléma nem a felhasználó, hanem a tudatosság hiánya
Fontos hangsúlyozni, hogy a Shadow AI használata a legtöbb esetben nem rosszindulatú tevékenység. A munkavállalók jellemzően azért fordulnak külső AI-eszközökhöz, mert gyorsabban, hatékonyabban vagy egyszerűbben szeretnék elvégezni a feladataikat. Sokszor éppen az innováció és a produktivitás iránti igény vezeti őket, nem pedig a vállalati szabályok megkerülésének szándéka.
Éppen ezért a probléma kezelése nem merülhet ki a tiltásban vagy a technológiai kontrollok bevezetésében. Legalább ilyen fontos a felhasználók oktatása és tudatosságának növelése. Ahogyan ma már természetesnek számítanak a biztonságtudatossági (security awareness) képzések, úgy a jövőben az AI-eszközök felelős használatára vonatkozó oktatásnak is a vállalati kultúra részévé kell válnia.
A gyakorlatban gyakran megfigyelhető, hogy a felhasználók a Shadow IT és a Shadow AI eszközöket alapvető infrastruktúraként kezelik. Egy felhőalapú tárhely, egy közösségi platform vagy egy AI-asszisztens használata sokak számára ugyanolyan természetesnek tűnik, mint az internet- vagy az e-mail-szolgáltatás. Közben könnyű megfeledkezni arról, hogy ezek mögött profitorientált vállalatok állnak, amelyek saját adatkezelési, tárolási és felhasználási szabályok szerint működnek.
Ezeket a szolgáltatókat ugyanúgy érhetik kibertámadások, adatvédelmi incidensek vagy szolgáltatáskimaradások, mint bármely más vállalatot. Emellett az sem magától értetődő, hogy adatkezelési gyakorlataik összhangban vannak az adott szervezet vagy iparág biztonsági, jogi és megfelelőségi követelményeivel. A Shadow AI kockázatainak csökkentése ezért nemcsak technológiai, hanem szemléletformálási feladat is.
Egyre szigorúbb szabályozói elvárások
A mesterséges intelligencia terjedésével párhuzamosan a szabályozói környezet is gyorsan fejlődik. Az olyan új keretrendszerek, mint az EU AI Act, már előírják a vállalatok számára az AI-rendszerek azonosítását, a kockázatok felmérését és a megfelelő felügyelet biztosítását. A szabályok megsértése jelentős pénzügyi következményekkel járhat.
A kihívást az jelenti, hogy ezek a követelmények teljes körű rálátást feltételeznek az AI használatára. A Shadow AI miatt azonban sok szervezet nem tudja pontosan, milyen eszközöket használnak a munkavállalók, így azokat nem tudja megfelelően nyilvántartani, értékelni vagy felügyelni. A megfelelőséghez ezért ma már nem elég szabályokat alkotni – láthatóvá is kell tenni az AI használatát.
A láthatóság önmagában nem elég
Az AI-használat felderítése fontos első lépés, de önmagában nem oldja meg a problémát. Nem elég tudni, hogy egy AI-eszközt használnak – azt is érteni kell, milyen adatokat kezel, kik használják, és milyen üzleti folyamatokhoz kapcsolódik.
A hagyományos biztonsági megoldások jellemzően csak a kép egy részét látják. Egy rendszer érzékelheti az AI-szolgáltatás elérését, de nem látja a megosztott adatokat vagy azok kontextusát. Emiatt nehéz megkülönböztetni a normál használatot a valódi kockázatoktól.
A hatékony AI-irányításhoz ezért átfogó rálátásra van szükség, amely összekapcsolja a felhasználói aktivitást, az adatmozgást és a hozzáféréseket, lehetővé téve a gyors és megalapozott döntéshozatalt.
A Shadow AI integrálása a biztonsági stratégiába
A Shadow AI kezeléséhez nem elegendő pusztán láthatóvá tenni az AI-használatot – valódi kontrollra is szükség van. A szervezeteknek nemcsak azt kell tudniuk, hogy milyen AI-eszközöket használnak a munkavállalók, hanem azt is, hogy milyen adatokat osztanak meg velük, milyen célból, és milyen kockázatot jelenthet ez az üzlet számára.
Ebben kulcsszerepet játszik a hálózati szintű láthatóság. A Fortinet környezetében a FortiOS képes azonosítani az AI-alkalmazások használatát, így a biztonsági csapatok pontos képet kaphatnak arról, mely szolgáltatásokat használják a felhasználók, kik férnek hozzájuk, és milyen kontextusban történik az interakció. A rendszer ráadásul folyamatosan frissül a FortiGuard Labs fenyegetésfelderítési információival, amelyek segítenek az újonnan megjelenő AI-szolgáltatások azonosításában és kategorizálásában.
A láthatóság azonban önmagában nem elegendő. Hálózati szinten például nehéz különbséget tenni egy ártalmatlan kérdés és egy bizalmas dokumentum feltöltése között. Ezért a védelemnek az adatok szintjére is ki kell terjednie.
Ebben kap fontos szerepet az adatvesztés-megelőzés (DLP). A hálózaton keresztül haladó adatokat a FortiGate képes ellenőrizni, míg a felhőalapú környezetekben ugyanezek a szabályok a SASE-architektúrán keresztül is érvényesíthetők. A végpontokon a FortiDLP további védelmi réteget biztosít azáltal, hogy közvetlenül az adatkezelés pillanatában vizsgálja a tartalmakat. Így a szervezetek nagyobb biztonsággal akadályozhatják meg érzékeny információk véletlen vagy szándékos kiszivárgását.
Mivel az AI-eszközöket egyre gyakrabban használják távoli munkavégzés során, felhőszolgáltatásokon keresztül vagy a vállalati hálózaton kívül, a biztonsági kontrolloknak a felhasználót is követniük kell. Az olyan megoldások, mint a FortiSASE, lehetővé teszik, hogy ugyanazok a biztonsági szabályok és láthatósági képességek érvényesüljenek függetlenül attól, hogy a felhasználó honnan és milyen eszközről dolgozik.
A hatékony Shadow AI-védelem tehát több réteg együttműködésére épül. A hálózati láthatóság biztosítja az alapokat, a fenyegetésfelderítési információk segítenek az új kockázatok felismerésében, míg az adatvédelmi és végponti kontrollok gondoskodnak arról, hogy az AI használata a szervezet egészében biztonságosan és szabályozottan történjen.
Összegzés
A mesterséges intelligencia ma már a mindennapi munkavégzés szerves részévé vált, ezzel együtt azonban a nem felügyelt AI-használat is egyre gyakoribb jelenség. A Shadow AI nem átmeneti probléma, hanem egy olyan kihívás, amellyel a szervezeteknek hosszú távon is számolniuk kell.
A hatékony védekezéshez nem elegendő az AI használatának korlátozása vagy tiltása. A cél inkább az, hogy az AI-eszközök használata láthatóvá, szabályozhatóvá és ellenőrizhetővé váljon. Azok a vállalatok, amelyek az AI-t a meglévő biztonsági és irányítási folyamataik részévé teszik, nemcsak a kockázatokat csökkenthetik, hanem a technológia előnyeit is biztonságosan használhatják ki, miközben megfelelnek az egyre szigorúbb szabályozói elvárásoknak.
