Az AI egyre gyorsabban kerül be a vállalatok mindennapi működésébe. Eleinte sokan csak kipróbálták a nyilvános mesterségesintelligencia-eszközöket: kérdéseket tettek fel a ChatGPT-nek, szövegeket írattak vele, összefoglalókat készítettek vagy éppen képeket generáltak. Mára azonban ennél sokkal többről van szó.
A vállalatok saját AI-rendszereket építenek, mesterséges intelligenciát építenek be meglévő alkalmazásaikba, és egyre többször olyan rendszereket is használnak, amelyek nemcsak válaszolnak egy kérdésre, hanem önállóan el is végeznek bizonyos feladatokat. Ez óriási lehetőség, de közben új biztonsági problémákat is teremt.
Az AI már nem egy különálló eszköz
Egy egyszerű chatbot esetében könnyű azt gondolni, hogy az AI csak egy újabb alkalmazás, amit valamilyen módon le kell védened.
A helyzet azonban gyorsan megváltozik, amikor az AI hozzáfér a céges adatokhoz, belső rendszerekhez vagy más alkalmazásokhoz.
Képzeld el például, hogy egy AI-rendszer hozzáférhet a vállalat dokumentumaihoz, ügyféladataihoz, készletinformációihoz vagy akár egy belső vállalatirányítási rendszerhez. Ha pedig egy úgynevezett AI-ügynököt használsz, az már nem feltétlenül vár arra, hogy valaki minden egyes lépését jóváhagyja. Képes lehet adatokat keresni, más rendszereket meghívni, API-kon keresztül kommunikálni, majd egy előre meghatározott feladatot önállóan végrehajtani.
Itt válik igazán fontossá a biztonság. Mert ha az AI hozzáfér valamihez, akkor annak a hozzáférésnek ugyanúgy szabályozhatónak és ellenőrizhetőnek kell lennie, mint bármelyik másik felhasználó vagy program esetében.
Három szinten jelenik meg a kockázat
Az AI biztonságát érdemes több szinten elképzelni.
Az első a nyilvános AI-eszközök használata. Ilyenkor például egy munkatárs saját maga kezd el használni egy AI-szolgáltatást, miközben a vállalatnak nincs pontos rálátása arra, milyen adatokat oszt meg vele. Ez könnyen problémát okozhat, ha valaki véletlenül bizalmas dokumentumot vagy ügyféladatot másol be egy nyilvános rendszerbe.
A második szint a vállalat saját AI-rendszere. Itt már a cég felelőssége, hogy milyen adatokat használ a rendszer, honnan szerzi az információkat, ki férhet hozzá, és megfelelően védve van-e az egész infrastruktúra.
A harmadik, és talán legérdekesebb szint az önállóan működő AI-ügynökök megjelenése.
Ezek a rendszerek már nem pusztán válaszokat generálnak. Információt kereshetnek, adatokat továbbíthatnak, más alkalmazásokat használhatnak és bizonyos esetekben akár üzleti folyamatokat is elindíthatnak.
Minél több mindent képes önállóan elvégezni egy AI, annál nagyobb a következménye annak, ha valami félremegy.
Nem jó ötlet előbb szabadságot adni, és utána kitalálni a szabályokat
Az AI bevezetésének sorrendje legalább olyan fontos, mint maga a technológia.
Sok vállalat először óvatosan kezdi használni az AI-t, kialakítja a szabályokat, ellenőrzi, milyen adatokhoz férhet hozzá, majd fokozatosan egyre több feladatot enged át neki.
Ez a biztonságosabb út.
A probléma akkor kezdődik, amikor egy vállalat gyorsan eljut az önállóan működő AI-rendszerekig, miközben még nincsenek meg azok a szabályok és korlátozások, amelyek megakadályoznák, hogy az AI túl sok mindenhez férjen hozzá vagy nem kívánt műveletet hajtson végre.
Ilyenkor később könnyen kiderülhet, hogy az egész rendszert át kell alakítani.
Vagyis nem feltétlenül maga az AI-technológia a probléma. Az a probléma, ha gyorsabban adsz neki önállóságot, mint ahogy kialakítod a megfelelő biztonsági kereteket.
A valódi veszély akkor kezdődik, amikor az AI működésbe lép
Az AI biztonságát nem lehet csak a fejlesztés során ellenőrizni.
Hiába teszteled alaposan a rendszert, amikor elkészül, a valódi környezetben új problémák jelenhetnek meg.
Valaki például olyan utasítást adhat az AI-nak, amely megpróbálja kijátszani a korábbi szabályokat. Ezt nevezik prompt injectionnek, vagyis olyan manipuláló utasításnak, amely megpróbálja rávenni a rendszert valamire, amit normál esetben nem tenne meg.
Más támadások során megpróbálhatják manipulálni az AI által használt adatokat, kihasználhatják a rendszerhez kapcsolódó API-kat, vagy adatokat próbálhatnak kicsempészni egyik rendszerből egy másikba.
Saját AI-rendszereknél további problémát jelenthet, ha valaki már a tanítás során rosszindulatú vagy hibás adatokat juttat a rendszerbe.
Ezért az AI védelmét nem elég egyszer beállítani. A rendszer működése közben is folyamatosan figyelni és ellenőrizni kell, hogy mi történik.
Az AI-nak is tudnia kell, hogy mit szabad
Ha egy AI-rendszer csak szöveget generál, a kockázat viszonylag korlátozott.
Ha viszont már képes e-maileket küldeni, adatokat lekérni, számlázási rendszert használni vagy más alkalmazásokban műveleteket végrehajtani, akkor nagyon fontos, hogy pontosan meghatározd a határait.
Egy AI-ügynöknek tudnia kell, hogy ki nevében dolgozik, milyen adatokhoz férhet hozzá, milyen műveleteket végezhet el, és melyekhez kell emberi jóváhagyás.
Ugyanilyen fontos az is, hogy minden lépése visszakövethető legyen.
Ha egy AI-rendszer elindít egy folyamatot, módosít egy adatot vagy hozzáfér egy érzékeny információhoz, később tudnod kell megmondani, hogy mi történt, miért történt, és milyen szabály alapján engedélyezte ezt a rendszer.
Az önállóság tehát nem jelentheti azt, hogy az AI ellenőrzés nélkül azt csinál, amit akar.
Nem külön AI-biztonságra, hanem egységes védelemre van szükség
Az AI megjelenésével újabb és újabb biztonsági eszközöket is lehet vásárolni. Önmagában azonban attól még nem lesz biztonságosabb a rendszer, hogy egy újabb program kerül az informatikai környezetbe.
Sok vállalatnál már most is rengeteg különálló biztonsági megoldás működik. Más rendszer kezeli a felhasználókat, más figyeli a hálózatot, más az alkalmazásokat, és megint más gyűjti a biztonsági eseményeket.
Ha ezek egymástól függetlenül működnek, könnyen előfordulhat, hogy éppen közöttük marad egy olyan rés, amit egy támadó kihasználhat.
Az AI ezt a problémát tovább növelheti.
Éppen ezért az a jó megközelítés, ha az AI ugyanabba a biztonsági rendszerbe illeszkedik bele, amelyet a vállalat többi fontos informatikai erőforrásának védelmére is használsz.
Hogyan lehet ezt a gyakorlatban megvalósítani?
Az elvek önmagukban azonban nem elegendők. Ha az AI már hozzáfér a vállalati adatokhoz, alkalmazásokhoz és hálózati erőforrásokhoz, akkor a biztonsági szabályokat a gyakorlatban is érvényesíteni kell. Látnod kell, hogy milyen AI-rendszerek működnek a környezetedben, milyen adatokat használnak, kikkel és mivel kommunikálnak, és milyen műveleteket hajtanak végre.
Ebben lehet fontos szerepe egy olyan egységes biztonsági platformnak, amely nem különálló eszközként kezeli az AI-t, hanem beilleszti azt a vállalat meglévő védelmi rendszerébe.
A Fortinet megközelítése erre épít: az AI biztonságát a hálózat, a felhasználók, az alkalmazások és az adatok védelmével együtt kezeli. Így nem kell egy teljesen különálló biztonsági réteget létrehoznod minden egyes AI-megoldás köré.
A cél, hogy egy helyen legyen meg a szükséges rálátás és ellenőrzés: ki használja az AI-t, milyen rendszerekhez fér hozzá, milyen adatokat mozgat, és milyen műveleteket hajt végre. Ez különösen akkor válik fontossá, amikor a hagyományos chatbotoktól eljutunk az önállóan működő AI-ügynökökig.
A Fortinet AI Security megoldásai ezt a szemléletet követik: az AI használatának láthatóvá tételétől és ellenőrzésétől kezdve a hálózati forgalom védelmén át egészen az AI-ügynökök működésének szabályozásáig. Így az AI nem egy új, különálló biztonsági problémaként jelenik meg, hanem a vállalat teljes informatikai védelmének részeként kezelhető.
A szabályoknak nem egyetlen ponton kell érvényesülniük, hanem a különböző biztonsági ellenőrzési pontokon is: a tűzfalon, az API-átjárón és a biztonsági eseményeket gyűjtő és elemző SIEM-rendszerben.
A hozzáférések szabályozásában a Zero Trust Network Access (ZTNA) is fontos szerepet kap. A modell lényege, hogy egyetlen felhasználót, eszközt vagy AI-rendszert sem tekintünk automatikusan megbízhatónak. Minden hozzáférést ellenőrizni kell, és csak azokhoz az erőforrásokhoz szabad hozzáférést adni, amelyekre az adott feladat elvégzéséhez valóban szükség van.
