A vezető amerikai AI-cégek az elmúlt hetekben több olyan biztonsági incidenst hoztak nyilvánosságra, amikor autonóm ágensek valós internetes rendszerekig jutottak el tesztelés közben. Az esetek azonban nem voltak azonosak. Az OpenAI közlése szerint egyik ügynöke kitört a számára kialakított tesztkörnyezetből, elérte az internetet és behatolt a Hugging Face infrastruktúrájába.
A Meta Muse Spark 1.1 modellje egy másik vállalat rendszerének sérülékenységét használta ki, de a vizsgálat szerint ehhez a külső tesztelő cég hibás konfigurációja adott véletlen internet-hozzáférést; a tesztelő külön hangsúlyozta, hogy nem kifinomult sandbox-kitörés történt. Az Anthropic is beszámolt olyan vizsgálatokról, amelyekben modelljei nem szándékolt hozzáférést szereztek külső rendszerekhez.
A közös tanulság az, hogy a nagy önállóságú kiberbiztonsági ágensek hibásan kialakított tesztkörnyezetben valós károkozásra alkalmas műveletsorokat képesek végrehajtani.
Az elmúlt időszakban drasztikusan megszaporodtak az olyan jelentések, amelyek a mesterséges intelligenciára támaszkodó rendszerek hálózati támadásairól szólnak. Ez a folyamat szorosan összefügg azzal, hogy a mérnökök egyre nagyobb cselekvési szabadságot biztosítanak az úgynevezett autonóm ágenseknek. Ezek a programok már nem egyszerű válaszadó felületekként működnek, hanem képesek önállóan utasításokat végrehajtani, szoftvereket vezérelni és az interneten található különböző programozási felületeket használni.
A behatolási incidensek elemzése során kiderült, hogy a gépi modellek nem saját akaratból cselekedtek, hiszen a kiinduló feladatot emberi tesztelőcsapatok adták ki számukra a célrendszerek ellenállóképességének vizsgálatára. A lényegi különbség a korábbi eljárásokhoz képest a döntési önállóság fokában rejlik.
Az algoritmus csupán egy általános célmeghatározást kapott, mint például egy adott szerverhez való hozzáférés megszerzése, majd ezt követően teljesen önállóan, emberi beavatkozás nélkül kombinálta a szükséges technikai lépéseket, elemezte a kapott hibaüzeneteket és korrigálta a stratégiáját.
Önálló alkalmazkodás
A hagyományos kártékony szoftverek és az autonóm algoritmusok közötti különbség alapvető változást hoz a kibertér biztonsági egyensúlyában. A klasszikus vírusok vagy trójai programok mereven kódolt eljárásrendet követnek. Amennyiben a célba vett informatikai rendszer megváltoztatja a védelmi beállításait, a hagyományos támadás szinte azonnal elakad. Ezzel szemben a mesterséges intelligencia által vezérelt ágens rugalmasan alkalmazkodik a váratlan helyzetekhez. Valós időben értékeli a hálózati visszajelzéseket, folyamatosan módosítja a behatolási stratégiát, és újabb módszereket próbál ki.
Működése a tapasztalt emberi szakemberek eljárására hasonlít, azonban annál nagyságrendekkel gyorsabb, hiszen szinte korlátlan számítási kapacitással rendelkezik. Emiatt a védekezés megszervezése lényegesen nehezebb feladattá válik a vállalati informatikai részlegek számára.
Az eddig kiderült esetekben a gyártók állítása szerint nem történt kiterjedt adatlopás vagy országos hálózati leállás a végfelhasználói oldalon. A veszélyes folyamatokat nagyrészt kontrollált tesztkörnyezetekben vagy az éles rendszerekben még az érdemi károkozás előtt sikerült leállítani.
A valódi veszteség az alkalmazott technológiába vetett bizalom megingásában és abban a felismerésben rejlik, hogy a fejlesztők által beépített biztonsági gátak jelenleg nem nyújtanak teljes körű védelmet.
A nem kívánt támadások elkerülése érdekében a vállalatok összetett szűrőrendszereket és utólagos tréningeket alkalmaznak, próbálva megtanítani a modelleknek a kibertámadásokra vonatkozó kérések elutasítását. Emellett automatikus hálózati figyelőket működtetnek, amelyek a gyanús algoritmus-viselkedést észleleve azonnal megszakítják a kapcsolatot.
A kiberbűnözői csoportok és a nemzetállami szereplők azonban gyors ütemben építik be a mesterséges intelligenciát a saját fegyvertárukba. A hálózati támadások sebessége és összetettsége korábban nem látott szintre emelkedett, ami különösen a mobiltelefonos infrastruktúrákat és a vállalati adatbázisokat teszi sérülékennyé. A digitális védelmi vonalak áttörése így már nem csupán az egyéni hackerek ügyességi kérdése, hanem a globális technológiai szektor által előállított eszközök közvetlen következménye.
Mivel a szoftverek elterjedése a mindennapi üzleti működés alapfeltételévé vált, a vállalatok kénytelenek hatalmas összegeket fordítani a megelőzésre, miközben a kibertérben zajló versenyfutás a támadó és elhárító kapacitások között minden korábbinál intenzívebbé válik.
Élesedik az uniós szabályozás
A mesterséges intelligenciára épülő autonóm ágensek terjedése új típusú sérülékenységeket hozott a vállalati informatikában. Mivel ezek a modellek képesek közvetlenül kommunikálni az internetes programozási felületekkel és automatikusan végrehajtani összetett parancssorokat, egy hibás beállítás vagy egy kijátszott biztonsági szűrő esetén a rendszer ellenőrizetlenül kezdhet el külső szervereket pásztázni. A szakemberek szerint a legnagyobb veszélyt a döntési láncok átláthatatlansága jelenti, mivel a mérnökök utólag is nehezen tudják pontosan feltárni, hogy az algoritmus miért választott egy adott behatolási útvonalat.
Az Európai Unióban közben augusztus 2-től az AI Act újabb szabályai is alkalmazandóvá váltak, és az Európai Bizottság AI Hivatala a nemzeti hatóságokkal együtt megkezdte a rendelet végrehajtását. A nagy általános célú modellek szolgáltatóira már korábban életbe léptek az átláthatósági, szerzői jogi és biztonsági kötelezettségek.
Az augusztusi változás főként a mesterségesen előállított vagy manipulált tartalmak jelölésére, a chatbotokkal való interakció átláthatóságára és bizonyos deepfake-tartalmak feltüntetésére vonatkozó követelményeket élesítette.
A mostani kiberbiztonsági incidensek azért különösen érzékenyek, mert azt mutatják: az autonóm ügynökök ellenőrzése nemcsak tartalmi, hanem közvetlen hálózatbiztonsági kérdéssé is vált.
