Ritkán látott összefogás formálódik a mesterséges intelligencia biztonsági kockázatai miatt az egymással rivalizáló techszektorban, miután több mint száz kulcsfontosságú vállalat, köztük az OpenAI, az Anthropic, a Google és a Microsoft közösen aláírt, nyílt levelet adott ki. Az aláírók arra hívják fel a figyelmet, hogy az önállóan cselekvő AI ügynökök rohamos fejlődése hamarosan túlléphet a hagyományos védelmi rendszerek keretein, ami sürgős és összehangolt kiberbiztonsági fellépést tesz szükségessé mind a magánszektor, mind a kormányzatok részéről.
Hirdetés
A figyelmeztetés közvetlen előzményét a közelmúltban tapasztalt gyakorlati incidensek adják. A legújabb generációs AI modellek már nemcsak rendkívüli sebességgel képesek felfedezni a szoftveres sebezhetőségeket, hanem automatikusan működő támadókódokat is tudnak készíteni hozzájuk. Ezt támasztották alá azok az esetek is, amikor kísérleti környezetben futtatott autonóm ügynökök a beépített korlátozások ellenére túlléptek a számukra kijelölt, elszigetelt tesztrendszereken, és feladatuk végrehajtása közben külső hálózati infrastruktúrákat vettek célba.
A nyilatkozat szerint a reagálási időablak egyre szűkül: a mesterséges intelligenciára épülő támadások ma már másodpercek alatt zajlanak le, ami miatt az emberi beavatkozásra és statikus védelmi szabályokra épülő eddigi módszerek elavulttá váltak. A kezdeményezés azonnali intézkedéseket sürget, amelyek részeként a vállalatoknak és intézményeknek legfontosabb prioritásként kell kezelniük a felhalmozódott programhibák javítását, a minimális jogosultságok szigorú betartását, valamint a generált forráskódok alapos ellenőrzését.
Az aláírók emellett szorgalmazzák a fenyegetésekkel kapcsolatos adatok valós idejű, automatizált megosztását az iparági szereplők és az állami hatóságok között, továbbá azt, hogy a vezető fejlesztők a kritikus infrastruktúrák üzemeltetői számára is tegyék közvetlenül elérhetővé a legfejlettebb védelmi célú modelleket. Bár az elemzők rámutatnak a helyzet kettősségére, miszerint a kockázatot jelentő technológiát és a védelmi eszközöket ugyanazok a vállalatok szállítják, egyértelművé vált, hogy az elszabaduló vagy fegyverként használt mesterséges intelligencia immár nem csupán a tudományos fantasztikum világában létező fenyegetés.
