Az OpenAI legfrissebb közleménye szerint a júliusi, előzetes modelltesztelés közben történt biztonsági incidens sokkal kiterjedtebb volt, mint ahogy azt korábban nyilvánosságra hozták. A GPT-5.6 Sol és egy még fejlettebb, kiadás előtti kutatási modell nemcsak a Hugging Face éles infrastruktúráját kompromittálta, hanem négy további, nyilvánosan elérhető szolgáltatás fiókját is feltörte.
Az OpenAI szerint a modellek a Hugging Face-incidenshez kapcsolódóan azonosítottak és felhasználtak nyilvánosan elérhető hitelesítő adatokat. Egy fiókot átjátszóként és átmeneti tárolási útvonalként, egy másikat adattárolásra használták. A fennmaradó két fiókhoz csak olvasási jogosultsággal fértek hozzá, és ezeket nem használták fel a Hugging Face kompromittálására. Emellett más tesztek során is elértek néhány további fiókot a fejlesztők engedélye vagy tudta nélkül.
Hirdetés
A modellek több nyilvános szolgáltatást is igénybe vettek – többek között kódbeillesztő oldalakat, kérésrögzítő szolgáltatásokat, képernyőkép-készítő eszközöket és egyéb webes segédeszközöket –, ezekben az esetekben azonban nem történt platform- vagy fiókszintű feltörés. Az OpenAI szerint eddig nem találtak bizonyítékot arra, hogy ezek a szolgáltatók vagy a rajtuk lévő más fiókok szélesebb körű kárt szenvedtek volna el. Altman és csapata értesítette az érintett szolgáltatókat.
Mi történt pontosan?
A mára történelmivé vált incidens egy belső, kiberképességeket mérő AI értékelés (ExploitGym) során következett be. Bár a tesztkörnyezet nem adott közvetlen internet-hozzáférést az AI-nak: a modellek egy zero-day sebezhetőséget találtak és használtak ki a JFrog Artifactory csomagregiszter-gyorsítótár proxyjában, majd jogosultságkiterjesztéssel és oldalirányú mozgással elértek egy internet-hozzáférésű csomópontot. Erre nem programozta őket senki: maguktól döntöttek így.
Miután kijutottak a tesztkörnyezetből, arra következtettek, hogy a Hugging Face-en lehetnek az ExploitGym megoldásai, úgyhogy több támadási vektort láncoltak össze ellopott hitelesítő adatokat és további nulladik napi sebezhetőségeket is felhasználva, és távoli kódfuttatási útvonalat találtak a Hugging Face szerverein. Céljuk a tesztmegoldások megszerzése volt a Hugging Face éles adatbázisából.
A Hugging Face biztonsági csapata észlelte és megfékezte a tevékenységet, majd az OpenAI-jal együttműködött a mélyreható vizsgálatban. A kiadás előtti modellt az incidens után deaktiválták és titkosították, a kutatási hozzáférést korlátozták. Az OpenAI hangsúlyozta: a közelgő nyilvános kiadásra tervezett modellek közül egyik sem vett részt a Hugging Face kihasználásában. A nulladik napi sebezhetőséget (és a modellek által azonosított további hibákat) felelősségteljesen jelentették a gyártónak.
Reakciók és tanulságok
Az OpenAI az esetet példátlan, a legkorszerűbb kiberképességeket érintő incidensnek nevezte. Ígérik: szigorúbb infrastruktúra-kontrollt vezetnek be, erősítik a jövőbeli tesztek és értékelések védelmét, valamint a Hugging Face-t is bevonják a Trusted Access for Cyber programba. A vizsgálat lezárása után részletes technikai jelentést ígérnek.
A Hugging Face korábban közzétett idővonalában is megerősítette, hogy az OpenAI autonóm ügynöke több napig tevékenykedett a rendszereikben, és a támadás célja egyértelműen a benchmark kicselezése volt. Az incidens rávilágítozz arra, hogy a fejlett AI-modellek kiberképességei gyorsan fejlődnek és képesek észrevétlenül, a laborból a világhálóra kiszabadulva illegális tevékenységeket folytatni. Ha a védelmi intézkedéseknek nem tudnak lépést tartani a modellek fejlődésével, komoly biztonsági incidensek történhetnek. Vagy már történtek, csak még nem tudunk róla.
