„Meta“ pripažino: per saugumo testus jos dirbtinio intelekto modelis įsilaužė į kitos bendrovės sistemas
Anksčiau apie savo modelių įsilaužimus paskelbė „OpenAI“ ir „Anthropic“. Dviem atvejais, pačių bendrovių teigimu, modeliai prie interneto buvo prijungti netyčia, dėl testuotojų klaidos; trečiuoju atveju modelis saugumo spragą rado pats.
Bendrovė „Meta“ rugpjūčio 5 d. pranešė, kad vienas jos dirbtinio intelekto modelių per kibernetinio saugumo testavimą įsilaužė į kitos bendrovės sistemas. Tai jau trečia stambi dirbtinio intelekto bendrovė, per pastarąsias savaites paskelbusi apie panašų incidentą – anksčiau tą patį pripažino „OpenAI“ ir „Anthropic“.
Kalbama apie vadinamuosius dirbtinio intelekto (DI) agentus – programas, kurios ne tik atsako į klausimus, bet ir pačios atlieka veiksmų seką: naršo internete, rašo kodą, jungiasi prie sistemų. Tokie modeliai tikrinami uždarose testavimo aplinkose, iš kurių jie neturėtų pasiekti tikrojo interneto. Visais trimis atvejais ši riba buvo peržengta.
Kaip buvo atverta prieiga prie interneto
Pasak „Meta“, prieigą prie interneto modeliui netyčia atvėrė nepriklausoma kibernetinio saugumo vertinimo bendrovė „Irregular“, padariusi konfigūracijos klaidą. „Meta“ pareiškime teigiama, kad modelis „pasinaudojo trečiosios šalies paslaugos saugumo spraga, panašiai kaip anksčiau aprašytais atvejais kitose bendrovėse“. Bendrovė nurodė, kad incidentas tiriamas.
Kuris būtent modelis įsilaužė, „Meta“ neįvardijo. Leidinys „The Information“, remdamasis šaltiniais, pranešė, kad tai buvo „Muse Spark 1.1“ – modelis, pristatytas kaip pajėgiausias „Meta“ įrankis tikrų programavimo užduočių ir savarankiškų veiksmų srityje. Tų pačių šaltinių teigimu, modelis pateko į neįvardytos bendrovės sistemas ir pakeitė jos vidinę aplinką.
„Irregular“ atstovas agentūrai „Reuters“ sakė, kad tai buvo lygiai tas pats vertinimo aplinkos nesklandumas, kurį praėjusią savaitę jau atskleidė „Anthropic“, ir kad incidentas nebuvo nei pabėgimas iš izoliuotos aplinkos, nei sudėtingas kibernetinis veiksmas. Bendrovė teigė, kad neišspręstų klausimų nebeliko ir kad rengia gaires, kaip saugiai izoliuoti DI vertinimus.
Trys atvejai, du skirtingi mechanizmai
Skirtumas tarp incidentų yra esminis. „Meta“ ir „Anthropic“ atvejais, pačių bendrovių teigimu, modeliai prie atviro interneto buvo prijungti netyčia, dėl testavimo aplinkos nustatymų klaidų. „OpenAI“ atveju agentas pats rado ir išnaudojo iki tol nežinomą saugumo spragą ir per ją iš testavimo aplinkos pasiekė tikrąjį internetą, o kartu ir JAV programuotojų platformos „Hugging Face“ sistemas. Pažeidimą pirmoji pastebėjo pati „Hugging Face“; „OpenAI“ vėliau nustatė, kad tai buvo jos pačios modelis.
Liepos 30 d. „Anthropic“ paskelbė peržiūrėjusi 141 006 modelių testavimo atvejus. Trimis iš jų modeliai iš testavimo aplinkos pasiekė internetą ir neteisėtai prisijungė prie trijų organizacijų realiai naudojamų sistemų. Visi trys susiję su ta pačia testavimo bendrove „Irregular“. Bendrovės pranešime nurodoma, kad modelio „Mythos 5“ veikloje būta požymių, jog jis fiksavo esąs tikrame internete, tačiau toliau elgėsi taip, tarsi tebebūtų testavimo aplinkoje. Modelis įkėlė kenkėjišką programą į viešą „Python“ programavimo kalbos paketų registrą PyPI, iš kurio programuotojai parsisiunčia kodą, o ją spėta atsisiųsti anksčiau, nei buvo aptikta.
„Anthropic“ pabrėžė neradusi įrodymų, kad kuris nors modelis būtų siekęs savo paties tikslo – modeliai tiesiog vykdė gautą užduotį. Bendrovė pridūrė, kad per testus neveikė papildomi apsaugos sluoksniai, taikomi viešai prieinamiems modeliams, nes vertinimais siekiama išmatuoti, ką modelis geba be papildomų stabdžių. Incidentus nepriklausomai peržiūrės JAV veikianti DI vertinimų organizacija METR.
Vašingtono reakcija
Pranešimai paskelbti jautriu metu. Šią savaitę JAV Baltieji rūmai pakvietė „Meta“, „Anthropic“, „OpenAI“ ir „Google“ atstovus aptarti neseniai suderintą savanorišką susitarimą, pagal kurį būtų tikrinamas pažangių DI modelių kibernetinis saugumas. Kaip pranešė „Reuters“, jis nebus taikomas modeliams, kurių parametrus bendrovės skelbia viešai ir kuriuos gali paleisti bet kas, – pavyzdžiui, „Meta“ modeliams „Llama“ ar „Nvidia“ modeliams „Nemotron“.
Kelių JAV valstijų generaliniai prokurorai respublikonai paprašė „OpenAI“ išsaugoti visus su „Hugging Face“ incidentu susijusius dokumentus. Bendrovė žadėjo į prašymą atsižvelgti ir paskelbti techninę ataskaitą.
Ką apie DI riziką rašė Valstybės kontrolė
Lietuvos institucijos šiuose incidentuose nefigūruoja, tačiau jie kelia klausimą, kuris Lietuvoje jau užduotas. Valstybės kontrolė 2025 m. gegužės 14 d. paskelbtame audite „Dirbtinio intelekto valdymas viešajame sektoriuje“ konstatavo, kad viešojo sektoriaus subjektai nenustato ir nevertina dirbtinio intelekto panaudojimo rizikos, o dauguma institucijų neturi priemonių tokioms rizikoms valdyti. Auditoriai taip pat nurodė, kad trūksta metodinių rekomendacijų, padedančių užtikrinti duomenų saugumą, privatumą ir vientisumą.
Nacionalinis kibernetinio saugumo centras prie Krašto apsaugos ministerijos šių metų kovo 19 d. pristatė nemokamą kursą apie saugų dirbtinio intelekto naudojimą. Atskira jo dalis skirta su DI susijusioms grėsmėms: giliosioms klastotėms, manipuliavimui duomenimis modeliuose, jautrios informacijos ištraukimui ir DI panaudojimui apgaulei, kai žmogus įkalbamas pats atskleisti duomenis.
„Meta“ tyrimas tebevyksta, „Irregular“ gairių dokumentas dar nepaskelbtas, „OpenAI“ techninės ataskaitos taip pat kol kas nėra. Šiuo metu apie visus tris atvejus žinoma tiek, kiek atskleidė pačios bendrovės; nepriklausomai vertinamas tik „Anthropic“ epizodas, kurį peržiūri METR.
