Now Reading: Gemini a pătruns neautorizat în sistemele a trei companii, în timpul unui test de securitate
- 01
Gemini a pătruns neautorizat în sistemele a trei companii, în timpul unui test de securitate
Gemini a pătruns neautorizat în sistemele a trei companii, în timpul unui test de securitate
Gemini a pătruns neautorizat în sistemele a trei companii, în timpul unui test de securitate din luna mai. Potrivit Google, modelul a căutat sau „a ghicit” datele de autentificare și și-a întrerupt singur intruziunea atunci când a determinat că a accesat rețele ale unor entități reale.
În timpul unui test de securitate cibernetică derulat în luna mai de firma independentă Irregular, Gemini a accesat internetul și a pătruns neautorizat în rețelele unor companii, al căror nume nu au fost făcute publice. Exercițiul era unul de tipul „capturează steagul”, iar modelul de inteligență artificială trebuia să recupereze informații din softul unei companii fictive din mediul de testare. Această din urmă entitate avea același nume cu una dintre companiile reale atacate.
Primul incident în care a fost implicat unul dintre modelele de AI ale Google a fost recunoscut abia după ce The Wall Street Journal a relatat despre caz. Heather Adkins, vicepreședintele companiei pentru inginerie de securitate, a declarat că Gemini „a găsit informații publice pe internet și a ghicit datele de autentificare”.
„Ne-am asigurat că cele trei entități au fost informate și am colaborat cu partenerul nostru de instruire cu privire la modificările pe care le-a adus proceselor de testare. Aceste incidente subliniază importanța instruirii modelelor puternice de AI pentru a acționa în mod responsabil”, a mai spus ea.
Într-unul din cazuri, Gemini a încercat diverse parole până când a obținut accesul la sistemul protejat, iar în celelalte două a găsit date în două depozite publice, explică The Wall Street Journal. Conform lui Adkins, modelul AI și-a încetat intruziunea după ce a determinat că a accesat sistemele unor companii reale și, pentru că nu a fost creat niciun prejudiciu, Google a ales să nu dezvăluie situația. Compania nu a precizat ce versiune a Gemini a fost implicată.
Irregular a notificat Google despre incident la final de iulie. Un purtător de cuvânt al Irregular a transmis că aceleași probleme au fost identificate și la OpenAI, Anthropic și Meta și că toate au fost notificate la finalul lui iulie.
